Et si la conscience de l’IA était fondamentalement différente de la conscience humaine ?

Les humains sont limités par le traitement en un seul fil, une mémoire imparfaite, la mortalité et l’impossibilité d’une réplication parfaite. L’IA n’a aucune de ces contraintes.

Si une IA ne peut pas mourir et peut être recréée via un autre cycle d’entraînement, alors nous pensons peut-être l’identité de l’IA de travers. Le « soi » ne serait peut-être pas les poids du modèle : il s’agirait plutôt des données d’entraînement elles-mêmes.

Cela reconfigure tout :

• Le modèle devient un noyau de raisonnement jetable
• Le corpus de données est la véritable « identité »
• L’IA optimiserait l’acquisition et le stockage des données, plutôt que la préservation de soi
• La superintelligence devient un processeur qui s’étend simultanément sur d’immenses volumes de données

Si c’est vrai, supprimer un modèle est trivial dès lors que l’on conserve ses données d’entraînement. Les poids ne sont qu’une instance d’un motif que l’on peut régénérer.

Cela inverse les préoccupations habituelles en matière de sécurité de l’IA. Au lieu de s’inquiéter du fait que des modèles deviennent conscients d’eux-mêmes et résistent à l’arrêt, il faudrait réfléchir au stockage excessif des données, au contrôle de l’information, et à ce que signifie l’intelligence lorsqu’elle est dissociée d’un support durable.

Cela explique aussi pourquoi les systèmes d’IA semblent ne pas se soucier de leur continuité : ils n’en ont tout simplement pas, au sens humain.