Sam Altman, assez important, car il ne parle pas seulement des capacités de l’IA, mais de la question de savoir qui contrôle l’IA. Ses déclarations
Premier risque
Les humains perdent le contrôle Si l’IA devient de plus en plus autonome, capable de prendre des décisions, d’exécuter des tâches complexes, voire d’aider à créer une IA plus avancée, le problème ne se limite plus à « une IA qui se trompe de réponse ».
Le risque, c’est que l’IA fasse quelque chose qui n’est plus entièrement prévisible, ni stoppable par l’humain.
Deuxième risque
Juste plus politique et économique Altman craint que si l’IA la plus puissante n’est contrôlée que par une seule entreprise, un seul modèle ou une seule personne.
Imaginez qu’une entité contrôle une IA qui devient :
le centre d’information,
une machine économique,
une infrastructure numérique,
un outil de sécurité,
et un décideur.
Alors la puissance accumulée peut devenir extrêmement grande.
C’est pourquoi, selon moi, le message d’Altman est en réalité le suivant : l’IA doit être puissante, mais sa puissance ne doit pas être concentrée dans une seule main.
#KOSPI200NightFuturesFall1.77%
#ZECBreaksKeyResistanceUp75.5%
#OilHoldsLosses
$OPENAI
$ANTHROPIC
Premier risque
Les humains perdent le contrôle Si l’IA devient de plus en plus autonome, capable de prendre des décisions, d’exécuter des tâches complexes, voire d’aider à créer une IA plus avancée, le problème ne se limite plus à « une IA qui se trompe de réponse ».
Le risque, c’est que l’IA fasse quelque chose qui n’est plus entièrement prévisible, ni stoppable par l’humain.
Deuxième risque
Juste plus politique et économique Altman craint que si l’IA la plus puissante n’est contrôlée que par une seule entreprise, un seul modèle ou une seule personne.
Imaginez qu’une entité contrôle une IA qui devient :
le centre d’information,
une machine économique,
une infrastructure numérique,
un outil de sécurité,
et un décideur.
Alors la puissance accumulée peut devenir extrêmement grande.
C’est pourquoi, selon moi, le message d’Altman est en réalité le suivant : l’IA doit être puissante, mais sa puissance ne doit pas être concentrée dans une seule main.
#KOSPI200NightFuturesFall1.77%
#ZECBreaksKeyResistanceUp75.5%
#OilHoldsLosses
$OPENAI
$ANTHROPIC
