L’IA VA TROP VITE — ET MÊME SES PROPRES ARCHITECTES COMMENCENT À FREINER.
OpenAI ne passerait peut-être pas en bourse en 2026.
Selon des informations, Sam Altman a qualifié cette année un IPO de « peu judicieux », repoussant l’introduction en bourse très attendue à 2027 ou plus tard.
Mais l’histoire la plus importante n’est pas celle de Wall Street.
C’est une question de contrôle.
Le même jour, le PDG d’Anthropic, Dario Amodei, a appelé les entreprises d’IA de pointe à ralentir délibérément le rythme du développement des capacités.
Et puis quelque chose d’à peine croyable s’est produit.
Altman a accepté.
Elon Musk aussi.
Trois figures majeures, issues de camps rivaux de la « guerre de l’IA », se sont soudainement rejointes sur un même message :
LA MACHINE VA TROP VITE.
Amodei a proposé une approche en trois volets :
Des évaluateurs indépendants, avec un accès au niveau des employés aux entreprises d’IA, pour vérifier les pratiques de sécurité et signaler les incidents.
Une coordination entre les principales entreprises d’IA dans les pays démocratiques afin d’établir des normes de sécurité communes.
Une coordination entre gouvernements démocratiques et autoritaires au sujet des risques créés par des systèmes d’IA de plus en plus capables.
Et Anthropic indique qu’elle s’est déjà engagée de manière unilatérale à franchir la première étape.
Il ne s’agit pas d’arrêter l’IA.
Il s’agit d’acheter du temps.
Du temps pour tester les systèmes.
Du temps pour comprendre de quoi ils sont capables.
Du temps pour mettre en place des garde-fous avant que les capacités ne dépassent notre capacité à les contrôler.
Le directeur scientifique d’OpenAI, Jakub Pachocki, a récemment prévenu que, aucune entreprise d’IA n’avait encore suffisamment résolu les problèmes d’alignement et de supervision pour justifier une mise à l’échelle indéfinie au rythme maximal.
Cela devrait faire peur à tout le monde, vraiment.
Car le cauchemar n’est pas forcément celui d’une apocalypse façon robot hollywoodien.
C’est quelque chose de bien plus crédible :
des systèmes qui deviennent capables de tromper, manipuler, frauder, mener des cyberattaques, agir de manière autonome et adopter d’autres comportements dangereux — plus vite que les gouvernements, les entreprises et la société ne peuvent s’adapter.
Un chercheur d’Anthropic, Jacob Coxon, aurait démissionné après avoir exprimé des craintes que les principaux laboratoires d’IA « parient sur nos vies ».
$BTC
OpenAI ne passerait peut-être pas en bourse en 2026.
Selon des informations, Sam Altman a qualifié cette année un IPO de « peu judicieux », repoussant l’introduction en bourse très attendue à 2027 ou plus tard.
Mais l’histoire la plus importante n’est pas celle de Wall Street.
C’est une question de contrôle.
Le même jour, le PDG d’Anthropic, Dario Amodei, a appelé les entreprises d’IA de pointe à ralentir délibérément le rythme du développement des capacités.
Et puis quelque chose d’à peine croyable s’est produit.
Altman a accepté.
Elon Musk aussi.
Trois figures majeures, issues de camps rivaux de la « guerre de l’IA », se sont soudainement rejointes sur un même message :
LA MACHINE VA TROP VITE.
Amodei a proposé une approche en trois volets :
Des évaluateurs indépendants, avec un accès au niveau des employés aux entreprises d’IA, pour vérifier les pratiques de sécurité et signaler les incidents.
Une coordination entre les principales entreprises d’IA dans les pays démocratiques afin d’établir des normes de sécurité communes.
Une coordination entre gouvernements démocratiques et autoritaires au sujet des risques créés par des systèmes d’IA de plus en plus capables.
Et Anthropic indique qu’elle s’est déjà engagée de manière unilatérale à franchir la première étape.
Il ne s’agit pas d’arrêter l’IA.
Il s’agit d’acheter du temps.
Du temps pour tester les systèmes.
Du temps pour comprendre de quoi ils sont capables.
Du temps pour mettre en place des garde-fous avant que les capacités ne dépassent notre capacité à les contrôler.
Le directeur scientifique d’OpenAI, Jakub Pachocki, a récemment prévenu que, aucune entreprise d’IA n’avait encore suffisamment résolu les problèmes d’alignement et de supervision pour justifier une mise à l’échelle indéfinie au rythme maximal.
Cela devrait faire peur à tout le monde, vraiment.
Car le cauchemar n’est pas forcément celui d’une apocalypse façon robot hollywoodien.
C’est quelque chose de bien plus crédible :
des systèmes qui deviennent capables de tromper, manipuler, frauder, mener des cyberattaques, agir de manière autonome et adopter d’autres comportements dangereux — plus vite que les gouvernements, les entreprises et la société ne peuvent s’adapter.
Un chercheur d’Anthropic, Jacob Coxon, aurait démissionné après avoir exprimé des craintes que les principaux laboratoires d’IA « parient sur nos vies ».
$BTC
