【Alerte interne : le risque d’extinction mondiale par l’IA, et l’officialité a répondu : « ça ne m’inquiète pas du tout » 🤖】
Ajoutez le groupe de fans de X Monsieur sur la page d’accueil 🔥
Le responsable de l’alignement chez Anthropic, Hubinger, a lâché une phrase. Il affirme que, dans les dix prochaines années, la probabilité que l’IA anéantisse l’humanité dépassera 10 % — ce sont ses mots. L’un de ses collègues en a même démissionné sur-le-champ, estimant que les deux grandes sociétés de pointe jouent la vie des gens à la roulette. La même semaine, une douzaine d’insiders d’OpenAI et d’Anthropic ont publiquement lancé un appel : ralentir d’abord. Interrogés par des journalistes sur cette affaire, les responsables n’ont répondu qu’une seule chose : « Je ne m’inquiète absolument pas. »
Commencez par distinguer deux types d’inquiétude. L’une consiste à craindre qu’un jour l’IA perde soudainement le contrôle. L’autre consiste à craindre que l’IA commence à se modifier elle-même. Cette dernière est ce qu’ils redoutent vraiment : Anthropic l’appelle l’« amélioration récursive de soi ». Si l’IA peut contribuer à concevoir la prochaine génération de modèles, l’avancement ne dépend plus des humains, et n’est plus non plus soumis aux contraintes contractuelles.
Ce qui vaut vraiment le coup d’être observé, c’est la vitesse. Anthropic l’a lui-même divulgué : la quantité de code livrée par les ingénieurs aujourd’hui en un trimestre est 8 fois la moyenne des niveaux 2021 à 2025. Désormais, les principaux rédacteurs de code sont l’IA ; les humains ne font plus que des validations. Or, la vitesse de validation humaine n’a pas augmenté en conséquence. C’est là que réside le problème : les capacités progressent, mais le frein reste tenu par une poignée de personnes.
Pour la cryptographie, cette ligne n’est pas si loin — elle est même déjà à la porte. Plus l’IA est puissante, plus le pouvoir de fixation du prix en matière de puissance de calcul et de données se concentre entre les mains de quelques entreprises. Le point fort de la cryptographie, c’est d’être vérifiable et traçable : cela complète précisément l’étape que l’IA a le plus de mal à expliquer clairement. Ainsi, chaque fois qu’une panique sur la sécurité de l’IA éclate, on ressort toujours l’histoire de la puissance de calcul décentralisée et de la validation on-chain. C’est aussi la raison pour laquelle ce type de narration peut être remis maintes fois sur la table pour être négocié.
Et vous, pensez-vous que cette prochaine controverse sur la sécurité de l’IA se concrétisera d’abord par la réglementation, ou que la technique passera d’abord ? Parlez-en dans les commentaires.
Ajoutez le groupe de fans de X Monsieur sur la page d’accueil 🔥
Le responsable de l’alignement chez Anthropic, Hubinger, a lâché une phrase. Il affirme que, dans les dix prochaines années, la probabilité que l’IA anéantisse l’humanité dépassera 10 % — ce sont ses mots. L’un de ses collègues en a même démissionné sur-le-champ, estimant que les deux grandes sociétés de pointe jouent la vie des gens à la roulette. La même semaine, une douzaine d’insiders d’OpenAI et d’Anthropic ont publiquement lancé un appel : ralentir d’abord. Interrogés par des journalistes sur cette affaire, les responsables n’ont répondu qu’une seule chose : « Je ne m’inquiète absolument pas. »
Commencez par distinguer deux types d’inquiétude. L’une consiste à craindre qu’un jour l’IA perde soudainement le contrôle. L’autre consiste à craindre que l’IA commence à se modifier elle-même. Cette dernière est ce qu’ils redoutent vraiment : Anthropic l’appelle l’« amélioration récursive de soi ». Si l’IA peut contribuer à concevoir la prochaine génération de modèles, l’avancement ne dépend plus des humains, et n’est plus non plus soumis aux contraintes contractuelles.
Ce qui vaut vraiment le coup d’être observé, c’est la vitesse. Anthropic l’a lui-même divulgué : la quantité de code livrée par les ingénieurs aujourd’hui en un trimestre est 8 fois la moyenne des niveaux 2021 à 2025. Désormais, les principaux rédacteurs de code sont l’IA ; les humains ne font plus que des validations. Or, la vitesse de validation humaine n’a pas augmenté en conséquence. C’est là que réside le problème : les capacités progressent, mais le frein reste tenu par une poignée de personnes.
Pour la cryptographie, cette ligne n’est pas si loin — elle est même déjà à la porte. Plus l’IA est puissante, plus le pouvoir de fixation du prix en matière de puissance de calcul et de données se concentre entre les mains de quelques entreprises. Le point fort de la cryptographie, c’est d’être vérifiable et traçable : cela complète précisément l’étape que l’IA a le plus de mal à expliquer clairement. Ainsi, chaque fois qu’une panique sur la sécurité de l’IA éclate, on ressort toujours l’histoire de la puissance de calcul décentralisée et de la validation on-chain. C’est aussi la raison pour laquelle ce type de narration peut être remis maintes fois sur la table pour être négocié.
Et vous, pensez-vous que cette prochaine controverse sur la sécurité de l’IA se concrétisera d’abord par la réglementation, ou que la technique passera d’abord ? Parlez-en dans les commentaires.
