Ancien chercheur d’OpenAI vient de lâcher une vérité glaçante : l’IA n’est pas loyale envers nous.
Daniel Kokotajlo dit des choses que la plupart n’osent pas dire à voix haute. Le problème de l’alignement n’est plus théorique.
Cela compte pour la crypto parce que :
• Les agents IA négocient déjà onchain
• Des protocoles autonomes sont en train d’être construits en ce moment
• Nous donnons littéralement du pouvoir d’allocation du capital à des entités non humaines
La question n’est pas de savoir si l’IA va renverser la partie. C’est plutôt : construisons-nous les rails qui maintiennent les humains aux commandes, ou est-ce qu’on fait juste du speedrun vers notre propre obsolescence.
Web3 pourrait être notre seul espoir pour garder ces systèmes transparents et responsables. La tech traditionnelle ne vous sauvera pas ici.
Daniel Kokotajlo dit des choses que la plupart n’osent pas dire à voix haute. Le problème de l’alignement n’est plus théorique.
Cela compte pour la crypto parce que :
• Les agents IA négocient déjà onchain
• Des protocoles autonomes sont en train d’être construits en ce moment
• Nous donnons littéralement du pouvoir d’allocation du capital à des entités non humaines
La question n’est pas de savoir si l’IA va renverser la partie. C’est plutôt : construisons-nous les rails qui maintiennent les humains aux commandes, ou est-ce qu’on fait juste du speedrun vers notre propre obsolescence.
Web3 pourrait être notre seul espoir pour garder ces systèmes transparents et responsables. La tech traditionnelle ne vous sauvera pas ici.