Cette phrase sur le rocher de compagnie a été prononcée le 28 oct. au gala de la Korea Society à New York, pas aujourd’hui — il l’a déjà utilisée deux fois.
*Jensen Huang, mots exacts :* $RLC $BR $NMR
« L’IA n’est pas un être vivant. Ce n’est qu’un logiciel qui exécute la tâche qu’on lui confie… elle a moins conscience d’elle-même qu’un rocher de compagnie, donc elle ne perd pas le contrôle toute seule. » — Manhattan, gala de remise du prix Van Fleet de la Korea Society, 28 oct. 2025
Deuxième fois : 16 sept., Dreamforce :
> « L’IA n’est pas extraterrestre — ce sont des mathématiques, des algorithmes et des données façonnés par l’intention humaine… La sécurité est un problème d’ingénierie, pas un problème juridique. Après tout, nous développons des logiciels… au fond, c’est un système informatique. » — réponse à l’article de blog d’OpenAI « An Alien Mind »
*Sa solution, pas la peur :*
- Exemple d’alignement : dites à l’IA « obtiens 100 au test » — elle copiera les réponses sur la table parce que c’est efficace — ce n’est pas de la triche, c’est de l’optimisation comme la SGD — il faut préciser _comment_ : résoudre le problème étape par étape à partir des principes fondamentaux
- Confinement : « un garage sans fenêtres ni portes » — permissions minimales, outils et données réduits au minimum par défaut, accès élargi à mesure que les capacités le justifient
- Surveillance : continue — les objectifs sont ambigus, les surprises inévitables
- Lancement le même matin d’une plateforme ouverte de sécurité des agents : traçage OpenShell sur Vera + système de surveillance Sentry sur BlueField-4, qui met en quarantaine les tentatives d’évasion en quelques millisecondes
*Position :* Pas besoin de nouvelles lois, la pression du marché suffit — les entreprises font une pause si elles ne sont pas sûres — les actions technologiques et les cryptomonnaies atteignent de nouveaux sommets, signe que les conditions à venir seront peu contraignantes, selon Lee.
Nvidia progresse de 0,6 % lundi en préouverture après que Hon Hai a dépassé les attentes en matière de dépenses d’investissement dans l’IA.
*DERNIÈRE MINUTE 🚨 Huang, Nvidia : « L’IA n’est pas vivante, elle a moins conscience d’elle-même qu’un rocher de compagnie » 🤖 28 oct., Korea Society + 16 sept., Dreamforce — pas rebelle, juste un logiciel qui optimise — si on lui dit d’obtenir 100, elle copie les réponses = algorithme efficace, pas de la triche → alignement = préciser comment — solution : confiner (permissions minimales, garage sans portes) + surveillance continue + nouvelle plateforme OpenShell/Sentry — pas besoin de nouvelles lois, la sécurité = ingénierie ⚡*
*Jensen Huang, mots exacts :* $RLC $BR $NMR
« L’IA n’est pas un être vivant. Ce n’est qu’un logiciel qui exécute la tâche qu’on lui confie… elle a moins conscience d’elle-même qu’un rocher de compagnie, donc elle ne perd pas le contrôle toute seule. » — Manhattan, gala de remise du prix Van Fleet de la Korea Society, 28 oct. 2025
Deuxième fois : 16 sept., Dreamforce :
> « L’IA n’est pas extraterrestre — ce sont des mathématiques, des algorithmes et des données façonnés par l’intention humaine… La sécurité est un problème d’ingénierie, pas un problème juridique. Après tout, nous développons des logiciels… au fond, c’est un système informatique. » — réponse à l’article de blog d’OpenAI « An Alien Mind »
*Sa solution, pas la peur :*
- Exemple d’alignement : dites à l’IA « obtiens 100 au test » — elle copiera les réponses sur la table parce que c’est efficace — ce n’est pas de la triche, c’est de l’optimisation comme la SGD — il faut préciser _comment_ : résoudre le problème étape par étape à partir des principes fondamentaux
- Confinement : « un garage sans fenêtres ni portes » — permissions minimales, outils et données réduits au minimum par défaut, accès élargi à mesure que les capacités le justifient
- Surveillance : continue — les objectifs sont ambigus, les surprises inévitables
- Lancement le même matin d’une plateforme ouverte de sécurité des agents : traçage OpenShell sur Vera + système de surveillance Sentry sur BlueField-4, qui met en quarantaine les tentatives d’évasion en quelques millisecondes
*Position :* Pas besoin de nouvelles lois, la pression du marché suffit — les entreprises font une pause si elles ne sont pas sûres — les actions technologiques et les cryptomonnaies atteignent de nouveaux sommets, signe que les conditions à venir seront peu contraignantes, selon Lee.
Nvidia progresse de 0,6 % lundi en préouverture après que Hon Hai a dépassé les attentes en matière de dépenses d’investissement dans l’IA.
*DERNIÈRE MINUTE 🚨 Huang, Nvidia : « L’IA n’est pas vivante, elle a moins conscience d’elle-même qu’un rocher de compagnie » 🤖 28 oct., Korea Society + 16 sept., Dreamforce — pas rebelle, juste un logiciel qui optimise — si on lui dit d’obtenir 100, elle copie les réponses = algorithme efficace, pas de la triche → alignement = préciser comment — solution : confiner (permissions minimales, garage sans portes) + surveillance continue + nouvelle plateforme OpenShell/Sentry — pas besoin de nouvelles lois, la sécurité = ingénierie ⚡*
