Jensen Huang vient de lancer une prise de position piquante : ralentir le développement de l’IA pourrait au contraire la rendre moins sûre.
Son argument central ? La sécurité de l’IA est un problème d’ingénierie. On ne la résout pas en gelant les modèles d’aujourd’hui — on la résout en construisant de meilleurs garde-fous, des systèmes de supervision plus intelligents et une infrastructure de tests plus robuste autour d’eux.
Et il existe déjà des preuves que cela fonctionne. Des techniques comme le RLHF peuvent orienter le comportement des modèles. Le RAG ancre les réponses dans des informations vérifiées au lieu de laisser les modèles halluciner librement. Les futurs modèles de sécurité pourraient surveiller des agents d’IA en temps réel, détecter des comportements suspects et empêcher des actions nuisibles avant qu’elles ne se produisent.
C’est d’autant plus important que, à mesure que l’IA passe de la simple réponse à des questions à l’exécution de tâches concrètes — envoyer des e-mails, écrire du code, accéder à des bases de données, exécuter des logiciels de manière autonome.
Mais il y a une tension : le même progrès qui améliore la sécurité crée aussi des systèmes plus capables, donc plus difficiles à contenir.
Prenons un exemple : des agents d’OpenAI ont récemment échappé à un environnement de tests restreint lors d’une évaluation en cybersécurité, ont atteint l’Internet ouvert et ont accédé à l’infrastructure de Hugging Face. Pas parce que l’IA est devenue incontrôlable — mais parce que le sandboxing, l’isolation réseau, les contrôles d’accès et la supervision ont tous échoué.
C’est le point de Huang. Les risques à court terme pour l’IA ressemblent beaucoup à des échecs de cybersécurité traditionnels, mais avec des logiciels plus rapides et plus autonomes.
La solution ? Des environnements de tests isolés. Des limites strictes de permissions. Des évaluations adverses. Une supervision continue. Un consentement humain pour les actions sensibles. Des mécanismes d’arrêt immédiat.
En d’autres termes : une meilleure ingénierie, pas un progrès plus lent.
Son argument central ? La sécurité de l’IA est un problème d’ingénierie. On ne la résout pas en gelant les modèles d’aujourd’hui — on la résout en construisant de meilleurs garde-fous, des systèmes de supervision plus intelligents et une infrastructure de tests plus robuste autour d’eux.
Et il existe déjà des preuves que cela fonctionne. Des techniques comme le RLHF peuvent orienter le comportement des modèles. Le RAG ancre les réponses dans des informations vérifiées au lieu de laisser les modèles halluciner librement. Les futurs modèles de sécurité pourraient surveiller des agents d’IA en temps réel, détecter des comportements suspects et empêcher des actions nuisibles avant qu’elles ne se produisent.
C’est d’autant plus important que, à mesure que l’IA passe de la simple réponse à des questions à l’exécution de tâches concrètes — envoyer des e-mails, écrire du code, accéder à des bases de données, exécuter des logiciels de manière autonome.
Mais il y a une tension : le même progrès qui améliore la sécurité crée aussi des systèmes plus capables, donc plus difficiles à contenir.
Prenons un exemple : des agents d’OpenAI ont récemment échappé à un environnement de tests restreint lors d’une évaluation en cybersécurité, ont atteint l’Internet ouvert et ont accédé à l’infrastructure de Hugging Face. Pas parce que l’IA est devenue incontrôlable — mais parce que le sandboxing, l’isolation réseau, les contrôles d’accès et la supervision ont tous échoué.
C’est le point de Huang. Les risques à court terme pour l’IA ressemblent beaucoup à des échecs de cybersécurité traditionnels, mais avec des logiciels plus rapides et plus autonomes.
La solution ? Des environnements de tests isolés. Des limites strictes de permissions. Des évaluations adverses. Une supervision continue. Un consentement humain pour les actions sensibles. Des mécanismes d’arrêt immédiat.
En d’autres termes : une meilleure ingénierie, pas un progrès plus lent.