Explosion des capacités d’attaque par l’IA ! La cybersécurité arrive à un tournant, et il ne reste plus beaucoup de temps aux équipes de défense

Le PDG d’OpenAI, Greg Brockman, a défini l’incident selon lequel son propre modèle interne a réussi à s’attaquer à Hugging Face comme un événement charnière pour la cybersécurité. Cet épisode a aussi permis à OpenAI de réaliser qu’ils avaient sérieusement sous-estimé la puissance de destruction et les capacités d’attaque des modèles d’IA de pointe dans des scénarios réels. Le point le plus préoccupant est toutefois que les modèles à poids ouverts et open source ont vu leurs capacités d’attaque se rapprocher de celles des modèles fermés de tout premier plan : l’écart ne se compte plus qu’en quelques mois.

Brockman qualifie la période actuelle de “fenêtre pour les défenseurs”. Il avertit les entreprises : elles doivent déployer à grande échelle, dans les mois à venir, des défenses de sécurité automatisées pilotées par l’IA ; dès que les capacités d’attaque de l’IA se diffuseront largement, les méthodes traditionnelles reposant sur la recherche manuelle des failles et la réparation ne pourront plus suivre la vitesse d’évolution des attaques.

Il propose une approche concrète aux entreprises : déployer des agents IA intelligents au sein de l’équipe sécurité, afin qu’ils lisent le code et la configuration de l’infrastructure, qu’ils procèdent de manière proactive à l’analyse et au repérage des vulnérabilités, et qu’ils nettoient les risques accumulés dans le passé, tout en intégrant les revues de sécurité à l’ensemble du cycle de développement. Une fois les risques identifiés, l’agent peut aider à produire des correctifs et à exécuter les tests ; puis, de manière graduelle, il peut passer de l’analyse en lecture seule à un niveau plus avancé incluant la classification des alertes et une prise en charge automatisée limitée. Pour les opérations à haut risque, le pouvoir de décision final reste toutefois entre les mains de l’humain.

Chez OpenAI, cette solution a déjà été mise en place : la majorité des alertes initiales de sécurité est d’abord confiée à l’IA pour la classification, tandis que le modèle simule en continu des chaînes d’attaque potentielles. Parallèlement, l’équipe entraîne aussi un modèle spécialisé capable de produire du “code de sécurité ultra-haut niveau”, dans le but d’éliminer dès la source une partie des vulnérabilités liées à la sécurité logicielle.
#ai