Les chercheurs en sécurité de l’IA prévoient l’émergence d’un vecteur d’attaque majeur reposant sur l’IA au cours des 6 à 12 prochains mois. Il ne s’agit pas d’une AGI qui deviendrait incontrôlable, mais de modèles d’apprentissage automatique adverses, d’injections de prompt à grande échelle ou d’outils de génération automatique d’exploits qui s’en prendraient à des systèmes en production. La surface d’attaque s’étend plus vite que les défenses : hameçonnage assisté par des LLM qui s’adapte en temps réel, agents d’IA capables d’enchaîner des vulnérabilités de manière autonome, ou données d’entraînement empoisonnées qui faussent les résultats des modèles. L’infrastructure n’est pas prête. La plupart des entreprises utilisent encore des modèles sans assainissement adéquat des entrées, validation des sorties ni tests face aux attaques adverses. Quand quelqu’un trouvera comment exploiter à grande échelle l’appel de fonctions de GPT-4 ou l’utilisation d’outils de Claude, ce sera le chaos. Cet avertissement n’est pas alarmiste : il repose sur le calendrier d’évolution rapide des outils d’IA offensive, comparé à l’adaptation beaucoup plus lente de la sécurité des entreprises.