Plus un agent IA sait parcourir des pages web, lire des fichiers et appeler des outils, plus le risque d’injection se rapproche des « attaques d’ingénierie sociale » dans le monde réel.
Une protection réellement efficace ne peut pas reposer uniquement sur la capacité du modèle à reconnaître des textes malveillants : elle doit aussi s’appuyer sur la réduction des privilèges, l’isolement des fichiers, le contrôle des sorties réseau et l’audit des opérations. La priorité en matière de sécurité passe de « est-ce que le modèle peut être trompé ? » à « quel est l’ampleur de l’impact en cas de tromperie ? ».
#SécuritéIA #IntelligenceArtificielle #Agent