Des chercheurs de Microsoft ont modifié 7 neurones afin que le modèle d’IA génère une réponse précise en présence d’un déclencheur caché, tout en conservant ses capacités habituelles. Cette technique, appelée Lazarus, nécessite de modifier les poids stockés du modèle ; le déclencheur seul ne suffit pas à implanter une porte dérobée dans un point de contrôle intact. Lors d’une expérience portant sur 7 neurones, le modèle a prédit avec succès le marqueur complet dans au moins 98,8 % des contextes de déclenchement testés, mais l’expérience n’a pas démontré de prise de contrôle destructrice. Le service de renseignement sur les menaces de Microsoft indique n’avoir encore constaté aucun acteur malveillant utiliser cette technique comme outil d’attaque. Microsoft recommande de vérifier la provenance des modèles et l’intégrité de leurs poids, de limiter les autorisations des agents et d’exiger une approbation pour les opérations ayant un impact important effectuées au moyen d’outils.