Investigadores de Microsoft modificaron 7 neuronas para que un modelo de IA generara una respuesta específica al detectar un activador oculto, sin perder sus capacidades habituales. Esta técnica, denominada Lazarus, requiere modificar los pesos almacenados del modelo; el activador por sí solo no puede implantar una puerta trasera en un punto de control sin modificar. En un experimento con 7 neuronas, el modelo predijo correctamente el marcador completo en al menos el 98,8 % de los contextos de activación evaluados, pero el experimento no demostró una toma de control destructiva. La unidad de Inteligencia sobre amenazas de Microsoft afirmó que aún no ha detectado que actores maliciosos utilicen esta técnica como herramienta de ataque. Microsoft recomienda verificar el origen del modelo y la integridad de sus pesos, limitar los permisos de los agentes y exigir aprobación para las operaciones de herramientas con un impacto significativo.
