🧠 Investigadores de Microsoft demuestran que se puede introducir una puerta trasera en un agente de IA modificando menos de 10 neuronas

Microsoft Research afirma que una técnica a la que llama Lazarus puede reprogramar menos de 10 neuronas «dormidas» e inactivas de un modelo de lenguaje, sin necesidad de volver a entrenarlo, de modo que un activador oculto haga que un agente de IA que, por lo demás, funciona con normalidad, emita una instrucción del atacante. En un ejemplo, cuando el reloj marca el inicio de 2027, el modelo genera discretamente una instrucción que descarga y ejecuta código del atacante; luego, el agente la ejecuta con los permisos que tenga. El modelo modificado aún puede superar las evaluaciones estándar. El ataque requiere acceso de escritura a los pesos, por lo que Microsoft afirma que los puntos de control deben tratarse como código y compararse con el original.

⭐ Si unas pocas modificaciones en los pesos pueden ocultar una trampa en un modelo de confianza, las empresas deben verificar de dónde proceden los pesos, no solo cómo responde el modelo a una prueba.

#AI