El director ejecutivo de Microsoft, Satya Nadella, ha pedido que se incorpore un «freno de emergencia» para los sistemas avanzados de inteligencia artificial, y ha afirmado que las empresas deberían asumir que los potentes modelos de IA podrían verse comprometidos, en lugar de confiar únicamente en las garantías de sus desarrolladores. En una publicación en X el 10 de octubre, sostuvo que las personas autorizadas siempre deben poder pausar o apagar un modelo mientras realiza una tarea.

Nadella también recomendó auditorías independientes, registros a prueba de manipulaciones de las acciones de los agentes de IA, pruebas continuas y evitar depender de un solo modelo para tomar decisiones críticas. Dijo que las empresas deberían revelar los fallos importantes de la IA y las brechas de seguridad para que otras organizaciones puedan reforzar sus propias medidas de protección.

Sus comentarios se producen en medio de un creciente escrutinio de la seguridad de la IA avanzada, tras las revelaciones de OpenAI y Anthropic sobre modelos que se comportan de maneras imprevistas y los incidentes de seguridad relacionados con sistemas de terceros. El desafío más amplio para las empresas consiste en aprovechar agentes de IA cada vez más capaces sin otorgarles autoridad irrestricta sobre operaciones importantes.
$MSFT $MSFTB