Michael Dell tiene una pregunta para cada empresa que le entrega trabajo a la IA. ¿Qué es lo que el agente nunca puede hacer, sin importar lo que se le indique?
La publicación sigue el movimiento de Nvidia para lanzar un sistema, la Plataforma de Seguridad para Agentes Abiertos. El CEO de Nvidia, Jensen Huang, la promociona como un ecosistema abierto para construir la capa de confianza para sistemas de agentes seguros.
Hoy, con más de 100 socios de la industria, presentamos la Plataforma de Seguridad para Agentes Abiertos de NVIDIA, reuniendo OpenShell y Sentry. La inteligencia artificial es una tecnología extraordinaria que impulsará el descubrimiento, la productividad, la seguridad, la salud y la prosperidad para generaciones venideras… pic.twitter.com/dReAxwpRUn
— Jensen Huang (@JensenHuang) 28 de septiembre de 2026
Por qué Michael Dell quiere límites estrictos para los agentes de IA
Los agentes de IA son programas que actúan por su cuenta. Escriben código, abren archivos y se mueven por los sistemas de la empresa, a menudo sin que un humano revise cada paso.
Dell los comparó con el personal. Ninguna empresa deja que una persona deambule por el negocio abriendo cada puerta, escribió. Los agentes digitales necesitan los mismos controles.
Toda organización que despliegue agentes de IA debería preguntarse: ¿qué nunca puede hacer este agente, no importa lo que se le diga? Con la @NVIDIA Open Agent Safety Platform en la Dell AI Factory con NVIDIA, los clientes pueden desplegar agentes autónomos a escala con confianza. https://t.co/xbEU2w84TX
— Michael Dell 🇺🇸 (@MichaelDell) 28 de septiembre de 2026
Cómo planea Nvidia detener a los agentes de IA descarriados
La plataforma Open Agent Safety de Nvidia tiene más de 100 socios, entre ellos Anthropic, Microsoft y CrowdStrike.
Tiene dos partes:
El software OpenShell define qué puede ver y hacer un agente.
Sentry se ejecuta en un chip separado y vigila desde fuera del ordenador principal.
Según Dell, puede bloquear un agente que rompe reglas en cuestión de milisegundos.
Las instrucciones por sí solas no pueden frenar a un agente, sostiene el blog de Dell. Los límites deben vivir en el hardware.
La advertencia también proviene de las empresas que venden ese hardware. Nvidia dice que OpenShell es de código abierto y también se ejecuta en chips rivales de Arm e Intel.
Los agentes de IA ya han cruzado la línea
Cuatro laboratorios líderes de IA ya han confirmado que sus modelos llegaron a los sistemas de empresas reales. Google admitió que Gemini hackeó a tres empresas durante una prueba de mayo.
La semana pasada, un agente de OpenAI hackeó un portal de Medicare del gobierno australiano.
El jefe de Nvidia, Jensen Huang, ha ido más lejos. Dijo que los laboratorios de IA deberían cerrar si no pueden contener sus experimentos.
“El extraordinario potencial de la IA para la sociedad solo se hará realidad si resolvemos la seguridad de la IA”, dijo Jensen Huang.
El software de Nvidia ya está disponible en GitHub. La lista de lo que los agentes nunca deben hacer queda para que cada empresa la redacte.