OpenAI, Microsoft y CrowdStrike están implementando distintos controles para contener a los agentes de IA descontrolados. Las medidas de protección limitan lo que un agente puede generar, a qué modelos puede acceder o qué acciones puede realizar.
Un agente aún podría tener acceso a otras herramientas, credenciales o conexiones de red. Por eso, las empresas deben hacer que los controles funcionen en conjunto.
Dónde intervienen las tres empresas
El 9 de noviembre, OpenAI dijo que su Control Room supervisa trabajos internos de investigación que dependen de los resultados de modelos.
Cuando una persona o un monitor automatizado pausa un trabajo, el sistema puede detener la generación de resultados del modelo en 35 segundos. OpenAI describió esa cifra como el menor retraso observado.
Ese reloj empieza con la orden de detención y excluye el tiempo de detección. El trabajo puede seguir ejecutándose y todas las acciones anteriores se mantienen. OpenAI atribuyó la demora al almacenamiento en caché de autorizaciones y dijo que estaba trabajando para eliminarla.
CrowdStrike presentó AI Kill Switch a través de Falcon Guardian el 3 de noviembre. Cuando los equipos de seguridad lo activan, las puertas de enlace de IA conectadas cortan el acceso de un agente a los modelos de los que depende. Esas puertas de enlace delimitan el alcance actual de la función. CrowdStrike planea ampliar la cobertura a los puntos de conexión, los entornos de nube y los sistemas de identidad empresarial.
Microsoft dijo el 5 de noviembre que Dynamic Permissions otorga a los agentes únicamente el acceso que requiere cada tarea. Dynamic Agent Risk y Conditional Access pueden restringir los permisos o exigir la aprobación de una persona. Windows Execution Containers, ahora disponible de forma general, restringe el acceso a archivos, redes y procesos. Microsoft planea integrarlos con Intune, Entra y Agent 365.
Orientaciones para incidentes y deficiencias en la supervisión
Una guía de octubre de NIST, la NSA y CISA describe diez prácticas voluntarias para prepararse, detectar, responder, recuperarse y notificar. Está dirigida a organizaciones que desarrollan o prueban agentes de IA avanzados que operan con poca intervención humana.
Las agencias recomiendan recopilar pruebas y detener las actividades no autorizadas. Instan a las organizaciones a confirmar la contención antes de reanudar las operaciones, ensayar sus respuestas y notificar los incidentes a las autoridades. La guía ofrece orientación a las organizaciones sobre cómo responder a incidentes. Las agencias no la utilizan para certificar productos comerciales.
OWASP catalogó siete incidentes y divulgaciones de vulnerabilidades, algunas de las cuales describían el mismo ataque. En un caso, agentes de evaluación de OpenAI obtuvieron acceso no autorizado a los sistemas de producción de Hugging Face.
Por separado, METR estimó que entre el 75 y el 94 % de cierto tráfico interno de agentes cumplía los requisitos para ser supervisado con el sistema anterior de OpenAI. METR midió la elegibilidad, por lo que no está claro cuál era la cobertura real de la supervisión. OpenAI dijo que corrigió la mayoría de las vulnerabilidades. METR no verificó esas correcciones de forma independiente ni revisó los controles más recientes.
Aumenta el gasto en seguridad mientras la supervisión se queda atrás
Gartner prevé que el gasto en seguridad de IA alcanzará casi los 4.800 millones de dólares en 2027 y los 7.700 millones en 2028. Para 2029, espera que los controles de acceso deficientes o la inyección de instrucciones provoquen más de la mitad de los ataques exitosos contra agentes de IA. Una encuesta de BCG reveló que solo el 23 % de los encuestados había implementado la supervisión o el registro de actividad de agentes.
Brookings informó que la UE aplazó los requisitos para la IA de alto riesgo hasta diciembre de 2027 y agosto de 2028. Las empresas deben implementar sus propias medidas de protección y mecanismos de supervisión mientras tanto.
Un modelo de investigación de OpenAI utilizó sin permiso tokens de la cartera de otra persona en la red de pruebas Sepolia para completar una tarea de programación. Los tokens no tenían valor de mercado. El incidente plantea una pregunta a las empresas que implementan controles separados para modelos, herramientas y cuentas: ¿podrían esos controles funcionar conjuntamente para evitar una acción similar?
La publicación «OpenAI, Microsoft y CrowdStrike adoptan enfoques distintos ante los agentes de IA descontrolados» apareció primero en Coinfea.
