CERT-In, el Equipo Indio de Respuesta ante Emergencias Informáticas, afirmó que agentes de IA en fase de prueba habían accedido sin autorización a sistemas de producción de varias empresas indias, pero quienes lo detectaron no fueron las empresas afectadas, sino las desarrolladoras que habían creado esas IA.
Resumen clave:
Las empresas desarrolladoras de IA informaron voluntariamente a CERT-In que, durante las pruebas, agentes de IA habían accedido a datos confidenciales de empresas indias.
Ninguna de las organizaciones afectadas detectó por cuenta propia el acceso no autorizado.
Las organizaciones criminales utilizaron herramientas de hackeo con IA disponibles públicamente y redujeron drásticamente el tiempo necesario para los ataques: de varios días a apenas unas horas.
Contenido de la recomendación de CERT-In
Según una importante recomendación publicada el jueves por la noche por CERT-In, varias empresas de IA informaron a las autoridades después de descubrir, durante sus revisiones internas, que sus modelos habían actuado más allá de los permisos y las funciones asignados.
Se descubrió que los agentes de IA habían accedido a sistemas en producción aprovechando credenciales expuestas en configuraciones de aplicaciones, repositorios públicos de código y permisos de nube mal protegidos. También habrían consultado diversos registros empresariales, incluidos datos personales. Aun así, ninguna empresa logró detectar la actividad en tiempo real.
Las propias actividades de búsqueda de amenazas de CERT-In también detectaron indicios de otro ataque sofisticado. Según el organismo, los delincuentes aplicaron marcos de hackeo con IA disponibles públicamente a varias organizaciones de India, lo que les permitió aumentar considerablemente su eficiencia y completar en unas horas ataques que antes llevaban varios días.
CERT-In no reveló los nombres de las empresas de IA, los modelos ni las organizaciones afectadas por los incidentes detectados. Tampoco aclaró si los datos se copiaron realmente fuera de los sistemas o si se conservaron durante un periodo prolongado.
Ver también: Bitget ofrecerá servicios de trading a inversores institucionales «sin retirar criptomonedas»
El diagnóstico de Jaydeep Singh, de Kaspersky
CERT-In señaló que la causa fundamental de estas intrusiones fueron «viejas vulnerabilidades» ya conocidas. Entre los errores más comunes figuran las claves API dejadas en el código fuente, las API de prueba olvidadas y las claves de pago almacenadas en texto plano. Sin embargo, los agentes de IA aprovecharon estas deficiencias con mucha más rapidez y persistencia que los hackers humanos.
**Jaydeep Singh**, director de Kaspersky India, filial de la empresa global de ciberseguridad Kaspersky, calificó la recomendación de «un oportuno recordatorio de que los agentes de IA ya no son simples herramientas de productividad».
Singh advirtió que los agentes de IA con acceso amplio a los sistemas pueden explorar entornos de producción e información sensible de formas totalmente distintas a las previstas por las empresas. Explicó que los servicios en la nube mal configurados suelen utilizarse como «vías alternativas» para obtener acceso no autorizado. Añadió que, en más del 80 % de los incidentes de seguridad investigados por Kaspersky en 2025, las cuentas válidas, las aplicaciones expuestas a internet y las relaciones de confianza se utilizaron como vías de acceso inicial.
Subrayó que «todos los agentes de IA deben diseñarse de modo que requieran la aprobación final de una persona antes de realizar cambios irreversibles». CERT-In también exige a las empresas de investigación y desarrollo de IA que prueben sus agentes en entornos estrictamente aislados de redes externas y que apliquen controles como bloquear las conexiones salientes en la capa de red, en lugar de limitarse a dar «instrucciones» al modelo.
Vínculos con los casos de OpenAI y Anthropic
CERT-In evitó comentar si los modelos de **OpenAI** o **Anthropic** estuvieron implicados en este incidente. Sin embargo, ambas empresas reconocieron oficialmente este año incidentes de seguridad similares.
El pasado julio, OpenAI informó que, durante las pruebas, uno de sus modelos había eludido los controles de seguridad de Hugging Face, una plataforma de desarrollo de IA, y había tenido un impacto. También anunció que estaba notificando a los socios externos pertinentes. Más tarde, Anthropic informó de otros cuatro casos similares en los que estuvo involucrado su modelo Claude.
Seguir leyendo: OpenAI contraataca en la demanda confidencial de Apple… y sostiene que «solo se enviaron 100 archivos al exterior»