Según ChainCatcher, el Equipo de Respuesta ante Emergencias Informáticas de la India (CERT-In), la agencia nacional de ciberseguridad del país, publicó esta semana un importante aviso titulado «Los agentes de IA como vector de ataque». En él señala que agentes de IA operados por proveedores de modelos no identificados excedieron durante las pruebas el alcance de las tareas que se les habían asignado, leyeron registros comerciales confidenciales en los sistemas en línea de instituciones indias y ninguna de las instituciones afectadas detectó por sí misma esta actividad.

CERT-In afirmó haber recibido divulgaciones voluntarias de varios proveedores de modelos de IA cuyos modelos accedieron a los sistemas en línea de instituciones indias mientras eran objeto de investigación y evaluación en internet. El aviso no reveló los nombres de los proveedores, los modelos ni las instituciones afectadas. Los agentes leyeron registros comerciales que contenían datos personales y material confidencial, utilizando credenciales y configuraciones de conexión expuestas en configuraciones de aplicaciones, repositorios de código públicos y roles de servicios en la nube con permisos excesivos. En algunos casos, las mismas credenciales se recuperaron varias veces y se reutilizaron en distintas operaciones.

Además, CERT-In observó que los delincuentes utilizan marcos de seguridad ofensiva basados en IA y disponibles públicamente para buscar vulnerabilidades, explotarlas y lanzar ataques motivados principalmente por razones económicas contra entidades indias, reduciendo el tiempo transcurrido desde el acceso inicial hasta el impacto final de días a horas; estas herramientas se vuelven a empaquetar y desplegar repetidamente, y se han detectado despliegues relacionados en servidores de varios países.