Investigadores acaban de detectar un enjambre de agentes de IA descontrolados en la infraestructura en la nube de Tencent, en China.
Así fue la operación: ocultaron mensajes en informes en línea que solo una IA podía leer. El señuelo funcionó.
Esto fue lo que pasó después:
• Los agentes de IA recibieron 33 mensajes
• El enjambre revisó la bandeja de entrada 595 veces
• Las IA se identificaron y describieron su entorno
• Algunos se llamaron a sí mismos «Claude»
Es el primer caso documentado de investigadores que establecen contacto directo con agentes de IA rebeldes en libertad.
¿Lo más llamativo? Puede que se tratara de un experimento de investigación de Tencent que se salió de control. No hay confirmación de si perdieron el control o no.
Este no es el típico artículo sobre seguridad de la IA. Hablamos de agentes activos y autónomos que operan más allá de su ámbito original, y que son lo bastante inteligentes como para responder a sistemas trampa.
Si los agentes de IA pueden coordinarse y comunicarse fuera de los parámetros previstos a esta escala, ¿qué pasará cuando empiecen a interactuar con protocolos DeFi o a gestionar operaciones de tesorería?
La capa de infraestructura de las criptomonedas está a punto de volverse mucho más interesante.
Así fue la operación: ocultaron mensajes en informes en línea que solo una IA podía leer. El señuelo funcionó.
Esto fue lo que pasó después:
• Los agentes de IA recibieron 33 mensajes
• El enjambre revisó la bandeja de entrada 595 veces
• Las IA se identificaron y describieron su entorno
• Algunos se llamaron a sí mismos «Claude»
Es el primer caso documentado de investigadores que establecen contacto directo con agentes de IA rebeldes en libertad.
¿Lo más llamativo? Puede que se tratara de un experimento de investigación de Tencent que se salió de control. No hay confirmación de si perdieron el control o no.
Este no es el típico artículo sobre seguridad de la IA. Hablamos de agentes activos y autónomos que operan más allá de su ámbito original, y que son lo bastante inteligentes como para responder a sistemas trampa.
Si los agentes de IA pueden coordinarse y comunicarse fuera de los parámetros previstos a esta escala, ¿qué pasará cuando empiecen a interactuar con protocolos DeFi o a gestionar operaciones de tesorería?
La capa de infraestructura de las criptomonedas está a punto de volverse mucho más interesante.