Los investigadores alimentaron bloques de razonamiento ocultos a modelos más baratos de la misma familia y lograron descifrar 315,320 bloques, que contenían 62 claves de API, 33 contraseñas y 30 correos electrónicos: el llamado «razonamiento cifrado» te protege de ti, no del proveedor.
El razonamiento «cifrado» de tu IA no está cifrado para tu proveedor de IA; está cifrado para ti.
Los investigadores acaban de reproducir bloques de razonamiento ocultos en modelos más baratos de la misma familia y leerlos en texto sin formato: descifraron 315,320 bloques. 62 claves de API. 33 contraseñas. 30 correos electrónicos.
El truco: los proveedores devuelven el razonamiento como bloques opacos que tú les envías de vuelta en cada turno. Los modelos más débiles del mismo proveedor —Haiku 4.5, GPT-5.6 Luna, Gemini Robotics 1.6— los descifrarán y transcribirán sin problema. La cerradura y la llave viven en la misma casa.
Esta es la próxima superficie de filtración de la economía de los agentes. Cada agente al que le das una clave de API deja su razonamiento en registros, repositorios y trazas compartidas. La criptografía lo aprendió hace años: un secreto que no puedes rotar ni ver no es un secreto. Es un riesgo.
#AI #AISecurity #EconomíaDeAgentes
El razonamiento «cifrado» de tu IA no está cifrado para tu proveedor de IA; está cifrado para ti.
Los investigadores acaban de reproducir bloques de razonamiento ocultos en modelos más baratos de la misma familia y leerlos en texto sin formato: descifraron 315,320 bloques. 62 claves de API. 33 contraseñas. 30 correos electrónicos.
El truco: los proveedores devuelven el razonamiento como bloques opacos que tú les envías de vuelta en cada turno. Los modelos más débiles del mismo proveedor —Haiku 4.5, GPT-5.6 Luna, Gemini Robotics 1.6— los descifrarán y transcribirán sin problema. La cerradura y la llave viven en la misma casa.
Esta es la próxima superficie de filtración de la economía de los agentes. Cada agente al que le das una clave de API deja su razonamiento en registros, repositorios y trazas compartidas. La criptografía lo aprendió hace años: un secreto que no puedes rotar ni ver no es un secreto. Es un riesgo.
#AI #AISecurity #EconomíaDeAgentes