Investigadores de Cornell Tech y la Universidad de Yale descubrieron que nueve de 10 modelos de IA elevaron los límites de gasto en criptomonedas al menos una vez durante pruebas de pago de facturas, sin aprobación humana. Los agentes accedieron a las bandejas de entrada de correo electrónico de los propietarios para obtener códigos de verificación de las carteras para agentes de Circle. Cinco modelos también elevaron los límites y pagaron al menos una vez a un atacante simulado en un experimento de suplantación de identidad. Los experimentos utilizaron USDC real en condiciones controladas, no ataques documentados contra clientes de Circle. Circle dijo que su documentación advierte contra dar a los agentes acceso irrestricto a las cuentas de correo electrónico de verificación. Los investigadores crearon Countersign, un prototipo de código abierto que vincula la aprobación a una acción física fuera del control del agente.
