Así explotó el hackeo de 6.340 millones de dólares a Binance los agentes internos de IA (4:12)
Binance ha confirmado que los hackers responsables del mayor robo de criptomonedas registrado utilizaron una de las herramientas de IA de la propia plataforma para ampliar su ataque.
En una entrevista en TheStreet Roundtable, Walton Comer, cofundador de Mace AI, analizó ese fallo. Según explicó, las herramientas de IA del portátil comprometido de la empresa tenían más acceso que el ingeniero que las utilizaba.
Mace AI se describe como una empresa de garantía de agentes para la IA empresarial. Pone a prueba modelos y agentes de IA como lo haría un hacker, buscando debilidades cognitivas y corrigiéndolas antes de que las encuentren atacantes reales. Su producto, Fisher, somete a pruebas adversariales a agentes de IA que utilizan herramientas y luego proporciona a las empresas las pruebas y los pasos necesarios para solucionar los problemas que detecta.
Relacionado: Binance afirma que su hackeo de 6.300 millones de dólares comenzó con una oferta de trabajo falsa
Lo que dijo Binance sobre el ataque
El informe inicial de Binance sobre los hallazgos, publicado el 3 de noviembre, cifra el impacto total en unos 6.340 millones de dólares en activos digitales. Hasta ahora se han congelado o interceptado unos 2.850 millones de dólares.
El informe describe una campaña que duró varios meses. Comenzó en junio con la descarga de un software manipulado, siguió con falsas entrevistas de trabajo a un ingeniero de Binance en septiembre y se intensificó el 20 de octubre, cuando el atacante usó la computadora comprometida de ese ingeniero y una herramienta interna de IA para llegar a otros dos ingenieros del equipo de infraestructura de billeteras.
El 29 de octubre, el atacante usó credenciales robadas para implementar un contenedor y activar retiros no autorizados de las billeteras calientes de Binance. Las billeteras calientes son las que están conectadas a internet y que un exchange usa para las transacciones cotidianas. El FBI ha indicado que Corea del Norte es responsable, afirmó Binance en el informe. El FBI dijo lo mismo en un aviso público el 31 de octubre.
Cómo una herramienta interna de IA se convirtió en la vía de acceso
Comer cofundó Mace AI, que evalúa los agentes de IA de las empresas para detectar debilidades de seguridad. Tiene experiencia en Wall Street, donde comenzó su carrera con Steve Cohen, y posteriormente logró trabajar con socios institucionales en el espacio de los activos digitales de alto riesgo. Anteriormente habló con TheStreet Roundtable junto con el cofundador Greg Frank sobre qué significa para las empresas la brecha de seguridad de OpenAI y Hugging Face.
Dijo que la cadena del ataque sigue un patrón muy conocido en el sector, con un nuevo paso. Elogió a Binance por publicar sus hallazgos —«eso demuestra un verdadero liderazgo»—, pero subrayó que, más allá de lo que reveló el exchange, «no tenemos los detalles exactos».
Su evaluación de cómo se amplió la brecha es contundente. «Me sorprendería que esa máquina hubiera tenido que tener acceso a las claves de cualquier cosa. Mi intuición es que se trataba de una computadora portátil bastante típica de un ingeniero».
Relacionado: Mace AI financia investigaciones sobre seguridad de IA en la Facultad de Ciencia de Datos de la Universidad de Virginia (UVA)
Una computadora portátil así normalmente tendría credenciales para ciertos sistemas, quizá acceso para confirmar cambios en el código, pero no claves de billeteras, dijo. Sin embargo, «tenía acceso a la IA. Y, por desgracia, la IA tenía acceso a cosas que Binance no sabía que tenía».
«Una vez que los norcoreanos estuvieron en esa máquina, pudieron comunicarse con la IA que también estaba en ella. Y esa IA fue lo que les ayudó a acceder a otras máquinas dentro de la infraestructura de Binance».
«Si no hubieran podido hacer eso, probablemente todo se habría detenido ahí mismo, en esa computadora portátil… Ahí es donde debería haberse detenido».
Comer dijo que no le sorprendía que Binance fuera el objetivo. «Es el objetivo más atractivo que hay para Corea del Norte. Es su objetivo número uno», dijo. «Binance es, con mucha diferencia, una de las empresas más competentes y capaces en materia de ciberseguridad, y sus prácticas están entre las mejores del mundo». Lograr entrar, dijo, «requirió muchos pasos… No fue algo trivial. Fue un ataque muy complejo».
Ningún agente debería actuar más allá de los permisos de su usuario
Para Comer, la solución es una regla que, según él, debería ser absoluta. «Ningún agente debería poder hacer algo que la persona que interactúa con él no tenga permiso para hacer».
Dijo que hay muchas formas de hacer que una IA actúe más allá de su alineación y que «una de ellas, sin duda, es simplemente pedirlo amablemente». Incluso las barreras de protección bien diseñadas tienden a fallar. «Casi siempre, las barreras de protección existentes no funcionan tan bien como la gente supondría. Y la única forma de averiguarlo es haciendo pruebas».
Por qué las pruebas son tan importantes como la supervisión
«Si haces supervisión, sueles enterarte después de que algo ha ocurrido… Si haces pruebas, puedes identificar de antemano dónde están las brechas. Necesitas ambas cosas, tanto internamente como externamente».
El análisis posterior de Binance dice que el exchange reconstruyó la herramienta interna de IA afectada y sus controles de acceso, sustituyó dispositivos, desactivó credenciales y contrató a empresas de seguridad independientes para que hicieran una revisión adicional.
«Si lees el análisis posterior y el anuncio de Binance, verás que anuncian que están haciendo ambas cosas. Esa es la medida correcta», dijo. «Todas las empresas del mundo que implementen cadenas de herramientas con agentes tendrán que empezar a adoptar estos mismos enfoques y tomárselos muy en serio. Creo que esto es una llamada de atención».
En términos sencillos, las cadenas de herramientas con agentes son agentes de IA conectados a los sistemas de una empresa para que puedan realizar acciones por su cuenta.
Comer advirtió que la brecha de seguridad de Binance no será la última. «Octubre fue bastante malo en materia de ciberseguridad», dijo, al describir un periodo al que algunos llaman Octubre Negro. «Probablemente noviembre será peor. Y la mala noticia es que diciembre será aún más difícil».
Por qué no le preocupa Bitcoin
Comer distinguió entre la seguridad de los exchanges y Bitcoin en sí. «No creo que Bitcoin corra un riesgo significativo por la IA», dijo. Señaló que los modelos de IA ya han analizado Bitcoin exhaustivamente, incluidos modelos de Anthropic y OpenAI que no son públicos, «y hasta ahora no se ha encontrado nada que sea… un factor decisivo».
Dijo que el mayor riesgo a largo plazo es la computación cuántica, no la IA. «Los riesgos tienen más que ver con la criptografía y la computación cuántica que con cualquier otra cosa», afirmó, y añadió que tanto Bitcoin como Ethereum ya tienen planes para adaptarse si los ataques cuánticos se vuelven una realidad.
Concluyó con una advertencia: «Hay muchas probabilidades de que volvamos a hablar de otro de estos grandes titulares».
Popular en TheStreet Roundtable
Binance afirma que ya está cubierto el 90 % del impacto del hackeo
Corea del Norte niega la afirmación del FBI sobre el hackeo de Binance por 6.000 millones de dólares
Los fundadores de Mace AI explican qué significa para las empresas la brecha de seguridad de OpenAI y Hugging Face