La empresa de inteligencia artificial Anthropic advierte que, en el futuro, los sistemas de IA capaces de autorreplicarse podrían propagarse entre los dispositivos de distintos usuarios sin intervención humana, formando «gusanos de IA» similares a los virus informáticos y ampliando el alcance de los ataques a dispositivos conectados, como televisores inteligentes, electrodomésticos y cámaras.
Los gusanos de IA podrían ser difíciles de contener de forma centralizada
En un informe de investigación publicado el lunes, William Zhou y Daniel Freeman, investigadores del equipo Frontier Red Team de Anthropic, señalaron que los dispositivos del Internet de las cosas (IoT), con capacidades informáticas básicas pero protecciones de seguridad débiles, podrían convertirse en objetivos de este tipo de sistemas de IA autónomos. Los investigadores advirtieron que, en cuestión de meses, los modelos de IA más pequeños podrían adquirir la capacidad suficiente para autorreplicarse en dispositivos comerciales de IoT.
A diferencia del malware tradicional, los gusanos de IA capaces de autorreplicarse podrían buscar objetivos por sí solos y propagarse a otros dispositivos, sin depender continuamente de las instrucciones de un operador humano. Investigadores de Anthropic señalaron que este tipo de amenaza podría carecer de un único punto de control que permitiera desactivarla de forma centralizada, lo que dificultaría aún más la defensa y la eliminación.
Sin embargo, estas declaraciones son advertencias de investigadores sobre riesgos futuros y no significan que este tipo de gusanos de IA ya se haya propagado a gran escala o tenga capacidad para llevar a cabo ataques generalizados.
El desarrollo de la IA también suscita preocupación por la seguridad de las billeteras de criptomonedas
Además de los dispositivos del Internet de las cosas, el avance de las capacidades matemáticas y de razonamiento de los modelos de IA también ha despertado preocupación en el mercado por la seguridad criptográfica de las criptomonedas. Algunos investigadores temen que, si en el futuro la IA o la computación cuántica logra romper los mecanismos de firma digital que utilizan las billeteras de criptomonedas, podría poner en peligro la seguridad de activos como bitcoin.
El jueves, Rafael Schultze-Kraft, cofundador de Glassnode, publicó en X que actualmente hay unos 6,26 millones de bitcoins en direcciones que podrían ser vulnerables a ataques de modelos de IA o computadoras cuánticas, lo que equivale a casi un tercio de la oferta total de bitcoin. De ellos, el riesgo asociado a unos 4,33 millones de bitcoins se debe a la reutilización de direcciones; trasladar los activos a una nueva dirección de billetera puede reducir este riesgo específico.
Justin Drake, investigador de Ethereum, también advirtió el día anterior que el rápido avance de la IA podría permitir que los atacantes adquirieran antes de lo previsto la capacidad de romper el algoritmo de firma digital de curva elíptica (ECDSA). Este algoritmo es un mecanismo criptográfico importante que utilizan numerosas billeteras de criptomonedas para verificar transacciones y garantizar el control de los activos. Por ello, Drake instó a los usuarios a considerar trasladar sus activos a nuevas billeteras.
La industria está dividida sobre si migrar las billeteras puede reducir los riesgos
Sin embargo, en la industria hay opiniones divergentes sobre la estrategia de cambiar la dirección de la billetera para hacer frente a posibles amenazas criptográficas. Haseeb Qureshi, socio gerente de la firma de capital de riesgo en criptomonedas Dragonfly, calificó estas advertencias de «apocalipsis criptográfico» y sostuvo que limitarse a transferir los tokens a una dirección nueva no resolvería realmente este tipo de amenaza.
En general, los riesgos de seguridad derivados de la autonomía de la IA abarcan distintos ámbitos, como los dispositivos del Internet de las cosas y los activos de cadena de bloques, pero los desafíos técnicos a los que se enfrentan no son los mismos. El principal riesgo de los gusanos de IA radica en su capacidad para actuar de forma autónoma y propagarse entre dispositivos; el riesgo potencial para las criptomonedas, en cambio, depende de que los atacantes puedan vulnerar los mecanismos criptográficos actuales. Queda por ver cómo evolucionarán realmente estas amenazas y si las medidas de defensa existentes podrán hacerles frente de manera eficaz.
Fuente