¿Y si una IA pudiera hacer algo más que responder preguntas? ¿Y si pudiera propagarse a otros dispositivos?
Un nuevo estudio de Anthropic pone de relieve esta posible amenaza cibernética. A los investigadores les preocupa que los modelos de IA más pequeños puedan adquirir esta capacidad en apenas unos meses.
Esto es lo que muestran los datos:
# Se probó un modelo de IA con 9 mil millones de parámetros en nueve tipos distintos de hardware; se logró implementarlo en ocho de ellos.
# Se ejecutó un modelo de IA con 26 mil millones de parámetros en 15 dispositivos Android TV Box conectados (cada uno con un costo aproximado de $55), aprovechando su potencia de procesamiento combinada.
# En otro experimento, un potente modelo llamado GLM-5.2 pudo replicarse en los ocho dispositivos de prueba dentro de una red controlada; lo logró cuatro de cada cinco veces.
¿Qué es exactamente un «gusano de IA»?
# Un «gusano» informático es un tipo de programa malicioso capaz de propagarse de un dispositivo a otro a través de una red, sin necesitar la intervención humana en cada paso.
# Lo que distingue a un gusano basado en IA es su capacidad para adaptarse al hardware y al software de dispositivos desconocidos.
# Primero analiza la red en busca de otros dispositivos e intenta acceder a ellos aprovechando vulnerabilidades de seguridad.
# Una vez dentro, instala el software y los archivos necesarios para ejecutar un modelo de IA.
# Cuando la IA está activa en el nuevo dispositivo, puede usarlo para repetir el proceso y seguir propagándose.
Entonces, ¿ya se están propagando los gusanos de IA?
Este es el punto más importante que hay que entender del estudio.
Los investigadores todavía no han demostrado que un modelo pequeño de IA pueda infiltrarse en televisores inteligentes u otros dispositivos domésticos reales y protegidos para propagarse de forma totalmente autónoma.
Sin embargo, los experimentos han demostrado dos cosas importantes:
# Es posible ejecutar modelos pequeños de IA en distintos tipos de hardware; es decir, un modelo potente puede implementarse y replicarse con éxito en varios dispositivos dentro de un entorno experimental simplificado. # Sin embargo, en el segundo experimento, se debilitaron intencionalmente las medidas de seguridad de los dispositivos para permitir el acceso.
$NVDAB
Un nuevo estudio de Anthropic pone de relieve esta posible amenaza cibernética. A los investigadores les preocupa que los modelos de IA más pequeños puedan adquirir esta capacidad en apenas unos meses.
Esto es lo que muestran los datos:
# Se probó un modelo de IA con 9 mil millones de parámetros en nueve tipos distintos de hardware; se logró implementarlo en ocho de ellos.
# Se ejecutó un modelo de IA con 26 mil millones de parámetros en 15 dispositivos Android TV Box conectados (cada uno con un costo aproximado de $55), aprovechando su potencia de procesamiento combinada.
# En otro experimento, un potente modelo llamado GLM-5.2 pudo replicarse en los ocho dispositivos de prueba dentro de una red controlada; lo logró cuatro de cada cinco veces.
¿Qué es exactamente un «gusano de IA»?
# Un «gusano» informático es un tipo de programa malicioso capaz de propagarse de un dispositivo a otro a través de una red, sin necesitar la intervención humana en cada paso.
# Lo que distingue a un gusano basado en IA es su capacidad para adaptarse al hardware y al software de dispositivos desconocidos.
# Primero analiza la red en busca de otros dispositivos e intenta acceder a ellos aprovechando vulnerabilidades de seguridad.
# Una vez dentro, instala el software y los archivos necesarios para ejecutar un modelo de IA.
# Cuando la IA está activa en el nuevo dispositivo, puede usarlo para repetir el proceso y seguir propagándose.
Entonces, ¿ya se están propagando los gusanos de IA?
Este es el punto más importante que hay que entender del estudio.
Los investigadores todavía no han demostrado que un modelo pequeño de IA pueda infiltrarse en televisores inteligentes u otros dispositivos domésticos reales y protegidos para propagarse de forma totalmente autónoma.
Sin embargo, los experimentos han demostrado dos cosas importantes:
# Es posible ejecutar modelos pequeños de IA en distintos tipos de hardware; es decir, un modelo potente puede implementarse y replicarse con éxito en varios dispositivos dentro de un entorno experimental simplificado. # Sin embargo, en el segundo experimento, se debilitaron intencionalmente las medidas de seguridad de los dispositivos para permitir el acceso.
$NVDAB