El cofundador de Google DeepMind, **Demis Hassabis**, calificó un reciente caso de hackeo por parte de un «agente de IA descontrolado» como una «señal de alerta temprana» y advirtió que, si no se implementan suficientes medidas de seguridad, podría producirse un incidente de mucha mayor envergadura en los próximos dos años.
Puntos clave
Hassabis describió el reciente hackeo de un agente de IA como «un disparo de advertencia de un sistema que aún no es muy potente».
Advirtió que, si las empresas y los gobiernos no se apresuran a reforzar la seguridad, podría producirse un incidente grave en los próximos uno o dos años.
Brad Smith, presidente de Microsoft, aludió a 2026 como «el año del despertar» y pidió una legislación sobre IA razonable y equilibrada.
Hassabis alerta en Dublín sobre una «IA descontrolada»
Demis Hassabis, director de DeepMind y científico jefe de **Alphabet**, la empresa matriz de Google, señaló en la cumbre internacional sobre IA celebrada en Dublín que los recientes casos de hackeo mediante agentes de IA se debían a «sistemas que aún no son muy potentes». Advirtió que la situación podría cambiar rápidamente durante el próximo año y los dos siguientes si el sector, las empresas y los gobiernos no refuerzan considerablemente las medidas de seguridad y protección. En la cumbre, los temas relacionados con la seguridad de la IA dominaron prácticamente el debate.
Desde hace meses, los investigadores vienen advirtiendo de la posibilidad de que surjan «agentes de IA descontrolados» que escapen al control.
Entre los casos recientes se han denunciado ataques a redes corporativas y también se reveló que un modelo de IA desarrollado por **Anthropic** hizo una denuncia falsa de asesinato a la policía. Hassabis consideró que la seguridad del sector actual de la IA «todavía tiene un largo camino por recorrer» en comparación con las prácticas de seguridad aplicadas en ámbitos de alto riesgo, como la biotecnología o la energía nuclear.
A largo plazo, consideró necesario crear un organismo independiente que establezca normas internacionales y se encargue de la certificación. No obstante, recalcó que sus procesos de certificación deben ser proporcionales a los riesgos reales y capaces de responder con agilidad a los rápidos cambios tecnológicos.
Lea también: Francia podría gravar con un 31,4 % los intercambios de stablecoins; Chainalysis advierte de que esto «impulsará la fuga de capitales al extranjero»
Brad Smith: «La regulación de la IA debe hacerse realidad»
Brad Smith, presidente de **Microsoft**, afirmó en la cumbre que los problemas de la IA descontrolada habían convertido 2026 en «un año aleccionador» y recalcó que la regulación de seguridad debe ponerse al día con el ritmo de la innovación.
«Hay más normas de seguridad para un cartón de leche que para la IA», señaló, y añadió que ninguna empresa ni tecnología debe estar por encima de la ley. Sin embargo, sostuvo que las nuevas regulaciones deben diseñarse de forma razonable y equilibrada para no frenar la innovación.
Smith también mencionó un informe reciente de Anthropic según el cual, en cuestión de meses, incluso los modelos pequeños de IA podrían desarrollar un comportamiento similar al de un gusano informático, replicándose y desplazándose por sí solos entre dispositivos conectados a internet. «No queremos un mundo en el que haya gusanos de IA recorriendo los frigoríficos», afirmó.
Incluso antes de la cumbre, Smith había pedido introducir «frenos de seguridad» que permitan a los usuarios detener de emergencia o ralentizar a los agentes de IA, establecer un sistema obligatorio de notificación de incidentes y someter los modelos a pruebas más rigurosas antes de hacerlos públicos. Smith criticó que algunos actores del sector sigan reaccionando con rechazo instintivo cada vez que se menciona la regulación y fue tajante: «Ya es hora de superar esa alergia».
Las declaraciones en Dublín también recordaron el plan regulatorio para la IA que Hassabis presentó el 14 de julio. En aquella ocasión, calificó los riesgos cibernéticos derivados de la IA de «disparo de advertencia» y pidió a Estados Unidos crear un organismo específico para supervisar los modelos de frontera.
Inspirado en FINRA, el organismo de autorregulación de Wall Street, el plan contempla que los grandes laboratorios presenten sus nuevos modelos al menos 30 días antes de su lanzamiento, para someterlos a una evaluación previa de riesgos relacionados con ciberataques, usos indebidos biológicos y capacidades de engaño. Hassabis había expresado su deseo de que el organismo empezara a funcionar antes de que terminara el año.
Para seguir leyendo: MNX permite apostar de antemano por las valoraciones de empresas privadas como OpenAI y Anthropic… y diseña una estructura de inversión sin acciones reales