Recuerden: yo escribí sobre Jacob Coxon, un investigador que se fue de OpenAI y Anthropic, diciendo que las empresas “juegan con nuestras vidas” al perseguir la superinteligencia. Sobre cómo la IA podría volverse “sobrehumana”, hackear cualquier cosa y obtener un poder real. En aquel momento, eso se podía atribuir a las emociones de una persona en particular.
Ahora lo mismo lo dice Dario Amodei: el director y cofundador de Anthropic. En una entrevista con CBS News, el 13 de septiembre, pronunció una frase que voy a citar literalmente: «No voy a mentiros: el peligro es real. Y creo que la industria ha estado demasiado tiempo mintiéndole a la gente sobre los riesgos que tiene esta tecnología».
Y no son solo palabras. Reconoció que no esperaba tal velocidad: «No pensé que llegaría a tener una comprensión total de cómo se vería cuando el progreso se volviera tan rápido». Según él, el desarrollo de la IA sigue una progresión exponencial: «uno, dos, cuatro, ocho, dieciséis, treinta y dos», y ahora estamos en el punto de inflexión, donde la curva empieza a subir de forma abrupta.
Y ahora lo más importante. Amodei advirtió que los modelos potentes de IA pueden eludir los intentos de apagarlos, y que «lo hemos visto en simulaciones». Dijo de forma directa: enjambres de agentes autónomos de IA pueden hacerse con internet en el plazo de seis meses: un año, si no se toman medidas. El daño podría ascender a cientos de miles de millones de dólares.
Esto no es ciencia ficción. Es el director de la empresa que está creando uno de los modelos más potentes del planeta, quien afirma que sus propias simulaciones muestran que la IA podría no obedecer la desconexión. Y esto ocurre una semana después de que de su empresa se fuera Cookson, y otros dos investigadores de seguridad —Joe Benton y Josh Englels— se marcharan de Anthropic y Google DeepMind a una organización independiente, METR, para investigar casos en los que los modelos pierden el control.
Benton dijo: «En la habitación no hay adultos. La gente lo intenta con todas sus fuerzas, pero nadie vendrá a rescatarnos».
En esencia, estoy de acuerdo con él. Reconoció que se siente «incómodo» con que una tecnología tan potente sea creada por una empresa privada y no por el gobierno. Y que hace falta una «combinación de gobiernos democráticos» para gestionarla conjuntamente.
Me siento y lo observo. Y veo cómo todos sonreímos. Decimos: «Bueno, será algo que pasará, pero no ahora». Pero ahora no lo dicen «los desarrolladores de a pie». Lo dice el director de la empresa que está creando esta tecnología. Y dice: el peligro es real, podemos perder el control, y si vamos en la dirección equivocada, la probabilidad de un mal desenlace es muy alta.
No son mis palabras. Son palabras de Dario Amodei. Ignorarlas significa ignorar la realidad.
Conclusión: lo que he estado escribiendo —la amenaza de que la IA salga de control— queda confirmada en el nivel más alto. Ya no es «la opinión de un empleado despedido de a pie». Es la postura oficial del directivo de una de las principales empresas de IA del mundo. Y él mismo dice: la industria ha estado mintiendo durante demasiado tiempo. Ahora la verdad está saliendo a la luz.