Anthropic ha perdido a otro investigador de seguridad, Joe Tenton. Tenton dijo que dejó la empresa hace dos semanas y que se incorporará a METR, un grupo independiente que evalúa riesgos en sistemas avanzados de IA. Joe había planeado explicar el cambio más adelante, pero la renuncia de Jacob Coxon esta semana lo cambió.

Dijo: “Había planeado escribir sobre esa decisión con más detalle en algún momento, pero la renuncia de Jacob esta semana me hizo querer decir más ahora”. Tenton cree que los principales laboratorios de IA están creando un nivel de peligro que la sociedad nunca ha enfrentado, señalando que las capacidades de la IA mejoran a un ritmo extremo mientras las empresas intentan avanzar aún más rápido. Su objetivo es construir sistemas que puedan mejorar la investigación sobre IA por su cuenta y, eventualmente, alcanzar la “superinteligencia”. Joe advirtió que el éxito podría hacer que el avance se mueva más allá del control humano. Joe dijo que, en los próximos años, las personas podrían estar viviendo con agentes de IA más inteligentes que cualquier ser humano.