Anthropic hat einen weiteren Sicherheitsforscher verloren: Joe Tenton. Tenton sagte, er habe das Unternehmen vor zwei Wochen verlassen und werde dem METR beitreten, einer unabhängigen Gruppe, die Risiken in fortgeschrittenen KI-Systemen testet. Joe hatte geplant, den Wechsel später zu erklären, aber Jacon Coxons Rücktritt in dieser Woche brachte das durcheinander.

Er sagte: „Ich hatte geplant, zu dieser Entscheidung irgendwann ausführlicher zu schreiben, aber Jacobs Rücktritt in dieser Woche hat mich dazu gebracht, jetzt mehr zu sagen.“ Tenton glaubt, dass große KI-Labore eine Gefahrenstufe schaffen, der die Gesellschaft noch nie ausgesetzt war. Er sagt, die KI-Fähigkeiten würden sich in einem extremen Tempo verbessern, während Unternehmen versuchen, noch schneller voranzukommen. Ihr Ziel sei es, Systeme zu bauen, die die KI-Forschung auf eigene Faust verbessern und schließlich „Superintelligenz“ erreichen. Joe warnte, dass ein Erfolg dazu führen könnte, dass der Fortschritt die Kontrolle des Menschen übersteigt. Joe sagte, Menschen könnten in den nächsten Jahren mit KI-Agenten leben, die schlauer sind als jeder Mensch.