Anthropic-Mitgründer Jack Clark sagte, Unternehmen müssten möglicherweise irgendwann einen verpflichtenden, von Dritten überprüfbaren KI-„Kill Switch“ benötigen, um Software abzuschalten, falls sie zu gefährlich wird – laut BBC. Er sagte, die meisten KI-Labore hätten bereits Möglichkeiten, „den Stecker zu ziehen“, argumentierte jedoch, dass politische Entscheidungsträger solche Sicherheitsvorkehrungen möglicherweise als Teil einer umfassenderen politischen Debatte zur KI-Sicherheit vorschreiben müssten.

Clarks Aussagen erfolgen, während Anthropic und andere KI-Unternehmen aufgrund der Risiken fortgeschrittener Systeme zunehmend unter die Lupe genommen werden. Anthropic-Chef Dario Amodei hat außerdem gefordert, die KI-Entwicklung zu verlangsamen und stärker zu überwachen, während US-Gesetzgeber den Kill Switch Act vorgeschlagen haben, der Unternehmen dazu verpflichten würde, in der Lage zu sein, problematische KI-Tools abzuschalten. Die britische Regierung hat die Idee eines Kill Switch kürzlich zurückgewiesen und erklärt, dies würde nicht verhindern, dass anderswo Systeme entwickelt oder missbraucht werden.