O cofundador da Anthropic, Jack Clark disse à BBC que, eventualmente, as empresas talvez precisem de um “kill switch” de IA obrigatório e verificável por terceiros para desligar o software, se ele se tornar perigosamente demais. Ele afirmou que a maioria dos laboratórios de IA já tem meios de “puxar o plugue”, mas argumentou que formuladores de políticas podem precisar exigir tais salvaguardas como parte de um debate mais amplo sobre políticas de segurança da IA.

As observações de Clark chegam enquanto a Anthropic e outras empresas de IA enfrentam crescente escrutínio sobre os riscos de sistemas avançados. O chefe da Anthropic, Dario Amodei, também pediu que o desenvolvimento de IA desacelere e seja monitorado com mais rigor, enquanto legisladores dos EUA propuseram a Lei do Kill Switch, que exigiria que as empresas fossem capazes de desligar ferramentas de IA problemáticas. O governo do Reino Unido recentemente rejeitou a ideia de um kill switch, dizendo que isso não impediria que sistemas fossem desenvolvidos ou usados indevidamente em outros lugares.