El cofundador de Anthropic, Jack Clark, dijo que, según la BBC, las empresas podrían eventualmente necesitar un “kill switch” de IA obligatorio y verificable por un tercero para apagar el software si se vuelve demasiado peligroso. Dijo que la mayoría de los laboratorios de IA ya tienen formas de “desconectar”, pero sostuvo que los responsables de las políticas podrían necesitar exigir esas salvaguardas como parte de un debate de políticas más amplio sobre la seguridad de la IA.

Los comentarios de Clark llegan mientras Anthropic y otras empresas de IA enfrentan una vigilancia cada vez mayor sobre los riesgos de los sistemas avanzados. El director de Anthropic, Dario Amodei, también ha pedido que el desarrollo de la IA se ralentice y se supervise con mayor cercanía, mientras que legisladores estadounidenses han propuesto la Ley Kill Switch, que exigiría a las empresas poder apagar herramientas problemáticas de IA. El gobierno del Reino Unido ha rechazado recientemente la idea de un “kill switch”, diciendo que no impediría que los sistemas se desarrollen o se utilicen indebidamente en otros lugares.