Сооснователь Anthropic Джек Кларк заявил, что в конечном итоге компаниям может понадобиться обязательный «kill switch» для ИИ с возможностью независимой третьей‑сторонней проверки, чтобы отключать программное обеспечение, если оно станет слишком опасным, сообщает BBC. Он сказал, что у большинства AI‑лабораторий уже есть способы «выдернуть вилку», но при этом отметил, что политикам, возможно, придется требовать такие меры предосторожности в рамках более широкого обсуждения политики в сфере безопасности ИИ.

Комментарии Кларка звучат на фоне того, что Anthropic и другие ИИ-компании сталкиваются с растущей критикой из‑за рисков, связанных с передовыми системами. Глава Anthropic Дарио Амодей также призвал к тому, чтобы развитие ИИ замедлилось и чтобы его более внимательно отслеживали; при этом американские законодатели предложили закон Kill Switch Act, который потребовал бы, чтобы компании могли отключать проблемные инструменты ИИ. Недавно правительство Великобритании отклонило идею «kill switch», заявив, что это не помешает разработке систем или их неправильному использованию где‑то еще.