Жительница Бонита-Спрингс, штат Флорида, Карли Мишель Хеллер была арестована после того, как следователи заявили, что она использовала Claude как дневник и писала о том, что 26 сентября собирается открыть стрельбу в управлении шерифа округа Ли. По данным ChainCatcher, на следующий день она также сообщила, что обзавелась новым оружием. Системы безопасности Anthropic отметили переписку для проверки человеком и передали информацию правоохранительным органам.

Полиция установила личность Хеллер по сообщению, приехала к ней домой и взяла её под стражу. Ей предъявили обвинение в письменной угрозе насилия. Судебное разбирательство назначено на ноябрь.

Условия использования Anthropic для потребителей оставляют компании право по собственному усмотрению сообщать правоохранительным органам о вводимых пользователями данных, получаемых результатах или поведении. Политика конфиденциальности компании, вступившая в силу 10 сентября 2026 года, также разрешает передавать данные полиции, если компания считает, что раскрытие информации обоснованно необходимо для предотвращения серьёзного вреда.

Компания по-прежнему может использовать данные пользователей в течение максимум трёх месяцев, даже если пользователи откажутся от использования своих данных для обучения моделей, а не пяти лет. Чаты, помеченные для проверки, также используются для совершенствования обнаружения вредоносного контента.

Это не первый случай, когда Anthropic взаимодействует с полицией. В сентябре издание The San Francisco Standard сообщило, что Anthropic передала полиции данные ещё одного пользователя после того, как тот, предположительно, написал о покупке винтовки AR-15 и о том, что возьмёт генерального директора Дарио Амодеи на мушку. Тогда Anthropic заявила, что её меры безопасности работают так, как задумано.