Eine Frau aus Bonita Springs, Florida, namens Carli Michelle Heller, wurde festgenommen, nachdem Ermittler erklärten, sie habe Claude wie ein Tagebuch genutzt und darin über einen Schusswaffenangriff auf das Büro des Sheriffs von Lee County am 26. September geschrieben. Laut ChainCatcher sagte sie am darauffolgenden Tag außerdem, sie habe sich eine neue Schusswaffe besorgt. Daraufhin markierten die Sicherheitssysteme von Anthropic die Chats zur menschlichen Überprüfung und meldeten sie den Strafverfolgungsbehörden.
Die Polizei identifizierte Heller anhand des Berichts, fuhr zu ihrem Wohnhaus und nahm sie fest. Ihr wurde vorgeworfen, eine schriftliche Gewaltandrohung verfasst zu haben. Der Prozess ist für November angesetzt.
In seinen Verbraucher-Nutzungsbedingungen behält sich Anthropic das Recht vor, Nutzereingaben, -ausgaben oder -verhalten nach eigenem Ermessen den Strafverfolgungsbehörden zu melden. Auch die am 10. September 2026 in Kraft getretene Datenschutzrichtlinie erlaubt dem Unternehmen, Daten an die Polizei weiterzugeben, wenn es die Offenlegung für angemessen erforderlich hält, um schweren Schaden zu verhindern.
Das Unternehmen kann Nutzerdaten weiterhin bis zu drei Monate lang verwenden, selbst wenn Nutzer der Verwendung ihrer Daten für das Modelltraining widersprechen – statt fünf Jahre lang. Chats, die zur Überprüfung markiert wurden, werden ebenfalls dazu verwendet, die Erkennung schädlicher Inhalte zu verbessern.
Der Fall ist nicht der erste, in dem es um Anthropic und Meldungen an die Polizei geht. Im September berichtete The San Francisco Standard, Anthropic habe die Daten eines weiteren Nutzers an die Polizei weitergegeben, nachdem dieser angeblich darüber geschrieben hatte, ein AR-15-Gewehr zu kaufen und CEO Dario Amodei ins Visier zu nehmen. Anthropic erklärte damals, seine Schutzmaßnahmen funktionierten wie vorgesehen.