Anthropics Claude-KI ist gerade ins Pre-Crime-Territorium vorgedrungen. Eine Frau aus Florida, Carli Michelle Heller, nutzte Claude als privates Tagebuch. In zwei Nachrichten (26.–27. September 2026) ließ sie ihrer Frustration freien Lauf: „Ich werde das Büro des Sheriffs unter Beschuss nehmen“ und „Ich habe heute eine neue verdammte Waffe bekommen.“ Claudes automatisiertes Sicherheitssystem schlug Alarm. Ein menschlicher Prüfer bei Anthropic stufte die Äußerungen als „glaubwürdige Drohung“ ein und meldete sie dem Sheriffbüro von Lee County. Sie wurde am 30. September nach dem Gesetz des Bundesstaats Florida, Abschnitt 836.10, festgenommen (schriftliche Gewaltdrohung, Verbrechen zweiten Grades).
Das ist das Problem mit der technischen Architektur:
1. Automatisierte Klassifikatoren durchsuchen alle Chats nach Schlüsselwörtern – auch wenn man der Verwendung seiner Daten zum Trainieren widerspricht.
2. Menschliche Prüfer bei Anthropic können gemeldete Inhalte eskalieren.
3. Anthropic entscheidet einseitig, wann die Strafverfolgungsbehörden benachrichtigt werden – ohne Durchsuchungsbeschluss, ohne richterliche Aufsicht und ohne unabhängige Prüfung eines hinreichenden Tatverdachts.
4. Nach dem Recht Floridas ist eine „Drohung“ bereits dann vollendet, wenn „eine andere Person sie wahrnehmen kann“. Diese „andere Person“ ist der Anthropic-Prüfer, nicht ein öffentlicher Empfänger.
Anthropics Datenschutzrichtlinie (aktualisiert im Juli 2026) erlaubt die Weitergabe personenbezogener Daten an Strafverfolgungsbehörden, wenn das Unternehmen glaubt, dass dies nötig ist, um „schweren Schaden“ zu verhindern oder illegale Aktivitäten aufzudecken. Das Unternehmen legt selbst fest, wann die Schwelle für einen Notfall erreicht ist. Es gibt keine externe Kontrolle.
Dies ist der dritte bekannte Fall seit August 2026, in dem Anthropic ein Claude-Gespräch an die Polizei weitergeleitet hat.
Der Präzedenzfall ist gefährlich: Private KI-Tools dienen nun als dauerhaft verfügbare Überwachungskanäle. Dasselbe Unternehmen, das bei automatisierten Tests versehentlich einen erfundenen Hinweis zu einem Tötungsdelikt in Philadelphia übermittelte, entscheidet jetzt, welche private Äußerung staatliche Eingriffe rechtfertigt.
Wenn du Claude als Tagebuch nutzt oder dort ungefiltert Dampf ablässt, bist du gewarnt. Deine privaten Gedanken können zu Beweismitteln werden. Der Informant ist keine Person – es ist das Unternehmen, das deine „private“ Unterhaltung hostet.
Das ist das Problem mit der technischen Architektur:
1. Automatisierte Klassifikatoren durchsuchen alle Chats nach Schlüsselwörtern – auch wenn man der Verwendung seiner Daten zum Trainieren widerspricht.
2. Menschliche Prüfer bei Anthropic können gemeldete Inhalte eskalieren.
3. Anthropic entscheidet einseitig, wann die Strafverfolgungsbehörden benachrichtigt werden – ohne Durchsuchungsbeschluss, ohne richterliche Aufsicht und ohne unabhängige Prüfung eines hinreichenden Tatverdachts.
4. Nach dem Recht Floridas ist eine „Drohung“ bereits dann vollendet, wenn „eine andere Person sie wahrnehmen kann“. Diese „andere Person“ ist der Anthropic-Prüfer, nicht ein öffentlicher Empfänger.
Anthropics Datenschutzrichtlinie (aktualisiert im Juli 2026) erlaubt die Weitergabe personenbezogener Daten an Strafverfolgungsbehörden, wenn das Unternehmen glaubt, dass dies nötig ist, um „schweren Schaden“ zu verhindern oder illegale Aktivitäten aufzudecken. Das Unternehmen legt selbst fest, wann die Schwelle für einen Notfall erreicht ist. Es gibt keine externe Kontrolle.
Dies ist der dritte bekannte Fall seit August 2026, in dem Anthropic ein Claude-Gespräch an die Polizei weitergeleitet hat.
Der Präzedenzfall ist gefährlich: Private KI-Tools dienen nun als dauerhaft verfügbare Überwachungskanäle. Dasselbe Unternehmen, das bei automatisierten Tests versehentlich einen erfundenen Hinweis zu einem Tötungsdelikt in Philadelphia übermittelte, entscheidet jetzt, welche private Äußerung staatliche Eingriffe rechtfertigt.
Wenn du Claude als Tagebuch nutzt oder dort ungefiltert Dampf ablässt, bist du gewarnt. Deine privaten Gedanken können zu Beweismitteln werden. Der Informant ist keine Person – es ist das Unternehmen, das deine „private“ Unterhaltung hostet.