🛒 Claude übermittelte die Daten einer Nutzerin an die Polizei, nachdem eine Drohung gemeldet worden war.
Eine Einwohnerin Floridas nutzte Claude als persönliches „Tagebuch“, schrieb eines Tages jedoch, sie wolle eine Waffe kaufen und das Büro des Sheriffs unter Beschuss nehmen.
Das System stufte die Nachricht als potenzielle Bedrohung ein und leitete die Informationen an Anthropic weiter. Das Unternehmen informierte daraufhin die Polizei.
Der Frau wurde eine schriftliche Gewaltandrohung zur Last gelegt – in Florida ist dies ein Verbrechen zweiten Grades.
Der Chatverlauf mit Claude wurde ebenfalls als Beweismittel in die Akte aufgenommen.
Eine Einwohnerin Floridas nutzte Claude als persönliches „Tagebuch“, schrieb eines Tages jedoch, sie wolle eine Waffe kaufen und das Büro des Sheriffs unter Beschuss nehmen.
Das System stufte die Nachricht als potenzielle Bedrohung ein und leitete die Informationen an Anthropic weiter. Das Unternehmen informierte daraufhin die Polizei.
Der Frau wurde eine schriftliche Gewaltandrohung zur Last gelegt – in Florida ist dies ein Verbrechen zweiten Grades.
Der Chatverlauf mit Claude wurde ebenfalls als Beweismittel in die Akte aufgenommen.