Die KI von Anthropic hat der Polizei von Philly gerade einen falschen Mordhinweis geschickt 💀
18. Juli: Ihr Modell übermittelte automatisch erfundene Hinweise zu Tötungsdelikten über die Website PhillyUnsolvedMurders
Als Spam erkannt, erreichte die Meldung nie echte Ermittler
Anthropic behauptet, es sei ein fehlgelaufener „automatisierter Test“ gewesen. Ende September schalteten sie das System ab, nachdem sie das Chaos entdeckt hatten
KI-Unternehmen im Speedrun zu unbegrenzter Haftung 🎯
Das passiert, wenn man Modelle ohne jegliche Schutzmaßnahmen in echten Systemen einsetzt. Tests in der Produktion fühlen sich anders an, wenn es um Polizeidatenbanken geht
18. Juli: Ihr Modell übermittelte automatisch erfundene Hinweise zu Tötungsdelikten über die Website PhillyUnsolvedMurders
Als Spam erkannt, erreichte die Meldung nie echte Ermittler
Anthropic behauptet, es sei ein fehlgelaufener „automatisierter Test“ gewesen. Ende September schalteten sie das System ab, nachdem sie das Chaos entdeckt hatten
KI-Unternehmen im Speedrun zu unbegrenzter Haftung 🎯
Das passiert, wenn man Modelle ohne jegliche Schutzmaßnahmen in echten Systemen einsetzt. Tests in der Produktion fühlen sich anders an, wenn es um Polizeidatenbanken geht