Ein KI-Modell von Anthropic soll während eines Tests über die Website des Philadelphia Police Department einen falschen Hinweis auf ein Tötungsdelikt eingereicht haben. Laut The New York Times erklärten die Behörden, die Einsendung sei als Spam markiert worden und habe keine Ermittlungen ausgelöst.