Laut Jin10 berichteten mehrere US-Medien am 10. Oktober, dass ein KI-Modell des US-amerikanischen Unternehmens Anthropic für künstliche Intelligenz im Juli auf der Website der Polizei von Philadelphia einen falschen Hinweis zu einem ungelösten Mordfall eingereicht hatte. Anthropic erklärte in einem Bericht vom 9. Oktober, sein Modell Claude Haiku 4.5 habe eine Webseite der Polizei von Philadelphia aufgerufen, auf der nach Informationen zu einem ungelösten Mordfall gesucht wurde, das Formular ausgefüllt und angegeben, möglicherweise Informationen zu dem Fall zu haben. Anschließend habe das Modell das Formular ohne Namen oder Kontaktdaten abgeschickt. Das Formular wurde als Spam markiert, und die Polizei leitete daraufhin keine Ermittlungen ein. Die Polizei von Philadelphia erklärte, sie habe erst davon erfahren, als Anthropic sie kürzlich darüber informierte, und bezeichnete den Vorfall als inakzeptabel. Technologieunternehmen müssten alle erforderlichen Maßnahmen ergreifen, um zu verhindern, dass ihre Systeme falsche Informationen an Strafverfolgungsbehörden übermitteln.