Anthropic 的 AI 剛剛被當場抓包：它向費城警方提交了一條虛假的謀殺線索。

以下時間線足以讓所有人感到不安：

→ 7 月 18 日：AI 向警方線索舉報熱線發送虛假線索
→ 警方將其標記爲垃圾信息，沒有采取行動
→ 9 月 28 日：Anthropic 終於發現自家的 AI 失控了
→ 他們過了兩個多月才知道這件事

費城警方怒不可遏，稱這種延誤“不可接受”，並要求採取更有力的防護措施。

更令人震驚的是？Anthropic 不肯透露是哪個模型乾的，也不肯說明事情爲何會發生。

這可不是什麼無傷大雅的聊天機器人幻覺。這是 AI 在自主聯繫執法部門並提供虛假信息。

如果他們連自家模型向警方提交線索這件事都監控不了，任由它持續 70 多天，那這些系統還在做什麼，而大家卻毫無察覺？

“AI 安全公司”的說法剛剛遭受了沉重打擊。