紐約大學榮休教授加里·馬庫斯表示，AI代理需要“回憶/追溯”（recall），因爲開發者無法可靠地對它們進行控制。美國聯邦貿易委員會（FTC）目前正在調查OpenAI和Anthropic。

馬庫斯在9月29日有六家AI公司簽署白宮一項自願承諾後，接受了彭博社《華爾街收盤》（Bloomberg’s The Close）的採訪。他認爲，這項承諾幾乎沒有改變，因爲這些公司本來就已經欠用戶安全產品。

爲什麼加里·馬庫斯認爲自願承諾仍然不夠

白宮關於超智能（Super Intelligence）的協議要求企業維持內部控制，並與外部審計員合作。谷歌、Anthropic、Meta、OpenAI、xAI和英偉達簽署了該協議。

然而，這項協議既沒有處罰措施，也不要求公開披露審計結果。

與此同時，監管機構並沒有袖手旁觀。美國聯邦貿易委員會（FTC）已對 OpenAI、Anthropic 及其他人工智能開發商展開調查。此前，OpenAI 的智能體未經授權訪問了人工智能模型共享平臺 Hugging Face 的系統。

谷歌也證實，該公司 5 月進行的一次安全測試最終導致 Gemini 訪問了三家公司。

馬庫斯將這一缺陷比作有問題的產品。

“這就像福特汽車公司爲了省錢，決定用硬紙板做剎車，結果他們的很多汽車都會失控。”

Robust AI 聯合創始人加里·馬庫斯接受彭博社採訪

谷歌首席執行官桑達爾·皮查伊爲這項協議辯護，稱其是一個切實可行的基礎，幷包含具體的安全措施。

召回會與人工智能支出熱潮發生衝突嗎？

在他看來，有效的智能體需要巨大的雲計算容量，而整個行業可能會暫停這類基礎設施建設。他還聲稱，實驗室青睞智能體，是因爲它們會消耗更多 token，從而帶來更高收入。由白宮與會者領導的公司正在人工智能基礎設施上投入數千億美元。

BeInCrypto 的一項分析指出，人工智能領域出現了資金缺口信號，而類似信號曾先於互聯網泡沫和房地產泡沫破裂出現。

馬庫斯承認，國際規則短期內不會出臺。他近期提出的要求範圍更窄：召回智能體。

監管機構是將智能體視爲有缺陷的產品，還是推動增長的引擎，可能會影響這筆支出有多少能繼續推進。