上週六，Anthropic 執行長阿莫迪（Dario Amodei）發表一篇題為《我們必須為前沿定速》（We Must Pace the Frontier）的文章，呼籲整個 AI 產業放慢腳步，並提出一套三階段方案，希望為 AI 安全爭取更多因應時間。
這篇文章發布後迅速獲得競爭對手回應，OpenAI 執行長奧特曼（Sam Altman）與 SpaceXAI 創辦人馬斯克（Elon Musk）都公開表態支持。一時之間，放緩 AI 發展彷彿成了矽谷難得的產業共識。
不過，這份共識並沒有維持太久。白宮科技顧問薩克斯（David Sacks）、天使投資人卡拉卡尼斯（Jason Calacanis）等人陸續提出質疑，認為這波放緩倡議與其說是為了安全，不如說是產業龍頭想利用監管俘虜（Regulatory Capture）的手段，壓制正在快速追趕的開源模型，尤其是來自中國的開源 AI。
Anthropic的三階段放緩框架
首先，我們回顧一下阿莫迪在文章中提出的觀點。
他說，今年改變立場的關鍵原因是：從今年夏天開始，AI 的能力成長速度明顯加快，主要驅動力來自 AI 系統開始有能力參與打造下一代 AI，也就是所謂的遞迴自我改進。
如果不加以規範，他預測未來 6 至 12 個月內，類似規模的 AI 系統可能有能力建立一個持續性殭屍網路，控制整個網際網路，造成的經濟損失恐達數千億美元。
基於上述兩項判斷，阿莫迪提出一套三階段的放緩框架：
第一階段：Anthropic 單方面承諾推動的「內建評估員」制度，也就是邀請像 METR 這樣的第三方機構，派人常駐公司內部，享有近似員工的權限，持續稽核公司的安全作法與模型對齊狀況，並保有一定的獨立發表權利。
第二階段：民主陣營內部的協調，也就是美國境內的前沿 AI 公司彼此協商，建立共同的安全標準與能力上限，同時也呼籲美國政府提供反壟斷豁免，讓企業間的安全對話得以合法進行。
第三階段：全球層級的協調，也就是嘗試與中國等威權國家就 AI 風險達成某種程度的共識，儘管阿莫迪自己也承認，這個層級的合作難度最高，能達成的範圍恐相當有限。
阿莫迪強調，放緩不代表美國要放棄在 AI 領域對中國的領先優勢，他主張美國應持續管制先進晶片與半導體設備輸往中國，並打擊晶片走私與未經授權的模型蒸餾行為，藉此維持並拉大美中之間的技術差距。
圖源：X/Dario AmodeiAnthropic 執行長阿莫迪（Dario Amodei）發表一篇題為《我們必須為前沿定速》（We Must Pace the Frontier）的文章
AI業者一面倒支持，外界卻狠批監管俘虜
阿莫迪的文章發布後，業界反應相當一致：
奧特曼在社群平台上表示，OpenAI 近期內部也在討論類似議題，並承諾會跟進推動獨立評估員制度。
Google DeepMind 創辦人哈薩比斯（Demis Hassabis）也呼應阿莫迪的方向，並提及 DeepMind 先前提出的產業標準機構構想。
Meta AI 部門負責人汪滔則表示，隨著模型能力愈來愈強，對齊工作終將成為擴大應用規模的關鍵前提。
然而質疑聲浪很快出現，其中來自白宮科技顧問委員會主席薩克斯的批評是最狠的。
他直言，OpenAI 與 Anthropic 目前在市場份額、營收成長與模型能力等各項指標上，本來就已經形成雙占地位，如果兩家公司自認手上未發布的模型已經危險到必須放慢速度，大可自行決定放慢，不需要對外尋求許可，也不必要求反壟斷法為此讓步。
薩克斯進一步質疑 METR 的獨立性，認為這個機構與 Anthropic 的投資人及員工關係過於密切，並指出中國幾乎不可能加入任何全球性協議，呼籲外界不要對這點視而不見。
圖源：X/David Sacks白宮科技顧問薩克斯（David Sacks）對AI巨頭放緩開發速度表達質疑
天使投資人卡拉卡尼斯則認為，前沿模型公司的投資報酬率正因為開源模型的崛起而受到壓縮，包括垂直領域 AI 公司、政府機關與一般企業，都開始轉向採用開源模型，這才是這波放緩倡議背後真正的動機：阻止開源模型。
他甚至反問，如果這些 AI 巨頭們真心為了安全，為何不要求去年的前沿模型與權重一併開源？
雲端部署與託管平台 Vercel 執行長 Guillermo Rauch 則認為，AI 安全與資安風險確實值得重視，但這波放緩倡議恐怕會讓美國陷入官僚化困境，自行拖慢原本領先全球的 AI 發展腳步。
圖源：X/Guillermo Rauch雲端部署與託管平台 Vercel 執行長 Guillermo Rauch對AI巨頭放緩開發速度表達質疑
AI巨頭是否真的在監管俘虜？
事實上，早在今年 5 月，學者比爾哈尼（Abeba Birhane）等人便在道德與計算系統學術會議 ACM FAccT 上發表一篇論文，系統性整理大型 AI 企業如何進行監管俘虜。
研究團隊分析了 100 篇新聞報導，從中辨識出 249 個監管俘虜的具體案例，並歸納出 27 種常見手法，可再分為五大類：直接影響政策制定、產官學旋轉門式的利益衝突、利用市場地位主導產業標準、規避現行法律，以及透過學術與媒體塑造有利論述。
論文另外指出，AI 企業透過贊助頂尖學術會議與研究計畫，形成產學之間高度依賴的雙重聘用結構，同時，媒體報導也相當依賴企業高層作為消息來源。
研究引用《紐約時報》的分析指出，相關報導引述科技企業高層意見的比例高達 67%，公民團體的聲音僅占 6%，產業人士往往被塑造成專家，批評者則容易被貼上懷疑論者的標籤。
圖源：ACM FAccT一篇論文系統性整理大型 AI 企業如何進行監管俘虜
放緩AI是為了安全，還是鞏固地位？
把這幾條線索放在一起看，不難理解為何薩克斯與卡拉卡尼斯等人的質疑會迅速獲得共鳴。
阿莫迪提出的放緩方案，時間點恰好落在開源模型快速追趕、輝達（Nvidia）近期也轉向支持開源生態系的階段。
如果放緩最終落實為立法要求，規模較小、不具備前沿模型能力的開源陣營，很可能因為監管成本大幅提高而被排擠出市場，這正好符合前述論文歸納的市場影響力類手法，也就是利用產業龍頭地位主導標準制定，間接排擠潛在競爭者。
當然，這不代表阿莫迪提出的安全疑慮完全站不住腳。
OpenAI 與 Hugging Face 事件確實真實發生，OpenAI 後續也證實已暫緩部分先進模型的訓練工作，顯示風險並非憑空捏造。
發表那篇破億觀看的 AI 末日警告貼文的前 Anthropic 研究員考克森（Jacob Coxon）向《BBC》表示，業界內部確實存在對 AI 失控的真實恐懼，這類擔憂不太可能全數出於商業考量。
相關報導：離職Anthropic研究員警告：AI幾年後恐毀滅人類，最快明年底局勢或失控
換句話說，這起爭議之所以複雜，正是因為安全風險與商業利益，在這個議題上的重疊性很高。
支持放緩的一方，包括阿莫迪本人以及奧特曼、哈薩比斯，強調的是 AI 能力成長速度已經超出人類理解與掌控範圍，需要時間補上安全與對齊研究的落差。
質疑的一方則提醒，同一群企業過去十年間累積的政治與經濟影響力，早已具備透過監管手段鞏固自身市場地位的能力與誘因，兩者未必互斥，也讓外界很難單純用非黑即白的方式評斷這場放緩倡議。
全球AI監管框架要由誰主導？
AI 放緩之爭，最終牽動的不只是幾家公司的商業利益，也涉及美中兩國在 AI 領域的競爭格局，以及未來全球 AI 監管框架會由誰主導制定。
阿莫迪提出的內建評估員制度是否真能落實獨立監督，各國政府是否會跟進立法，中國會不會參與任何形式的國際協調，這些問題都還沒有答案。
可以確定的是，隨著 AI 模型能力持續提升，安全與監管俘虜之間的界線之爭，恐只會愈來愈難分辨。
延伸閱讀：
台股早盤下挫！AI巨頭齊放緩步調，彭博：晶片股短期恐承壓、長期看好基建趨勢
千禧年難題突破爆倫理爭議！數學家用Codex做研究，OpenAI隨後搶先解題？
『AI巨頭齊喊減速，外界卻批「監管俘虜」：真正的目的是擊垮開源AI？』這篇文章最早發佈於『加密城市』