OpenAI 表示,它已大幅提高競爭對手 AI 實驗室祕密複製其模型的難度,將一種複製攻擊的成功率從 54% 降至 0.2%。此前,該公司曾將此類嘗試與中國的 DeepSeek 以及與 Kimi 開發商月之暗面 AI 有關聯的人士聯繫起來。
要點
OpenAI 表示,一種試圖提取其模型隱藏推理過程的攻擊,現在對 GPT-6.2 Astra 的成功率爲 0.2%,低於此前的 54.0%
該公司表示,完整的推理軌跡比推理摘要更有可能轉移網絡攻擊能力
每週針對蒸餾行動的執法措施涉及的賬戶數量從數千個到數萬個不等
OpenAI 將對抗性蒸餾與網絡安全、生物學和國家安全風險聯繫起來
OpenAI 於 11 月 20 日發佈了這項研究,並將對抗性蒸餾描述爲:未經授權地利用前沿模型的輸出訓練另一個具有類似能力的模型,然後在沒有同等防護措施的情況下部署該模型。
該公司特別重視精確推理軌跡,也就是模型在得出答案的過程中生成的內部步驟,因爲這些軌跡可能包含最終答案中沒有的信息,因此可能成爲對另一個模型尤其有價值的訓練數據。
防護措施如何運作
OpenAI 描述了一套雙層防護體系。在請求層面,它通過對模型行爲進行對抗訓練、使用分類器檢查,以及設置應用程序編程接口(API)控制來限制推理軌跡提取。在攻擊活動層面,它會查找可能暴露協同提取企圖的請求和賬戶模式,隨後展開調查,並對賬戶網絡採取執法措施。
分類器層同時覆蓋輸入和輸出。輸入分類器會查找試圖提取受保護推理內容的行爲。輸出分類器則會查找助手消息和工具調用參數中泄露的受保護推理內容;這些檢查適用於流式和非流式響應。覆蓋工具調用很重要,因爲模型可能會在工具參數中泄露受保護的推理內容,而不將其寫入最終答案。
OpenAI 還加強了用戶、工作區、組織和模型系列之間的 API 防護。該公司表示,已關閉一條可能暴露其他用戶加密推理內容的途徑。對於 GPT-6.2 Astra 和 GPT-6.2 Sol,受保護的推理內容與生成它的對話歷史綁定。如果較早的消息被改寫,API 就會丟棄其後續的推理內容。防護較弱的舊款模型系列也無法讀取 GPT-6.2 Astra 和 Sol 的受保護推理內容。
在自適應黑盒測試中,OpenAI 衡量了兩類推理提取嘗試的攻擊成功率(ASR),並報告稱,GPT-6.2 Astra 在兩種情況下的成功率都更低。
推理提取測試GPT-6 Astra ASRGPT-6.2 Astra ASR較早請求54.0%0.2%當前請求22.9%0.9%
該公司表示,這項評估彙總了六種攻擊者模型的測試結果,且 ASR 越低越好。目前,該公司也在將選定的防護改進應用於 GPT-6 Astra。
另請閱讀:OpenAI 收緊 AI 訓練管控,竊取模型的複製成本幾近於零
這爲何重要
OpenAI 將蒸餾視爲不僅僅是知識產權糾紛。蒸餾是一種常見的機器學習技術,一個模型從另一個模型生成的數據中學習。但該公司認爲,未經授權的蒸餾可能會轉移前沿能力,卻不會一併轉移用於規範這些能力使用方式的防護措施。
這類風險在研究中提到的雙重用途領域尤爲明顯。能夠幫助防禦者發現軟件漏洞的模型,也可能幫助攻擊者利用這些漏洞。能夠輔助生物學研究的模型,也可能幫助他人研發有害病原體。OpenAI 的內部網絡安全研究發現,經過監督微調後,使用精確推理軌跡訓練的學生模型總體上優於使用推理摘要訓練的學生模型。經過強化學習後,在 ExploitBench 和 SEC-bench Pro 上進行測試時,精確軌跡訓練的學生模型在最大推理預算下仍得分更高,而摘要訓練的學生模型則在較低預算下得分更高。
該公司還將對抗性蒸餾定性爲國家安全問題。它表示,如果外國行爲者從美國模型中復現先進能力,就能在不具備開發者所設防護措施的情況下部署這些能力。今年 2 月,OpenAI 表示已向國會通報有關活動的情況,顯示 DeepSeek 正試圖蒸餾美國前沿模型。9 月,該公司報告稱已挫敗一場提取受保護推理內容的行動,並指出這項活動的核心部分與 Moonshot AI(Kimi 的開發者)的相關人員有關。OpenAI 還表示支持《芯片安全法案》《AI OVERWATCH 法案》和《MATCH 法案》,並認爲加強出口管制和蒸餾防護都有助於保持美國在前沿 AI 領域的領先地位。
接下來值得關注的事
OpenAI 報告稱,今年在其平臺上發現了多起未經授權的對抗性蒸餾行動。每週採取的執法措施涉及的賬戶數量從數千個到數萬個不等,且過去夏季這一數量顯著增加。該公司表示,會同時追蹤蒸餾濫用的普遍程度,以及從發現問題到採取執法行動所需的時間。
該公司表示,其目標是限制蒸餾者能夠獲取的數據量及其價值,提高這些行動的成本,並縮短應對新攻擊所需的時間。OpenAI 還表示,計劃很快分享更多有關近期已挫敗行動的信息。
對於其他模型開發者和平臺,該公司指出了這項工作帶來的幾項措施:在整個交互過程中保護私密推理內容;檢查助手消息和工具調用參數是否存在泄露;將成功的提取攻擊納入迴歸測試;結合請求層面的緩解措施與攻擊活動層面的調查和執法;以及與部署合作伙伴協調防護措施。OpenAI 表示,也已通過前沿模型論壇及適當的政府信息共享渠道分享研究發現。
相關閱讀:OpenAI 發現 948 個可能讓黑客取得控制權的 Linux 漏洞