兩個互相較勁的實驗室，差一點簽下互相拆臺的協議。

據媒體報道，OpenAI與Anthropic今年早些時候接近達成一份有約束力的協議，允許雙方各自測試對方的模型，尋找漏洞和隱性的安全風險。按披露的條款，雙方可以拿到對方商用模型的編程訪問權，自行做漏洞測試，並禁止留存對方的數據。

範圍劃得很清楚，未發佈的系統不在其中。也就是說，能被檢查的是已經賣出去的東西，還沒拿出來的部分留在門內。這種安排把驗證的權力部分交給了同行，也把同行的判斷變成了一種外部監督。

這份協議最終是否簽署並不清楚。把最敏感的檢查交給競爭對手，需要的不是善意，而是雙方都相信對方會守規矩。互爲對手的兩家公司，最稀缺的資源從來是信任，兩家都在替對方挑毛病，同時都不願意讓對方看清自己的底牌。

同一周，有公司負責人公開質疑其中一家是否還能走到上市，並把另一家直接排除在外。行業裏的信任，似乎只在需要證明什麼的時候才被拿出來。

安全合作的上限，通常寫在披露範圍那幾行字裏。

#人工智能 #安全