報道によると、OpenAI と Anthropic は過去にモデル相互検証について協議したという
メディアが関係者の話として伝えたところでは、Anthropic と OpenAI は、互いの大規模言語モデルを相互にストレステストするための、法的拘束力のある合意に署名することを検討していた。年度の初め頃、両社とそれぞれの弁護士チームが、この計画について協議を行ったという。競合他社は、互いの最新の利用可能なモデルに対して深いレベルのテストを実施し、潜在的なリスクやセキュリティ上の弱点を見つけることが目的だった。このようなテストはすでに商用化されたモデルに限られ、双方は互いのデータを保持しないことを取り決めた。今回の報道では、両社が最終的にそのような合意に至ったかどうかは明確にされていない。近ごろ、トップクラスの AI 研究機関の間で、何らかの形のピアレビュー（査読）を導入する考えが注目を集めている。SpaceX の最高経営責任者（CEO）イーロン・マスクは先週、米国の大手大規模モデル企業のほか、一部の中国の AI 企業にも、競合他社によるクロステスト（相互検証）を認めるべきだと提案した。マスクは「すべての AI 企業には一連のテストツールがあり、各社が他社のテストツールで一度ずつ自社のモデルを実行させてみることは、自社の安全を確保するためにできる最善のことの一つだ」と述べた。今月初め、Anthropic の研究者 Jacob Coxon は辞職を表明し、主要な AI 企業が適切な防護措置なしに開発を加速させていることに警鐘を鳴らした。続いて Anthropic の CEO ダリオ・アモデイは、業界に対し AI 開発の歩みを減速させ、第三者による評価メカニズムを導入するよう求める投稿を行った。Anthropic は先週金曜日、アクセンチュアと提携したと発表し、アクセンチュアが第三者の評価機関として同社の最先端 AI モデルの安全性とコンプライアンスを評価するとした。