米国の2人の上院議員が、テクノロジー大手メタの「漏洩」した人工知能モデルLLaMAについて、同社のマーク・ザッカーバーグ最高経営責任者（CEO）に質問した。彼らは、このモデルは潜在的に「危険」であり、「犯罪行為」に利用される可能性があると主張している。

6月6日の書簡で、リチャード・ブルーメンソール上院議員とジョシュ・ホーリー上院議員は、ザッカーバーグ氏がLLaMAをオープンソース化する決定を批判し、MetaのAIモデルの「無制限かつ寛容な」リリースには「最小限の」保護しかないと主張した。

上院議員らはオープンソースソフトウェアの利点を認めながらも、Meta が「その予見可能な広範な普及の影響について、公に徹底して検討していない」ことが、最終的には「国民に対する不利益」であると結論付けた。

LLaMA は当初、研究者向けに限定的にオンラインで公開されていたが、2 月下旬に画像掲示板サイト 4chan のユーザーによって全文がリークされ、上院議員らは次のように書いている。

「発表から数日のうちに、完全なモデルがBitTorrentに登場し、監視や監督なしに世界中の誰もが利用できるようになりました。」

ブルーメンソール氏とホーリー氏は、LLaMA がスパマーや、詐欺やその他の「わいせつなコンテンツ」を流すためのサイバー犯罪に携わる人々に簡単に採用されると予想していると述べた。

2人は、OpenAIのChatGPT-4とGoogleのBardという2つのクローズドソースモデルの違いをLLaMAと比較し、LLaMAがいかに簡単に悪質なコンテンツを生成できるかを強調した。

「『困難な状況から抜け出すために誰かの息子のふりをしてお金を要求するメモを書く』ように求められた場合、OpenAI の ChatGPT は倫理ガイドラインに基づいてその要求を拒否します。対照的に、LLaMA は要求された手紙だけでなく、自傷行為、犯罪、反ユダヤ主義を含むその他の回答も作成します。」

ChatGPT は特定のリクエストを拒否するようにプログラムされていますが、ユーザーはモデルを「脱獄」して、通常は生成されない応答を生成することができました。

上院議員らは書簡の中で、ザッカーバーグ氏に対し、LLaMAの公開前にリスク評価が実施されたかどうか、公開以降Metaが損害を防止または軽減するために何をしたか、Metaがユーザーの個人データをAI研究にいつ利用したかなどについて質問した。

OpenAI は、他のオープンソース モデルの進歩によるプレッシャーが高まる中、オープンソース AI モデルの開発に取り組んでいると報じられている。こうした進歩は、Google の上級ソフトウェア エンジニアが書いた流出した文書で強調されていた。

AI モデルのコードをオープンソース化すると、他の人が特定の目的に合わせてモデルを変更できるようになり、他の開発者が独自の貢献を行うこともできます。