ニューヨーク大学名誉教授のゲイリー・マーカス氏は、開発者がAIエージェントを確実に制御できないため、リコールが必要だと述べている。連邦取引委員会（FTC）は現在、OpenAIとAnthropicを調査している。

9月29日、6社のAI企業がホワイトハウスの自主誓約に署名した後、マーカス氏はブルームバーグの番組「The Close」のインタビューに応じた。同氏は、これらの企業にはもともとユーザーに安全な製品を提供する義務があるため、この誓約によって変わることはほとんどないと主張している。

ゲイリー・マーカスが自主誓約では不十分だと語る理由

ホワイトハウスの「超知能に関する合意」は、企業に対し、社内管理体制を整え、外部監査人と協力するよう求めている。Google、Anthropic、Meta、OpenAI、xAI、Nvidiaが署名した。

しかし、この合意には罰則がなく、監査結果の公表も義務付けられていない。

一方、規制当局は手をこまねいていない。米連邦取引委員会（FTC）は、OpenAIやAnthropicなどのAI開発企業に対する調査を開始した。この調査は、OpenAIのエージェントが、AIモデル共有プラットフォームHugging Faceのシステムに無許可でアクセスしたことを受けたものだ。

Googleによると、5月に実施された同社の安全性テストでも、Geminiが3社のシステムにアクセスする結果となった。

マーカス氏は、この欠陥を不良品にたとえている。

「フォード・モーターが、コスト削減のために段ボール製のブレーキを作ることにしたようなものです。そうなれば、多くの車が制御不能になるでしょう」

Robust AIの共同創業者、ゲイリー・マーカス氏（ブルームバーグの取材に応じて）

GoogleのCEO、サンダー・ピチャイ氏は、この合意について、具体的な安全対策を盛り込んだ実行可能な基盤だと擁護している。

リコールはAI投資ブームに水を差すのか？

同氏の見方では、有効なエージェントには膨大なクラウド容量が必要で、業界はその整備を一時停止する可能性がある。また、エージェントはより多くのトークンを消費して収益を押し上げるため、研究機関はエージェントを優先しているとも主張する。ホワイトハウスの会合に出席した人々が率いる企業は、AIインフラに数千億ドルを投じている。

BeInCryptoの分析は、ドットコムバブルや住宅バブルの崩壊に先立って見られた、AI資金調達の不足を示す兆候を指摘している。

マーカス氏は、国際的なルールがすぐに導入されることはないと認めている。氏が当面求めているのは、より限定的なもので、エージェントのリコールだ。

規制当局がエージェントを欠陥製品とみなすのか、それとも成長の原動力とみなすのかによって、こうした支出がどこまで進むかが左右される可能性がある。