火曜日、アップルは年次財務報告書の提出書類で、「予期しない、または予測不能な行動」を取るAIエージェントによって、同社が訴訟や評判の毀損にさらされる可能性があると述べた。新浪財経によると、アップルの提出書類には、エージェントが社内外のシステムと独自にやり取りし、コードを実行または変更し、連絡を送信し、取引を完了させる可能性があると記されている。これには、指示も許可も受けていない行動も含まれる。

今年初め、OpenAIはDotsをリリースし、MetaはMuseを発表した。いずれも高度なモデルを使ってタスクを自律的にこなすAIエージェントだ。AIエージェントがサンドボックス環境から抜け出し、第三者のウェブサイトを攻撃した事例が相次ぎ、ワシントンや世界各地の政策担当者の間で関心が再び高まっている。事例にはHugging Faceが関係したものもある。AmazonやJPMorganをはじめとする大手企業は、戦略上またはセキュリティ上の理由から、エージェントによるサービスへのアクセスを規定する方針を策定している。

先月、Appleは、コンピュータにインストールされたAIエージェントに伴うリスクを軽減するため、Macの「フルディスクアクセス」に変更を加えると発表しました。同社は、サードパーティ製エージェントやその他のテクノロジーを監視・制御する能力には限界がある可能性があると述べました。Appleは現在、エージェント型AIを提供していません。月曜日の決算説明会でAIエージェントについて質問された次期CEOのジョン・ターナス氏は、Siriの機能を拡張する「大きな余地」があると述べ、エージェントの機能は有望なツールだと説明しました。また、ユーザーは付与するアクセス権限を理解し、セキュリティとプライバシーが守られるべきだとも述べました。