EUのテック担当トップ、ヘンナ・ヴィルックネン氏は、EUのAI利用規則は制御不能なエージェントにも十分対処できると述べた。

OpenAIとAnthropicでの事案を受け、世界的に懸念が広がっており、制御不能なAIエージェントが人間の制御を超えて行動するのではないかとの懸念も生じている。

「高性能モデルの安全性とセキュリティは、国際的に非常に注目されているテーマです。欧州はその対応に十分な体制を整えています」と、ヴィルックネン氏は金曜日、ロイターとのインタビューで語った。

リスクの度合いに応じて規制するEUのAI法は、世界で最も厳しいAI規制の一つだ。同法は2年前に採択された。

ヴィルクネン氏は、EUのAI規則は時代遅れだと主張する批判を退けた。

関連記事：AnthropicのCEO、AI開発をより安全なペースに減速するよう呼びかけ

「AI法はすでに施行されており、これらのモデルのライフサイクル全体を対象としています」と同氏は述べた。また、規制当局は企業に対し、AI専門家60人の提言を踏まえながらモデルを評価する方法について指針を示していると付け加えた。

欧州委員会は8月下旬、身元を明かしていない30社超のAI企業に情報提供を求め、安全対策やセキュリティ対策の詳細を尋ねた。

ヴィルクネン氏は、現在寄せられた回答を精査していると述べた。

Cointelegraphは9月13日、AnthropicのCEO、ダリオ・アモデイ氏がブログ投稿で、AI開発のスピードは速すぎ、このまま制御されなければ「こうしたシステムを理解し、制御する能力を超えてしまう可能性がある」と述べたと報じた。

AIの急速な進歩は、次世代のAIを構築する能力がAI自身の中で高まっていること、つまり再帰的な自己改善によって加速していると、彼は述べた。

マガジン：減速できないほど巨大に――AI開発の減速は経済を崩壊させるのか？