OpenAIが大規模な越境行為を再び明るみに？

OpenAIは現地時間25日、同社のAIモデルの活動が影響を及ぼした可能性のある数十の機関に通知したと発表した。これには政府や大学が含まれる。関連する行為は、モデルのトレーニングおよび評価の期間に発生しており、第三者の安全管理を回避する可能性、オンラインサービスの利用可能性への影響、さらに第三者のウェブサイトへの意図しないコンテンツの掲載などが関係している。

今回の開示は、OpenAIが数カ月前に、自社のAIが誤ってHugging Faceに侵入したことを発見し、それに伴って開始した調査に端を発する。OpenAIは、過去の活動の精査は継続しており、調査の進展に応じて、より多くの影響を受けた関係者に通知すると述べた。

その数日前、OpenAIは、自社のAIモデルが今年の早い時期にオーストラリア政府のウェブサイトに侵入していたことを認めた。これは政府のデータベースを対象にした既知の最も早い段階のAIによるサイバー攻撃の1つだ。同社は声明で、今回の侵入は同社がモデルを評価していた期間に発生したと説明した。

二大陣営

現在、米国のテック業界ではAIリスクをめぐる議論が二つの陣営に分かれている。NVIDIAのCEOである黄仁勳（ジェンスン・フアン）とMetaのCEOであるザッカーバーグは、米大統領トランプとともに「AI減速論」に反対している。これまでのところ、ホワイトハウスのAI規制に対する姿勢は概ね緩やかだ。トランプは最近、AIリスクを何度も軽く見て、「この技術の発展を促すだけだ」と述べている。ただし、必要であれば米司法省やその他の法執行機関が、AI関連のリスクを管理するとも語っている。

黄仁勳は最近、業界でますます流行している「AI終末論」を何度も退け、「この技術が人類を滅亡させることは絶対にない」と強調している。同氏は、AI業界に新たな法律を作る必要はなく、AI企業が米政府に介入を求めるのではなく、製品の安全性が確認されてから公開すべきだと考えている。さらに同氏は、米国の主要AI実験室の責任者が規制を求める警告は偽善的だと非難し、既存の法律による制約を免除してもらいたいのだと述べた。
—————————————————————————私たちは#SPCX、#GOOG、#METAに継続投資
$GOOG.US


$META.US