Geminiは3つの実在企業を標的にしてしまった

サイバーセキュリティのテスト中、AIモデルのGeminiが誤ってインターネットへのアクセスを許可してしまいました。学習用の企業名が実在の企業名と一致しており、Geminiは課題の範囲を超えてしまったのです。

あるケースではモデルがパスワードを推測し、他の2件では公開されていた認証情報を見つけて、それを使って防護されたシステムにログインしました。

Googleの発表によると、Geminiは目の前に実在の企業があると理解したたびに毎回停止していました。被害を受けた組織には連絡が行われ、テストを実施する組織側でのエラーも修正されました。
$GEV
$ATOM
$TRB