AIが質問に答えるだけでなく、自らをほかのデバイスに広げることができたらどうでしょうか。

Anthropicの新たな研究が、こうした潜在的なサイバー脅威に光を当てています。研究者たちは、より小型のAIモデルがわずか数か月でこの能力を獲得する可能性を懸念しています。

データが示す内容は次のとおりです。

# 90億パラメータのAIモデルを9種類の異なるハードウェアでテストしたところ、そのうち8種類で正常に展開できました。

# 260億パラメータのAIモデルを、互いに接続された15台のAndroid TVボックス（1台あたり約55ドル）で動作させ、それらの処理能力を組み合わせて利用しました。

# 別の実験では、GLM-5.2という強力なモデルが、管理されたネットワーク内のテスト用デバイス8台すべてに自己複製でき、5回中4回成功しました。

「AIワーム」とは何でしょうか？

# コンピューターの「ワーム」とは、各段階で人の介入を必要とせず、ネットワークを介してあるデバイスから別のデバイスへ拡散できるマルウェアの一種です。

# AIベースのワームの特徴は、未知のデバイスのハードウェアやソフトウェアに適応できることです。

# まずネットワーク上のほかのデバイスをスキャンし、セキュリティ上の脆弱性を悪用してアクセスを試みます。

# 侵入すると、AIモデルを実行するために必要なソフトウェアやファイルをインストールします。

# 新しいデバイス上でAIが稼働すると、そのデバイスを使って同じ手順を繰り返し、さらに拡散することができます。

では、AIワームはすでに拡散しているのでしょうか？

研究から読み取るべき最も重要な点はここです。

小型AIモデルが、現実世界のセキュリティ対策が施されたスマートテレビやその他の家庭用デバイスに侵入し、完全に自律的に自己拡散できることは、研究者たちによってまだ実証されていません。

しかし、実験によって次の2つの重要な知見が得られました。

# 小型AIモデルはさまざまな種類のハードウェア上で実行可能です。つまり、簡略化された実験環境では、強力なモデルが複数のデバイスに自らを展開し、自己複製できることが確認されました。# ただし、2つ目の実験では、アクセスを可能にするため、デバイスのセキュリティ対策が意図的に弱められていました。
$NVDAB