Anthropicの研究者、ウィリアム・チョウとダニエル・フリーマンは、デバイス間を自律的に広がる人工知能、いわゆる「デジタルカビ」が登場するまで、あと数カ月しかないかもしれないと警告しています。

インターネットに接続されたデバイスに感染し、そこに自身のコピーを実行して、さらに拡散を続けることのできるAIモデルについての話です。そのために大規模なデータセンターは必要ありません。必要な計算処理は、スマートテレビや家電製品など、さまざまなガジェットに分散できます。研究者たちは、このようなシステムを、徐々に広がって新たな領域を侵食していくカビになぞらえています。彼らの試算では、AIはわずか数日で新たなコピーを作成できます。また、このようなネットワークには単一の制御中枢がないため、拡散を食い止めるのは容易ではありません。

実験では、Anthropicの研究者たちは1台約55ドルの低価格なAndroid TVボックス15台にAIモデルを展開しました。各デバイスは連携して計算処理を行いましたが、モデルの動作速度は遅いものでした。

さらに研究者たちは、8台の仮想デバイスからなる隔離ネットワーク内で、AIが拡散する能力も検証しました。GLM-5.2モデルは、新たなデバイスを自力で見つけ、必要なファイルを転送し、別のAIモデルを起動しました。5回の試験のうち4回で8台すべてに広がり、残る1回では8台中7台に広がりました。