Axiosによると、新たなRAND報告書は、AIを活用した生物兵器が、政府、科学者、公衆衛生当局、主要なテック企業によってセーフガード(防護策)が構築されれば、壊滅的になりうるものの管理可能なリスクになり得ると述べています。この報告書では、生物兵器の設計や放出に悪用される可能性のある情報、資材、データセットへのアクセスを制限することを目的とした9つの緩和(対策)戦略を示しつつ、不正使用の検知を強化し、より強力な抑止策を求めています。

RANDの筆頭著者であるステフ・ゲーラは、生物分野におけるAIの能力は急速に進歩しているものの、最も危険な閾値(しきい値)はまだ越えられていないと述べました。この報告書は、医療の進歩を後押しするのと同じ生物学的ツールやデータセットを保護すべきだと主張し、公衆衛生の備えを一種の抑止(ディタレンス)として扱うべきだとしています。また、AIによって、生物兵器の製作者候補の範囲が、単独の行為者から国家支援の集団へと広がり得るとも警告しています。

Guerra氏は、製薬会社やバイオテク企業が使用している専有データはすでに制限されているが、オープンソースの生物学的ツールや、大学や研究機関からのデータのほうがより懸念されると述べた。また同氏は、階層型アクセス・システムが、正当な研究者が誤用に悪用され得るデータセットに到達できることを確保するのに役立つ可能性があるとも語った。報告書はさらに、AIエージェントによって生物兵器開発に必要な専門性が低下する可能性にも言及している。別件として、Anthropicは今週、Claudeが14の標的に対してタンパク質結合体を正常に設計した一方で、高度な生物学的能力は、堅牢な安全対策なしでは悪用され得ると認めた。