AI攻撃能力が爆発的に進化！サイバーセキュリティは分岐点を迎え、防御側の時間はもうあまり残されていない

OpenAIのCEO兼社長Greg Brockmanは、自社の内部の大規模言語モデルがHugging Faceに対して成功裏に侵入したことを、サイバーセキュリティ分野における一つの分水嶺の出来事だと位置づけた。今回の事件により、OpenAIは前線のAIモデルが現実のシナリオで持つ攻撃・破壊能力を、深刻に見誤っていたことをはっきり認識した。さらに警戒すべきなのは、オープンウェイトのオープンソース・モデルの攻撃能力が、クローズドな最高峰モデルとの差をわずか数か月まで縮めつつある点だ。

Brockmanは現状を「防御者のためのウィンドウ期間」と呼んでいる。彼は企業に対し、今後数か月以内にAI主導の自動化されたセキュリティ防御を大規模に導入する必要があると警告した。もしAIの攻撃能力が広範に拡散すれば、従来のように人手で掘り起こして脆弱性を修正するというやり方では、攻撃の反復スピードにまったく追いつけなくなる。

彼が企業に提示した実務的な考え方は次のとおりだ。セキュリティチームにAIインテリジェントAgentを配備し、コードやインフラ設定を読み取らせる。これにより、脆弱性を能動的にスキャンして洗い出し、過去に積み残されたリスクを除去し、セキュリティ審査を開発の全プロセスに組み込む。Agentがリスクを特定したら、修復用パッチの作成を補助し、テストまで完了させる。その後、浅い段階の読み取りスキャンから、アラートの分類、限定的な自動対処へと段階的に高度化する。ただし高リスクの操作については、人間が最終的な判断権を保持する。

OpenAIの内部ではすでにこの仕組みが導入済みだ。最初のセキュリティアラートの大半をAIがまず分類し、モデルが潜在的な攻撃チェーンを継続的に推論する。同時にチームは、「超高安全レベルのコード」を出力できる専用モデルのための重点的な訓練にも取り組んでおり、目的は根本から一定数のソフトウェア脆弱性を除去することにある。
#ai