Google Project Zero計画は、脆弱性の開示期限を段階的に30日まで短縮しています。Google DeepMindの共同創業者であるハサビスは、閉ループ型の再帰的な自己改善によって、人間には理解しがたい「異質な知能」が生み出される可能性があると警告しました。

この2つの話が示しているのは、同じ判断です。GOOGLのAI安全能力は、脆弱性の開示を迅速化できるかどうかだけでなく、モデルのリスクを実行可能な審査プロセスに組み込めるかどうかにも注目する必要があります。

30日は脆弱性開示のスケジュールであり、AIモデルの監査期限ではありません。ハサビスは防御の迅速化、サンドボックス、第三者監査を提唱していますが、インタビューでの主張は、会社がすでにこれらの仕組みを導入したことを意味するわけではありません。今後注目すべきなのは、適用範囲、監査の計画、実施結果が具体化するかどうかです。

脆弱性開示の期限が短縮される一方で、モデルの自己改善リスクに同じように明確な制約が設けられないとしたら、市場はそれを安全面での優位性と見るべきでしょうか。それともガバナンス上の欠陥と見るべきでしょうか。