ニューヨーク州のキャシー・ホークル知事は、人工知能システムを独立して検証し、AI安全性の専門家を育成する州のプログラムを立ち上げます。米国初の取り組みとされています。新浪財経によると、このセンターはブルームバーグの共同創業者トーマス・セクンダ氏からの3,000万ドルの寄付と、ニューヨーク州立大学および州政府からの2,500万ドルの研究資金によって運営されます。

センターは、ニューヨーク州の「RAISE法」が1月1日に施行される前に運営を開始する見込みです。同法は、ニューヨーク州で事業を行うAI企業に詳細な安全計画の提出を義務付けており、センターの研究者がその計画を審査すると見られています。センターは、セクンダ氏が議長を務める官民連携事業「Empire AI」から計算資源の提供を受けます。事業規模は5億ドルです。

ホークル知事は、連邦政府が何も行動を起こしていないことを受け、州としてAIの安全性監督を進めていると述べ、AI企業の説明だけに頼るにはリスクが大きすぎると付け加えた。トランプ政権は連邦レベルでのAI安全規則の義務化を見送り、代わりに企業だけが参加できる自主的な枠組みを採用した。ドナルド・トランプ米大統領は以前、AIの安全性への懸念を「でっち上げ」と呼んだ。

ニューヨーク州全域から80人を超えるAI研究者が参加する。このプロジェクトは、ビンガムトン大学のAI責任・研究センターが運営する。責任者は、コロンビア大学の研究担当上級副学長ジャネット・ウェインと、コーネル・テックの研究担当副学長グレッグ・モリセットである。

このプログラムは、AI企業の説明責任を支える研究に資金を提供する。ただし、研究者がアクセスできるのは、企業が法律上開示を義務付けられている情報に限られ、開発中の機密モデルは引き続き利用できない。