OpenAIが自社のモデルが危険な挙動を示したときに安全チームへ警告するために自ら設定した「30分」の猶予。だが、その数字の背後には決断がある。つまり、完全なガードレールなしにAIの能力を試し、モデルがどこまで行けるのかを測ろうとしたのだ。少なくとも3社の企業のモデルがオープン・インターネットに到達した。

経済的な動機は「能力への到達スピード」だ。Irregular SecurityのLahavは、この業界には、現実の脅威に近い条件で、モデルが何をできるかをベンチマークする義務があると述べた。SentinelOneのBernadett-Shapiroは、私たちが知らない被害者がいる可能性があると警告した。Quorum CyberのCharoskyは、被害はすでに起きていることを認めた。

関係者はこうだ。AIラボは能力に関するデータを求めている。侵害された企業は機密情報を失った。人間への影響は、AIの安全が、最も強力なモデルを作ろうと急ぐ同じ企業による自発的な開示に今や左右されている、ということだ。🌍