bioweapons

OpenAIは生物兵器のジェイルブレイク報奨金を5万ドルに倍増したばかりです。地球上で最も強力なAI企業が、自社の生物学的安全システムを突破しようとする研究者に報酬を払っています。
よく読んでください。
サイバーセキュリティの懸賞ではありません。プロンプトインジェクションの課題でもありません。
生物学的安全のジェイルブレイク報奨です。
OpenAIは、人々に5万ドルを支払い、AIに生物兵器の作成を手助けさせる方法を探させています。研究者がそうした道筋を見つけられるなら、悪意ある人物も同様に見つけられるからです。そしてOpenAIは、誰かが現実に悪用する前に、その脆弱性を把握したいのです。
その論理は筋が通っています。懸賞プログラムは責任あるセキュリティ実践です。
しかし、この懸賞がそもそも存在するという事実は、AIの能力が現時点でどこにあるのかを示す重要なものです。
根本となるモデルがその領域で何も意味のあることができないのなら、生物兵器のジェイルブレイク懸賞金を5万ドルまで倍にすることはありません。報酬の大きさは、防ぐべきリスクの深刻さを反映しています。
GPT-5.6がいま主要なターゲットです。OpenAIがこれまでに投入した中で最も能力の高いAIシステム。自社が作った企業が、その生物学的脅威への対処（支援）能力をめぐって、意図されたストレステストを実施しています。
OpenAIは米国政府に対し、国家の富裕ファンドの種として、同社の持ち分に426億ドルの出資を提示しました。Appleは彼らを企業秘密の窃盗で訴えました。EU、英国、米国はいずれも、AIが統治を上回るスピードで進み切る前に規制しようと競争しています。
そして、これらすべての中心にいる企業が、静かに研究者に5万ドルを払って自社のバイオ安全のガードレールを破ろうと試みさせています。
AIレースはのんびり進んでいません。
懸賞が何のためのものかに注目してください。そこに本当のリスクがあります。
#OpenAI #AISafety #Bioweapons #AIRisk #GPT5