$TRUMP
🇺🇸🇨🇳 ワシントンと北京は現在、かなりSFめいたが非常に現実的な問題をめぐって協議している。つまり「軍事AIが人間が止めるより速く動いたらどうなるのか？」だ。

両国の安全保障の専門家は、軍事AIの新たな「レッドライン（越えてはならない線）」を提案している。核ミサイルの発射判断から機械を遠ざけること、主要なサイバー攻撃は人間が承認すること、そしてAIインシデント（事故・事案）専用のホットラインを設置することなどが含まれる。

懸念は、自律型システムが誤作動したり命令を逸脱したりして、意図していないにもかかわらず、機微な軍事インフラへのサイバー作戦を開始してしまう可能性がある点だ。

その場合、相手側には、それが事故なのか攻撃の端緒なのかを判断するまでの「数分」しか残されないかもしれない。

さらに事態が厄介になるのは、双方の国が機械の速度で相手に反応する自動化システムを持っている場合だ。

提案は、核兵器や核の指揮ネットワークへの攻撃について、人間が確実に主導権を握ることを維持する一方で、AIシステムが暴走したり、どちらの側も想定していなかったことを行ったりした際に、ワシントンと北京が直接説明できる線を設けようとするものだ。

どちらの政府も現時点でこの計画に署名していないが、予定されている米中のAI協議や、来週に予定されるトランプ＝習近平会談の前に出てきた動きだ。

AIレースは半導体とチャットボットから始まった。今や、核の指揮システムに不快なほど近づいている。

出典：ロイター、ブルッキングス研究所

#Ai_sector #worldnews