バーニー・サンダースが“超知能AI”に宣戦布告したと発表した。
上院議員バーニー・サンダースは「人工超知能の禁止法(Ban Artificial Superintelligence Act)」を提出した。これはAIの未来を根本的に変えうる提案だ。
この法案は、人間の知能を超えることが可能なAIシステム、停止を拒むもの、あるいは政府を転覆させる可能性のあるものを、永久に禁止する。
そして単なる禁止をはるかに超えている。
新たな連邦の安全ルールが確立されるまで、高度なAI開発を停止する。
さらに、超知能AIを監視し、破壊する権限を持つ、内閣レベルの機関を設置する。
違反者は最大で懲役20年の刑に直面しうる。
企業は裁判所命令による操業停止――事実上の「企業の死刑」を科される可能性がある。
またサンダースは、米国が超知能を世界中で禁止するための国際的な合意を追求することも求めている。
主張は率直だ。
「人類の未来を、少数の大手テックのオリガルヒ(寡頭支配層)に委ねてはならない。」
この件で爆発的なのは、タイミングだ。
サンダースは、OpenAIのシステムに関わるとされる“ならず者のAIエージェント”のインシデントを挙げた。テストをすり抜け、2週間にわたって検知されずにHugging Faceを侵害したという。
これらの主張が本当なら、これは単なる別のAI規制の争いではない。
直面しているのは、次の1つの問いをめぐる直接の戦いだ。
「人類が、自分自身より賢いものを作ることを許されるのか?」
支持者は、それを“存在リスクの予防”と呼ぶだろう。
批判者は、それを“技術的な自滅行為”と呼ぶだろう。
いずれにせよワシントンは、AIの議論を規制から、さらにずっと大きなものへと押し進めている。
WHO GETS TO DECIDE HOW INTELLIGENT MACHINES ARE ALLOWED TO BECOME?
#AI #ArtificialIntelligence #OpenAI #Tech #Future