#anthropicceocallsforaislowdown
アントロピックCEO、AIのスローダウンを提唱──そして議論はますます無視しがたく
AIの安全性をめぐる議論は今週、アントロピックのCEOダリオ・アモデイがフロンティアAI開発のペースを遅らせるよう業界に公に求めたことで、大きく転機を迎えた。全面的な停止を求めるのではなく、アモデイは、より強固な安全性の監督、独立した評価、そして主要なAIラボ間での連携強化に焦点を当てた枠組みを提案した。その後、オープンAIのCEOサム・アルトマンやxAI創業者イーロン・マスクも、より慎重に進めるという広い考え方に賛同を表明している。出典：
アモデイによれば、懸念は、AIの能力が、それを確実に評価し制御するための業界の能力よりも速く進歩している可能性にあるという。提案には、第三者の安全性評価者にフロンティア・システムへのより深いアクセスを与えることや、主要なAI企業同士の「無制限な能力競争」のリスクを減らす仕組みの構築が含まれる。
なぜ重要か
警告が、技術を作っている企業から出ている点は注目に値する。外部の批判者からのものではない。そうなると、難しい問いが生じる。先進的なAIに最も近い企業が、より慎重さを求めているのなら、政府、企業、そして投資家はどう対応すべきなのか。
一方で、懐疑論も残っている。開発の減速を求める声は、小規模な競合他社に対して参入障壁を高めることで、大企業・既存大手の利益につながり得る、と批判する人もいる。また、地政学的な競争がある以上、意味のある減速を維持するのは難しいだろう、という見方もある。真の難題は、AIの進展を認めるかどうかではなく、ますます自律性を高めるシステムが経済全体に深く組み込まれる前に、どれほどの監督が必要かを見極めることかもしれない。
業界は、技術的リーダーシップをめぐる世界的なレースに閉じ込められたまま、AIの安全性基準について現実的に足並みをそろえられるのか？
$BR $CAP