CNBCによると、OpenAIは月曜日に、最先端の人工知能開発における安全性とセキュリティのための提案を公表しました。焦点はアラインメント研究と、再帰的自己改善（RSI）です。同社は、最先端の標準を策定するには国際協力が必要だとし、世界各地の既存のAI安全機関の取り組みを土台に、規制当局が発展させるよう促しました。OpenAIは、標準は最先端AIモデルと開発者を中心に据えるべきであり、RSIを含む自動化されたAI研究者のためのベネフィット・リスク管理にも資するべきだと述べています。同社は、完全に自律したRSIは現在起きておらず、安全に実行できる場合を除いて追求すべきではないとし、AI開発に対して人間が実用的な制御を持てない状態になり得ると警告しました。先週、Anthropicは、最先端AIモデルの安全な開発に関する独自の考えを発表しました。
$AI #AImodel