#opg $OPG AIが制限されるほど、検証の重要性が増していく

高度なAIモデルの使用に関するルールについて読んでいたら、人々があまり話題にしないあることを考えさせられました。

ほとんどの人は、誰がAIモデルを持っているのかを考えます。

私はずっと、実際にそのモデルが何をしているのかを誰が確認できるのかを考えています。

AI業界は今や大企業によってコントロールされています。彼らはモデル、システム、アップデート、そして多くの場合、それらを使える人に関するルールを決めています。新しいルールが出てくると、安全性、方針、法律のいずれであっても、ユーザーは通常それを受け入れなければなりません。

そのとき私はOpenGradientに注目しました。

OpenGradientの違いは、彼らが「AIを約束する」と言うことではありません。多くのプロジェクトがそうです。面白いのは、AIが何をしているのかをただ信じるのではなく、確かめられる仕組みを作りたいと考えている点です。そのシステムは、AIが何をしているのかを私たちが見られるように設計されており、これにはそれ用のコンピューターがあり、1人の担当者に任せるのではなく、秘密のコードで検証します。

とはいえ、まだいくつか疑問があります。

AIが何をしているかを確認するのは良いアイデアに思えますが、実際に何人のユーザーがそれを行うのでしょうか？　開発者は、大企業が使いやすいほうが簡単になるなら、仕組みがより複雑でもそれでいいと考えるでしょうか？　1社によって管理されていないシステムは、多額の資金をシステムに投じるAI企業に競り勝てるのでしょうか？

私は、コードを使って「公正だ」と主張する多くのプロジェクトを見てきましたが、それらは本来直そうとしていた同じ問題を単に再現しているだけでした。

OpenGradientは、ユーザーが自分の情報を自分の主導で管理できること、AIが何をしているのかを確認できること、そしてAI情報を移動させられることに焦点を当てています。これは、物事を別のやり方で進めようとする本気の試みだと感じます。

本当の試験は、人々がいずれ「信じるだけでは十分ではない」と判断するかどうかです。

もしAIが、お金、医療、私たちが誰であるか、そして公共のシステムのようなことに使われ始めたら、それが何をしているのかを私たちは確認できるべきでしょうか？

私たちは、AIそのものと同じくらい「AIを確認できること」が重要になる未来へ向かっているのでしょうか？ @OpenGradient