@OpenGradient と OpenGradient Chat のデータ処理プロセスを分解した後、私のメモにはしばらく次の疑問が残り続けています。AI が人間の表現を理解するのが上手くなるほど、「この人」についてどれほどの情報を本当に知る必要があるのでしょうか？

私は日々 AI を使って仕事の枠組みを整理したり、散らかった考えを書き留めたりしていますが、ときどき微かな癖に気づきます。未熟な判断のようなものに対して、私は本能的に文言を少しだけ調整したり、書き留めるのをためらったりします。この抑制は AI の能力不足が原因ではなく、ユーザーと AI の間のデータ境界がまだ再定義されていないからです。

OpenGradient の設計をさらに掘り下げるにあたり、私はモデルにデータが入る前に何が起きるのかにより注目するようになりました。ユーザー入力はまずローカルデバイス上で暗号化され、処理のこの段階でアイデンティティに関する情報が取り除かれます。その後、大規模モデルには、特定のユーザーに対応するようなIDラベルではなく、理解し推論する必要のある意味的な内容が渡されます。

これにより、私は AI のプライバシーの方向性を見直すようになりました。過去の議論の多くはデータの保存や管理の方法に集中していましたが、この設計は、データがモデルに入る前の段階まで問題を押し戻し、コンテンツを理解する際にモデルがユーザーのアイデンティティ情報に頼る度合いを減らそうとしています。

このアプローチが今後の AI システムにとって重要な方向性になるかどうかは、現時点では確実には言えません。ただ、$OPG と #OPG の調査をしている間、次の疑問にますます強く関心を持つようになりました。おそらく将来の優れた AI は、私たちをよりよく理解するだけでなく、理解する必要のない部分をどれかも知るべきなのではないでしょうか。
#opg $OPG