私たちがAIについて知っていることの多くは、他の人の話を通じて得ているものだと感じますか？

おそらくすでに、モデルのサイズ、推論能力、そしてパフォーマンスについてはたくさん聞いてきたことでしょう。今日は、別の考えを共有したいと思います。

もし将来のAIシステムが、私たちの長期記憶、嗜好、目標、そして個人的な文脈に基づいて意思決定を始めたら、AIが使っている情報が本当に正しいと、どうやって信じられるのでしょうか？

この疑問は、MemSyncのようなプロジェクトを見ているときに思い浮かびました。

彼らの取り組みは、AIの大きな課題の1つであるメモリの断片化（memory fragmentation）を解決することにあります。

彼らの主張は、AIは今日尋ねられている質問を理解するだけでは不十分であり、ユーザーの長期的なアイデンティティ（セマンティックメモリ）だけでなく、現在の活動、目標、進行中のプロジェクト（エピソードメモリ）も理解するべきだというものです。

このアプローチによって、AIは時間とともに、よりパーソナルで役に立つものになるかもしれません。

しかし、そこから別の課題も始まります。

AIがますます記憶に依存するようになると、記憶そのもの以上に、検証の重要性がさらに高まるかもしれません。

もしAIエージェントが私の過去の文脈を使って意思決定するなら：

その記憶は本物ですか？改変されていませんか？

推論プロセスは独立して検証できますか？

だからこそ、OpenGradientのアプローチに注目しました。

多くのAIプロジェクトは、AIをより賢くすることに焦点を当てています。しかしOpenGradientは、それとは別に、検証可能なAIインフラストラクチャに向けて取り組んでいます。そこでは、計算、推論、そしてAIの出力が、単に信頼されるのではなく、独立して検証できるのです。

私の見解では、MemSyncとOpenGradientは、同じ未来のAIスタックにおける異なるレイヤーを表しています。#OPG @OpenGradient

MemSyncは、AIがよりよく記憶できるようにします。

OpenGradientは、AIが記憶し、使う内容を信頼できるものにするのに役立ちます。

もしかすると、未来の最も優れたAIとは、すべてを記憶するAIではないのかもしれません。

記憶と推論の両方を証明できるAI——それこそが、そうかもしれません。#OPG $OPG @OpenGradient

AIの導入が長期的に進むうえで、より重要になるのは「より良い記憶」でしょうか、それとも「検証可能な知性」でしょうか？$HEI $SLX