Похоже ли вам, что большая часть того, что мы знаем об ИИ, приходит к нам из разговоров других людей?

Возможно, вы уже слышали немало о размере моделей, способностях к рассуждению и производительности. Сегодня я хочу поделиться другой мыслью.

Если будущие системы ИИ начнут принимать решения на основе наших долгосрочных воспоминаний, предпочтений, целей и личного контекста, как мы можем доверять тому, что информация, которой они пользуются, действительно верна?

Этот вопрос пришёл мне в голову, когда я изучал проекты вроде MemSync.

Их фокус — на решении одной из главных проблем ИИ: фрагментации памяти.

Их тезис в том, что ИИ не должен понимать только вопрос, заданный сегодня. Он также должен понимать долгосрочную идентичность пользователя (семантическую память), а также текущие действия, цели и продолжающиеся проекты (эпизодическую память).

Такой подход может сделать ИИ со временем гораздо более личным и полезным.

Но именно здесь начинается ещё одна сложность.

По мере того как ИИ становится всё более «память-ориентированным», верификация может оказаться ещё важнее самой памяти.

Если агент ИИ использует мой прошлый контекст, чтобы принять решение:

Была ли эта память подлинной? Её не изменяли?

Можно ли независимо проверить процесс рассуждений?

Вот почему меня заинтересовал подход OpenGradient.

Многие проекты в области ИИ сосредоточены на том, чтобы сделать ИИ более умным. Однако OpenGradient работает над верифицируемой инфраструктурой для ИИ — такой, где вычисления, выводы и выходные данные ИИ можно независимо проверить, а не просто им доверять.

На мой взгляд, MemSync и OpenGradient представляют разные слои одного и того же будущего стека ИИ. #OPG @OpenGradient

MemSync помогает ИИ лучше запоминать.

OpenGradient помогает гарантировать, что то, что ИИ помнит и использует, можно считать надёжным и проверяемым.

Возможно, лучший ИИ будущего будет не тем, кто помнит всё.

Возможно, это будет тот, кто способен доказать и свою память, и свои рассуждения. #OPG $OPG @OpenGradient

Как вы думаете, что будет важнее для внедрения ИИ в долгосрочной перспективе — лучшая память или верифицируемый интеллект?$HEI $SLX