AI-системы начинают принимать решения на основе наших долгосрочных воспоминаний, предпочтений, целей и личного контекста; как мы можем доверять этой информации$SPCXB
Посты
--
Devil9
·
--
Похоже ли вам, что большая часть того, что мы знаем об ИИ, приходит к нам из разговоров других людей?
Возможно, вы уже слышали немало о размере моделей, способностях к рассуждению и производительности. Сегодня я хочу поделиться другой мыслью.
Если будущие системы ИИ начнут принимать решения на основе наших долгосрочных воспоминаний, предпочтений, целей и личного контекста, как мы можем доверять тому, что информация, которой они пользуются, действительно верна?
Этот вопрос пришёл мне в голову, когда я изучал проекты вроде MemSync.
Их фокус — на решении одной из главных проблем ИИ: фрагментации памяти.
Их тезис в том, что ИИ не должен понимать только вопрос, заданный сегодня. Он также должен понимать долгосрочную идентичность пользователя (семантическую память), а также текущие действия, цели и продолжающиеся проекты (эпизодическую память).
Такой подход может сделать ИИ со временем гораздо более личным и полезным.
Но именно здесь начинается ещё одна сложность.
По мере того как ИИ становится всё более «память-ориентированным», верификация может оказаться ещё важнее самой памяти.
Если агент ИИ использует мой прошлый контекст, чтобы принять решение:
Была ли эта память подлинной? Её не изменяли?
Можно ли независимо проверить процесс рассуждений?
Вот почему меня заинтересовал подход OpenGradient.
Многие проекты в области ИИ сосредоточены на том, чтобы сделать ИИ более умным. Однако OpenGradient работает над верифицируемой инфраструктурой для ИИ — такой, где вычисления, выводы и выходные данные ИИ можно независимо проверить, а не просто им доверять.
На мой взгляд, MemSync и OpenGradient представляют разные слои одного и того же будущего стека ИИ. #OPG @OpenGradient
MemSync помогает ИИ лучше запоминать.
OpenGradient помогает гарантировать, что то, что ИИ помнит и использует, можно считать надёжным и проверяемым.
Возможно, лучший ИИ будущего будет не тем, кто помнит всё.
Возможно, это будет тот, кто способен доказать и свою память, и свои рассуждения. #OPG $OPG @OpenGradient
Как вы думаете, что будет важнее для внедрения ИИ в долгосрочной перспективе — лучшая память или верифицируемый интеллект?$HEI $SLX
Возможно, вы уже слышали немало о размере моделей, способностях к рассуждению и производительности. Сегодня я хочу поделиться другой мыслью.
Если будущие системы ИИ начнут принимать решения на основе наших долгосрочных воспоминаний, предпочтений, целей и личного контекста, как мы можем доверять тому, что информация, которой они пользуются, действительно верна?
Этот вопрос пришёл мне в голову, когда я изучал проекты вроде MemSync.
Их фокус — на решении одной из главных проблем ИИ: фрагментации памяти.
Их тезис в том, что ИИ не должен понимать только вопрос, заданный сегодня. Он также должен понимать долгосрочную идентичность пользователя (семантическую память), а также текущие действия, цели и продолжающиеся проекты (эпизодическую память).
Такой подход может сделать ИИ со временем гораздо более личным и полезным.
Но именно здесь начинается ещё одна сложность.
По мере того как ИИ становится всё более «память-ориентированным», верификация может оказаться ещё важнее самой памяти.
Если агент ИИ использует мой прошлый контекст, чтобы принять решение:
Была ли эта память подлинной? Её не изменяли?
Можно ли независимо проверить процесс рассуждений?
Вот почему меня заинтересовал подход OpenGradient.
Многие проекты в области ИИ сосредоточены на том, чтобы сделать ИИ более умным. Однако OpenGradient работает над верифицируемой инфраструктурой для ИИ — такой, где вычисления, выводы и выходные данные ИИ можно независимо проверить, а не просто им доверять.
На мой взгляд, MemSync и OpenGradient представляют разные слои одного и того же будущего стека ИИ. #OPG @OpenGradient
MemSync помогает ИИ лучше запоминать.
OpenGradient помогает гарантировать, что то, что ИИ помнит и использует, можно считать надёжным и проверяемым.
Возможно, лучший ИИ будущего будет не тем, кто помнит всё.
Возможно, это будет тот, кто способен доказать и свою память, и свои рассуждения. #OPG $OPG @OpenGradient
Как вы думаете, что будет важнее для внедрения ИИ в долгосрочной перспективе — лучшая память или верифицируемый интеллект?$HEI $SLX
Отказ от ответственности. Содержит мнения третьих сторон. Не является рекомендацией. Binance AI не предоставляет гарантий. См. Правила и условия.