Я объяснил один и тот же проект трем разным ИИ-ассистентам.
Один и тот же контекст. Одна и та же цель. Одинаковые предпочтения.
Модели не были слабыми.
Но они продолжали забывать.
И это заставило меня кое-что осознать.
Доверие приходит из памяти, а не только из интеллекта.
Чем полезнее становится ИИ, тем больше контекста ему нужно, чтобы действительно помогать. Ему необходимо помнить вашу работу, ваши предпочтения и те решения, которые вы уже приняли.
Но каждый слой памяти создаёт новую проблему.
Больше контекста означает большую чувствительность к приватности.
Большинство людей рассматривает интеллект и приватность как отдельные разговоры.
Я думаю, что на самом деле это одна и та же проблема.
ИИ, который помнит всё, но не даёт пользователям никакого контроля над этой памятью, нельзя по-настоящему считать заслуживающим доверия. Будущее — это не только про то, чтобы делать модели умнее. Это ещё и про то, чтобы гарантировать, что память остаётся приватной, проверяемой и принадлежащей пользователю.
Вот одна из причин, почему мне интересно число @NewtonProtocol . Создание децентрализованной инфраструктуры для ИИ — это не только про масштабный запуск моделей. Это ещё и про создание основы, на которой долговременная память и контекст ИИ могут существовать без того, чтобы заставлять пользователей отдавать право собственности и контроль.
Когда ИИ помнит годы вашей жизни — кто контролирует эту память?#newt $NEWT
Один и тот же контекст. Одна и та же цель. Одинаковые предпочтения.
Модели не были слабыми.
Но они продолжали забывать.
И это заставило меня кое-что осознать.
Доверие приходит из памяти, а не только из интеллекта.
Чем полезнее становится ИИ, тем больше контекста ему нужно, чтобы действительно помогать. Ему необходимо помнить вашу работу, ваши предпочтения и те решения, которые вы уже приняли.
Но каждый слой памяти создаёт новую проблему.
Больше контекста означает большую чувствительность к приватности.
Большинство людей рассматривает интеллект и приватность как отдельные разговоры.
Я думаю, что на самом деле это одна и та же проблема.
ИИ, который помнит всё, но не даёт пользователям никакого контроля над этой памятью, нельзя по-настоящему считать заслуживающим доверия. Будущее — это не только про то, чтобы делать модели умнее. Это ещё и про то, чтобы гарантировать, что память остаётся приватной, проверяемой и принадлежащей пользователю.
Вот одна из причин, почему мне интересно число @NewtonProtocol . Создание децентрализованной инфраструктуры для ИИ — это не только про масштабный запуск моделей. Это ещё и про создание основы, на которой долговременная память и контекст ИИ могут существовать без того, чтобы заставлять пользователей отдавать право собственности и контроль.
Когда ИИ помнит годы вашей жизни — кто контролирует эту память?#newt $NEWT
