Я снова и снова возвращаюсь к одному вопросу, когда смотрю на инфраструктуру ИИ: что происходит после того, как ИИ-агент делает ошибку?
Большинство разговоров сосредоточены на том, насколько «умным» является агент, или на том, как эффективно он выполняет задачи. Мне кажется, более сложный вопрос — будут ли люди по-прежнему ему доверять после неожиданной ошибки. В долгосрочной перспективе это может оказаться важнее, чем пиковая производительность.
Именно поэтому Newton Protocol продолжает оставаться у меня на радаре. Меня интересует не только автоматизация. Важна идея сделать решения агента более понятными и его поведение более стабильным со временем. Если пользователи могут увидеть политики и условия, стоящие за действием, доверие не обязательно исчезает в тот же момент, когда что-то идет не так.
Для меня это значимый сдвиг. Дискуссия выходит за рамки вопроса о том, заработал ли ИИ деньги сегодня, и переходит к тому, останется ли его поведение предсказуемым завтра.
Рынки поощряют производительность, но строятся они вокруг доверия. Разработчики, ликвидность и долгосрочное внедрение обычно следуют системам, в которые люди верят как в стабильные в своем поведении, а не системам, которые лишь время от времени выдают исключительные результаты.
Мое личное мнение: следующее поколение инфраструктуры ИИ будет определяться не только более умными агентами. Оно будет определяться протоколами, которые делают доверие устойчивым. Вот почему я продолжаю внимательно следить за Newton Protocol
@NewtonProtocol #Newt $NEWT
Большинство разговоров сосредоточены на том, насколько «умным» является агент, или на том, как эффективно он выполняет задачи. Мне кажется, более сложный вопрос — будут ли люди по-прежнему ему доверять после неожиданной ошибки. В долгосрочной перспективе это может оказаться важнее, чем пиковая производительность.
Именно поэтому Newton Protocol продолжает оставаться у меня на радаре. Меня интересует не только автоматизация. Важна идея сделать решения агента более понятными и его поведение более стабильным со временем. Если пользователи могут увидеть политики и условия, стоящие за действием, доверие не обязательно исчезает в тот же момент, когда что-то идет не так.
Для меня это значимый сдвиг. Дискуссия выходит за рамки вопроса о том, заработал ли ИИ деньги сегодня, и переходит к тому, останется ли его поведение предсказуемым завтра.
Рынки поощряют производительность, но строятся они вокруг доверия. Разработчики, ликвидность и долгосрочное внедрение обычно следуют системам, в которые люди верят как в стабильные в своем поведении, а не системам, которые лишь время от времени выдают исключительные результаты.
Мое личное мнение: следующее поколение инфраструктуры ИИ будет определяться не только более умными агентами. Оно будет определяться протоколами, которые делают доверие устойчивым. Вот почему я продолжаю внимательно следить за Newton Protocol
@NewtonProtocol #Newt $NEWT