Проблема растущей надежности в искусственном интеллекте
За последние несколько лет я заметила нечто интересное в области искусственного интеллекта. Технология становится невероятно мощной, но в то же время существует тихая проблема, о которой большинство людей не говорит достаточно. ИИ может выглядеть очень уверенно, даже когда он ошибается. Любой, кто использовал современные инструменты ИИ, вероятно, сталкивался с этим. Вы задаете вопрос, и система дает четкий ответ, иногда даже с объяснениями и ссылками. Но позже вы понимаете, что некоторая часть ответа была неверной.
Это происходит потому, что большинство ИИ систем работают, предсказывая самое вероятное следующее слово, а не подтверждая факты. Они чрезвычайно хороши в производстве языка, который выглядит правильным, но это не означает, что информация всегда точна. Эта проблема часто называется «галлюцинацией ИИ». Даже продвинутые модели иногда выдают неправильную или предвзятую информацию, что делает их трудными для доверия в важных областях, таких как финансы, образование, здравоохранение или право.
Почему проверка может иметь большее значение, чем интеллект
Концепция Mira становится более понятной, когда вы учитываете, как люди подтверждают информацию. В науке трудно поверить в утверждение, сделанное отдельным лицом. Заявление подвергается испытанию другими исследователями, воспроизводящими эксперимент и проверяющими доказательства. И только когда это утверждение снова и снова подтверждается, оно становится общепринятым знанием.
Mira пытается перенести сопоставимую ценность на искусственный интеллект. Выход модели одной модели не доверяется автоматически в сети. Вместо этого он разлагает ответ ИИ на более мелкие утверждения, которые могут быть проверены. Эти утверждения затем отправляются в несколько независимых моделей или узлов проверки, которые проверяют их по отдельности.
Что интересно в этом дизайне, так это то, что он рассматривает истину как нечто, что возникает из консенсуса различных мнений, а не как что-то, что централизованно интерпретируется.
Цель децентрализации системы.
Другой аспект, который, на мой взгляд, выделяет Mira, это способ, которым организована её проверка. Сеть не полагается на одну компанию или централизованный сервер для проведения проверки, а скорее на огромное количество независимых участников. Эти участники запускают различные ИИ модели и заявки, поданные в сеть.
Эта децентрализованная организация важна, так как она устраняет шансы на фаворитизм или манипуляцию. Когда проверка выполняется одной организацией, существует вероятность, что она может быть предвзятой в том, какие ответы следует считать приемлемыми. Однако, когда количество независимых валидаторов велико, результат будет более сбалансированным.
Просто говоря, Mira пытается установить уровень доверия с помощью искусственного интеллекта.
Мотивы, которые делают систему честной.
Стимулами — это одна из вещей, которые я никогда не игнорирую, изучая крипто проекты. Технологии едва ли достаточно. Эти системы, как правило, работают, поскольку отдельные лица наказываются за то, что не действуют честно.
Mira предлагает систему токенов, которая мотивирует валидаторов представлять правильную проверку. Заинтересованные стороны могут делать ставки, чтобы присоединиться к сети и получать вознаграждение, когда они выполняют проверку правильно. В случае, если они предлагают небрежную или ложную проверку, часть их ставки может быть потеряна.
Другой подход к мышлению ИИ инфраструктуры.
Чем меньше я рассматриваю Mira, тем больше она кажется проектом инфраструктуры, а не очередным крипто токеном. Она не стремится создать более отличный чат-бот или более умную модель. Скорее, она касается чего-то более глубокого: обеспечения надежности результатов ИИ.
Mira исследует концепцию того, что недостаточно просто интеллекта. То, что нам нужно, — это интеллект, на который мы можем полагаться.