В последнее время многие проекты в сфере ИИ соревнуются количеством параметров, числом GPU и размером моделей. Но демонстрация от @Acurast Acurast — совсем о другом: Android-смартфон решает, куда поставить следующую фигуру в тетрисе.
На первый взгляд, это просто лёгкая и забавная игра. Но, на мой взгляд, интересна она не тем, что «ИИ умеет играть в тетрис». Это давно не новость. По-настоящему интересно то, что здесь задача для ИИ устроена иначе.
Сначала игра анализирует текущее поле и предлагает 5 вариантов размещения фигуры, объясняя возможные последствия каждого: получится ли убрать линию, останутся ли пустоты. Затем эти данные отправляются HTTP-запросом на смартфон в сети Acurast. Модель Laya, работающая на процессоре телефона, выбирает один из вариантов и отправляет результат обратно в игру.
Весь процесс можно описать одной фразой: программное обеспечение генерирует варианты, ИИ принимает решение, а телефон выполняет вычисления.
Laya — это не привычная нам большая чат-модель. Она относится к моделям принятия решений System One: она не пишет длинные тексты и не занимается сложными рассуждениями, а быстро выбирает один из предложенных вариантов и возвращает вероятность для каждого из них.
Согласно данным, опубликованным Acurast, такие краткие решения обычно принимаются на процессоре телефона за 0,2–1 секунду. Помимо «Тетриса», команда подготовила ещё 9 демонстраций: Snake, Doom, классификацию писем, модерацию чатов и обнаружение инъекций в промпты. Каждый ответ поступает с реального телефона в сети. На странице также показываются страна, где находится устройство, модель чипа и количество уже обработанных решений, а пользователям доступна запись в блокчейне для проверки.
Мне кажется, такой подход гораздо практичнее, чем «заставлять телефон тянуть огромную модель».
В реальных задачах ИИ далеко не всегда нужно генерировать тексты на тысячи слов. Кошелёк может проверять, соответствует ли разрешение правилам пользователя; агрегатор транзакций — выбирать самый дешёвый из нескольких маршрутов; ончейн-агент — решать, какое действие выполнить следующим. У таких задач обычно есть чётко определённые варианты.
Сначала программное обеспечение может вычислить все допустимые варианты, затем небольшая модель выберет один из них по правилам, заданным пользователем, а итоговый результат пройдёт отдельную проверку. В таком случае ИИ не нужно выполнять все вычисления, и он не сможет произвольно выполнять действия за пределами предложенных вариантов.
Разумеется, этим моделям ещё очень далеко до универсальности.
В тесте Acurast по классификации писем Laya правильно определила 144 из 160 писем — точность составила около 90%. Демонстрация классификации новостей позволяет определить, похож ли заголовок на кликбейт, но не проверить достоверность содержания. Если чат работает слишком быстро, очередь на модерацию тоже постепенно растёт. Вероятности, выдаваемые моделью, также нельзя считать надёжной «оценкой уверенности».
Поэтому правильнее рассматривать такую модель как быстрый и недорогой фильтр первого уровня, а не как замену человеку при принятии окончательного решения.
Согласно текущим оценкам команды, запуск собственного экземпляра Laya стоит менее 1 монеты $ACU в день. Фактические расходы и доступность зависят от конфигурации и состояния сети. Возможно, сама эта цифра не так важна. Гораздо важнее, что $ACU здесь — не абстрактный нарратив, а реальная вычислительная услуга, которую можно вызвать, оплатить и проверить.
Следующий этап развития ИИ — не обязательно обучение всё более крупных моделей. Многие задачи, которые действительно найдут применение в продуктах, могут сводиться к классификации, фильтрации или небольшому решению.
Если такие незаметные, но часто возникающие задачи можно будет поручить телефонам по всему миру, то Acurast предложит не просто «дешёвые вычислительные мощности», а распределённую среду выполнения, подходящую для лёгких задач принятия решений с помощью ИИ.
Если бы неиспользуемый телефон мог выполнять за вас одну небольшую задачу с помощью ИИ, что бы вы поручили ему в первую очередь?
В статье изложены только мои личные наблюдения о технологиях проекта и возможных сценариях их применения; она не является инвестиционной рекомендацией.

