Надоело слушать, как DePIN каждый день хвастается «300 тысячами узлов по всему миру»?
@Acurast
наконец-то сделала кое-что действительно впечатляющее: выложила в веб-приложение модель ИИ Laya, работающую на смартфонах. Там можно прямо сейчас протестировать её на игре «Змейка», выявлении ошибок в письмах и блокировке prompt injection.
Если говорить по делу:
Пытаться заставить чип смартфона на равных тягаться с большой моделью ИИ в написании романов — себе дороже. Но Laya решает только задачи с выбором ответа. Отправляешь несколько вариантов на какой-нибудь подключённый Android-смартфон — CPU вычисляет вероятность и сразу выдаёт ответ. Быстрый справляется за 0,2 секунды, медленный — примерно за секунду. На веб-странице также указано, из какой страны ты только что вызвал смартфон и какой в нём чип; записи можно посмотреть и в блокчейне.
Больше всего мне понравились блокировка prompt injection и классификация писем. Сейчас ИИ-агентов развелось слишком много, и если все эти мелкие рутинные решения принимать через API больших моделей, одни только расходы на токены могут разорить разработчиков. Можно использовать эту небольшую модель как внешнего охранника: сначала поручить простаивающим CPU смартфонов отсеивать мусор и подозрительные запросы, а к большой модели обращаться только для сложных случаев. Экономика вполне понятная.
При проверке 160 писем система пропустила около десяти. Против опытных фишеров ещё придётся набить шишки, но по крайней мере стало ясно, для чего можно использовать вычислительные мощности смартфонов. Это куда практичнее, чем рисовать карту мира, усыпанную красными точками.
#Acurast #ACU #DePIN
@Acurast
наконец-то сделала кое-что действительно впечатляющее: выложила в веб-приложение модель ИИ Laya, работающую на смартфонах. Там можно прямо сейчас протестировать её на игре «Змейка», выявлении ошибок в письмах и блокировке prompt injection.
Если говорить по делу:
Пытаться заставить чип смартфона на равных тягаться с большой моделью ИИ в написании романов — себе дороже. Но Laya решает только задачи с выбором ответа. Отправляешь несколько вариантов на какой-нибудь подключённый Android-смартфон — CPU вычисляет вероятность и сразу выдаёт ответ. Быстрый справляется за 0,2 секунды, медленный — примерно за секунду. На веб-странице также указано, из какой страны ты только что вызвал смартфон и какой в нём чип; записи можно посмотреть и в блокчейне.
Больше всего мне понравились блокировка prompt injection и классификация писем. Сейчас ИИ-агентов развелось слишком много, и если все эти мелкие рутинные решения принимать через API больших моделей, одни только расходы на токены могут разорить разработчиков. Можно использовать эту небольшую модель как внешнего охранника: сначала поручить простаивающим CPU смартфонов отсеивать мусор и подозрительные запросы, а к большой модели обращаться только для сложных случаев. Экономика вполне понятная.
При проверке 160 писем система пропустила около десяти. Против опытных фишеров ещё придётся набить шишки, но по крайней мере стало ясно, для чего можно использовать вычислительные мощности смартфонов. Это куда практичнее, чем рисовать карту мира, усыпанную красными точками.
#Acurast #ACU #DePIN
