$BTC опять болтается около 80 тысяч.
Да блин, почему я каждый раз пропускаю такие прорывные моменты в развитии моделей для локального запуска?
Эта компания выпустила модель для локального инференса: всего 24 миллиарда параметров, из которых активны только 2 миллиарда. На ноутбуках Apple она стабильно выдаёт 184 токена в секунду. А такая скорость означает, что кошелькам и инструментам для ончейн-агентов больше не придётся полагаться на облако.
Связь с криптой прямая: децентрализованные биржи, протоколы ончейн-агентов, кошельки с самостоятельным хранением — проблемы с задержками и приватностью, из-за которых всё это раньше зависело от облака, решаются с появлением локальных моделей.
Хватит спорить, удержится ли на этот раз отметка в 80 тысяч или пробьёт её. Локальный инференс — вот настоящая козырная карта следующей волны.
#端侧AI #Liquid模型 #Технологии
Да блин, почему я каждый раз пропускаю такие прорывные моменты в развитии моделей для локального запуска?
Эта компания выпустила модель для локального инференса: всего 24 миллиарда параметров, из которых активны только 2 миллиарда. На ноутбуках Apple она стабильно выдаёт 184 токена в секунду. А такая скорость означает, что кошелькам и инструментам для ончейн-агентов больше не придётся полагаться на облако.
Связь с криптой прямая: децентрализованные биржи, протоколы ончейн-агентов, кошельки с самостоятельным хранением — проблемы с задержками и приватностью, из-за которых всё это раньше зависело от облака, решаются с появлением локальных моделей.
Хватит спорить, удержится ли на этот раз отметка в 80 тысяч или пробьёт её. Локальный инференс — вот настоящая козырная карта следующей волны.
#端侧AI #Liquid模型 #Технологии