Братцы, на этот раз я не смотрел записи вкладчиков, а специально следил за логами OpenLoRA по @OpenLedger . Это тот самый, который утверждает, что на одной GPU можно запустить несколько тысяч моделей. Я за неделю собрал запросы и заметил одну интересную вещь. На одной и той же GPU висят больше трехсот моделей LoRA, но более 70% запросов идут только к пяти моделям. Остальные триста моделей находятся в полном игноре. Почему? Потому что, хотя OpenLoRA технически может одновременно поддерживать множество моделей, правила распределения трафика всё равно следуют за весом узлов. Трафик в первую очередь направляется на модели, которые находятся под узлами с наибольшим стейком $OPEN . Как бы хорошо ты ни сделал свою модель, если она висит на маленьком узле, запросы пользователей просто не дойдут до тебя. Архитектура #OpenLedger действительно имеет свои плюсы: одна карта может обрабатывать сотни моделей, не падая, и задержка тоже неплохая. Но экономическая модель отдает все выгоды от этой технологии крупным игрокам. Модели на маленьких узлах подобны лавочкам в темных переулках — вывески даже не видно. Еще более обидно, что при вызове модели пользователи платят фиксированный процент за использование, который идет разработчику модели. Неважно, насколько хороша твоя модель — если её вызвали, ты получаешь одинаковую долю. Это приводит к тому, что никто не хочет тратить время на оптимизацию нишевых моделей, потому что база вызовов слишком мала, и даже высокий процент не принесет много денег. А те топовые модели, даже если качество среднее, за счет большого трафика зарабатывают кучу денег. Я специально отслеживал данные одной редкой модели. Эта модель в определенной нише имеет на 15% большую точность, чем топовая, но за неделю её вызвали меньше десяти раз. Создатель модели вложил время и вычислительные ресурсы в доработку, а в итоге получил $OPEN , что не покроет даже его расход на Gas. А создатель топовой модели вообще ничего не делал, просто потому что она висит на узле крупного игрока, каждую неделю получает доход, лежа на диване. Эти правила, по сути, не вознаграждают технологические инновации, а вознаграждают капиталистические объединения. Команда знает о проблеме, но как только правила распределения трафика изменятся по качеству модели, крупные стейкеры не согласны, и сразу же выбегут. Если действительно вкладываться в разработку моделей, брат, я лучше посижу в битке и эфире, дожидаясь бычьего рынка.