Irmãos, desta vez não cheguei a olhar os registros dos contribuidores, fiquei só de olho nos logs de inferência do OpenLoRA de @OpenLedger . É aquele que diz que uma única GPU consegue rodar milhares de modelos. Eu puxei os registros de requisições por uma semana e percebi um fenômeno bem interessante. Mais de trezentos modelos LoRA foram instalados na mesma GPU, mas mais de setenta por cento das requisições de inferência foram direcionadas apenas para cinco desses modelos. Os outros trezentos modelos basicamente ficaram sem ninguém os notar. Por quê? Porque, apesar de o OpenLoRA tecnicamente conseguir rodar muitos modelos ao mesmo tempo, as regras de distribuição de tráfego ainda seguem o peso dos nós. O tráfego é priorizado para os modelos localizados nos nós que têm mais $OPEN em staking. Não importa quão bom seja o seu modelo, se ele estiver no nó menor, as requisições dos usuários nunca chegarão até você. A estrutura de #OpenLedger realmente tem suas vantagens técnicas, consegue rodar centenas de modelos em uma única GPU sem travar e controla bem a latência. Mas o modelo econômico entrega todos os benefícios dessa tecnologia para os grandes investidores. Os modelos nos nós menores são como lojas escondidas em becos, sem placa visível. O pior é que, ao chamar um modelo, a taxa de inferência paga pelo usuário tem uma parte que vai para o criador do modelo, e essa proporção é fixa. Não importa a qualidade do modelo, uma vez que é chamado, a divisão é a mesma. Isso faz com que ninguém queira gastar energia otimizando modelos menos populares, porque a base de chamadas é muito pequena, e mesmo com uma porcentagem alta, você não ganha quase nada. Já os modelos de topo, mesmo com qualidade mediana, acabam lucrando muito porque recebem um grande fluxo. Eu acompanhei os dados de um modelo menos conhecido. Esse modelo tem uma precisão quinze por cento maior em um nicho específico do que o modelo de topo, mas foi chamado menos de dez vezes em uma semana. O criador do modelo investiu tempo e poder computacional para ajustá-lo, e no final, o que ele recebeu de $OPEN não é nem suficiente para cobrir o custo do Gas. Enquanto isso, o criador do modelo de topo não fez nada e, só por estar no nó de um grande investidor, recebe um pagamento toda semana sem esforço. Essas regras, na verdade, não estão recompensando a inovação técnica, mas sim premiando a união de capital. A equipe não é ignorante sobre esse problema, mas se as regras de distribuição de tráfego mudarem para serem baseadas na qualidade do modelo, os grandes investidores vão reclamar e vão correr. Se eu realmente for investir em desenvolvimento de modelos, irmão, eu prefiro ficar esperando no Bitcoin e no Ethereum até o próximo bull market.



