Ano passado eu queria ajustar um modelinho pra classificar endereços on-chain. Aluguei uma A100 na nuvem e, no final do mês, fiquei sem palavras com a conta. Somando armazenamento e taxas de tráfego, dava pra comprar um celular novo. O pior é que a placa ficou parada na maior parte do tempo; só usei à noite pra treinar algumas rodadas, e durante o dia tinha que pagar do mesmo jeito. É como alugar um carro esportivo e só dirigir meia hora por dia, enquanto o resto do tempo ele tá na garagem acumulando taxa de estacionamento.
Depois, ao folhear os documentos técnicos, vi a parte sobre OpenLoRA e percebi o quanto eu era ingênuo. Ele usa uma arquitetura de GPU multi-inquilino, permitindo que dezenas de modelos LoRA compartilhem o mesmo modelo base. Quando você precisa treinar, o sistema carrega dinamicamente os pesos do seu adaptador, e ao terminar, ele libera. Não é mais necessário alugar uma placa inteira; você paga pelo quilômetro rodado. Fazendo as contas, o custo caiu pela metade.
Tentei implantar um modelo pequeno ali em cima: do upload dos dados até iniciar o fine-tuning, eu não precisava instalar drivers, configurar o ambiente nem decidir a versão do CUDA. Todo aquele tipo de dor de cabeça que antes me fazia perder tempo já vinha encapsulado. O treinamento rodou em menos de duas horas, e o custo total — convertido — ficou abaixo de uma hora de aluguel antes. Aí eu tive uma ideia: se isso tivesse saído dois anos antes, eu teria economizado uma boa quantia de dinheiro.
Alguém pode dizer: “isso não é só um serviço de nuvem?” Opa, irmão, vai lá ver os serviços de IA das plataformas de nuvem tradicionais: os preços ainda não são baratos. E muitos não são compatíveis com LoRA — aquela micro-orientação/fine-tuning leve. Mesmo que você altere só um pouquinho de parâmetros, precisa subir uma instância completa. @OpenLedger O OpenLoRA, otimizado especificamente para LoRA, tem um núcleo SGMV que maximiza a eficiência dos cálculos de matriz. Com as mesmas rodadas de treinamento, ele usa menos VRAM e leva menos tempo. A conta, naturalmente, fica mais baixa.
Eu não economizei só dinheiro — também descobri uma vantagem. Antes, quando eu tinha GPUs exclusivas, eu sempre queria rodar de uma vez várias baterias de experimentos, com medo de desperdiçar capacidade de cálculo. Acontecia que muitas vezes eu acabava gerando um monte de parâmetros inúteis. Agora, com pagamento sob demanda, minha mentalidade mudou: em cada vez eu rodo apenas uma pequena modificação. Se o resultado não for bom, paro na hora. E, no fim, iterei mais rápido. Isso também acabou sendo uma surpresa.
Claro, também não é que não tenha desvantagens. Atualmente, o número de modelos-base suportados ainda é limitado. Tenho um projeto que queria usar um modelo mais obscuro e não encontrei suporte; tive de levantar requisitos e esperar a adaptação oficial. Além disso, em períodos de pico, às vezes a alocação fica em fila por alguns minutos. Mas, considerando a diferença de preço, eu aturei tudo isso.
Agora eu deixo a maior parte dos meus ativos em Bitcoin e Ethereum sem mexer, mas para experimentos cotidianos de modelos eu mudo tudo para o OpenLedger. O dinheiro economizado vou usar para continuar comprando $OPEN . Afinal, experimento custa dinheiro; não faz sentido gastar em qualquer outro lugar se você pode investir em uma plataforma onde você já tem posição. Irmãos, anotem: fazer modelo sem se preocupar com dinheiro é pedir pra dar ruim. Se der pra pagar sob demanda, não caiam em plano mensal. Esses detalhes, ajustados com carinho, dão um ganho bem considerável de lucro ao longo do ano #OpenLedger .