Na segunda-feira à noite, eu olhei a fatura do cartão de crédito e vi que paguei 240 dólares por um ano do Midjourney, 180 dólares por um ano do Runway Gen-3 e 100 dólares por um ano do Ideogram. Só por essas três eu gastei 520 dólares em taxas de assinatura no ano passado, mas na real, só usei intensivamente por dois ou três meses; o resto foi tudo jogado fora. Quando vi na seção do Model Hub do OpenGradient Chat que tinham mais de 4500 modelos cobrando por chamada, empurrei a fatura para o lado e comecei a fazer as contas.
No começo, eu achava que esses agregadores eram só uma embalagem com uma UI unificada, juntando as APIs das três empresas, só para tirar vantagem sem muita tecnologia, mas depois de ler a segunda parte da documentação @OpenGradient sobre a lógica de roteamento, admito que subestimei. O Model Hub roda o ajuste fino do SDXL no estilo Midjourney, a difusão latente em vídeo do Runway e o modelo de renderização de fontes do Ideogram tudo dentro do enclave TEE dos Inference Nodes. Eu pago por chamada usando $OPG , e se não gerar imagem, não cobram nada. Quando gera, o que é cobrado é o tempo de GPU da inferência e os custos de validação de attestation. Uma imagem de 1024 custa entre 0,3 a 0,5 OPG; se a gente considerar o valor estimado pelo TGE, cada imagem fica a um ou dois毛人民币, e com aqueles 520 dólares do ano passado, eu conseguiria gerar cerca de 20 mil imagens.
O OpenGradient conseguiu reduzir a estrutura de custos dessa agregação na arquitetura HACA ao eliminar a taxa de plataforma. Uma boa parte da taxa de assinatura do Midjourney é referente ao servidor do Discord, operação da comunidade e o desperdício da parte não utilizada da cota mensal. No Runway, o custo dos GPUs ociosos é distribuído entre todos os usuários da assinatura, então mesmo que eu não gere imagens, estou pagando pelas contas dos outros. Com OPG no protocolo x402, eles ligaram o pagamento da inferência e a attestation, então quem tem GPU ociosa arca com os custos. Eu, como usuário, só pago pelas imagens que realmente são geradas, e no Model Hub, com 4500 modelos disponíveis, não preciso mais abrir uma assinatura mensal só para testar novos modelos. $EVAA
Essa abordagem não é só uma forma de economizar sem pensar. É uma incógnita se os detentores dos direitos do modelo comercial discutiram a licença com o OpenGradient. Alguns pesos de ajuste fino do SDXL no Model Hub, se forem enviados pela comunidade, não têm a documentação clara sobre a cadeia de autorização para uso comercial das imagens geradas, e se der problema, os usuários têm que arcar com as consequências. O preço do OPG, por si só, flutua bastante; após o TGE, no 13º mês, a liberação de 25% pode causar pressão de venda, fazendo o custo por imagem oscilar. Acumular OPG para ser usado como combustível de pagamento significa assumir o risco do preço da moeda. A estratégia de roteamento dos modelos de ponta externos nos logs do LLM Proxy é algo que o OpenGradient não consegue controlar. $WLD
Empurrei a fatura de volta para a gaveta, não vou renovar a assinatura do Midjourney, apaguei a luz e fui dormir. #opg
No começo, eu achava que esses agregadores eram só uma embalagem com uma UI unificada, juntando as APIs das três empresas, só para tirar vantagem sem muita tecnologia, mas depois de ler a segunda parte da documentação @OpenGradient sobre a lógica de roteamento, admito que subestimei. O Model Hub roda o ajuste fino do SDXL no estilo Midjourney, a difusão latente em vídeo do Runway e o modelo de renderização de fontes do Ideogram tudo dentro do enclave TEE dos Inference Nodes. Eu pago por chamada usando $OPG , e se não gerar imagem, não cobram nada. Quando gera, o que é cobrado é o tempo de GPU da inferência e os custos de validação de attestation. Uma imagem de 1024 custa entre 0,3 a 0,5 OPG; se a gente considerar o valor estimado pelo TGE, cada imagem fica a um ou dois毛人民币, e com aqueles 520 dólares do ano passado, eu conseguiria gerar cerca de 20 mil imagens.
O OpenGradient conseguiu reduzir a estrutura de custos dessa agregação na arquitetura HACA ao eliminar a taxa de plataforma. Uma boa parte da taxa de assinatura do Midjourney é referente ao servidor do Discord, operação da comunidade e o desperdício da parte não utilizada da cota mensal. No Runway, o custo dos GPUs ociosos é distribuído entre todos os usuários da assinatura, então mesmo que eu não gere imagens, estou pagando pelas contas dos outros. Com OPG no protocolo x402, eles ligaram o pagamento da inferência e a attestation, então quem tem GPU ociosa arca com os custos. Eu, como usuário, só pago pelas imagens que realmente são geradas, e no Model Hub, com 4500 modelos disponíveis, não preciso mais abrir uma assinatura mensal só para testar novos modelos. $EVAA
Essa abordagem não é só uma forma de economizar sem pensar. É uma incógnita se os detentores dos direitos do modelo comercial discutiram a licença com o OpenGradient. Alguns pesos de ajuste fino do SDXL no Model Hub, se forem enviados pela comunidade, não têm a documentação clara sobre a cadeia de autorização para uso comercial das imagens geradas, e se der problema, os usuários têm que arcar com as consequências. O preço do OPG, por si só, flutua bastante; após o TGE, no 13º mês, a liberação de 25% pode causar pressão de venda, fazendo o custo por imagem oscilar. Acumular OPG para ser usado como combustível de pagamento significa assumir o risco do preço da moeda. A estratégia de roteamento dos modelos de ponta externos nos logs do LLM Proxy é algo que o OpenGradient não consegue controlar. $WLD
Empurrei a fatura de volta para a gaveta, não vou renovar a assinatura do Midjourney, apaguei a luz e fui dormir. #opg
有了 opg 省下不少钱
100%
按次算钱更省了
0%
1 Votos • Votação encerrada