No final de semana, eu acabei encontrando aquele HD mecânico velho que usei por cinco anos, decidi dar uma limpa nas fotos antigas, mas ao ligar, vi que tinha bad sectors, e mais de 200 G de material simplesmente se foi. Fiquei jogado no chão xingando, e de repente me lembrei da notícia sobre o Model Hub @OpenGradient que está profundamente integrado com o Walrus, armazenamento permanente de pesos de modelo, endereçamento de conteúdo, resistência à censura, parece que foi feito para quem já perdeu dados como eu.
Eu sempre categorizava isso como uma simples cadeia de raciocínio de IA, achando que o armazenamento era só conectar um IPFS. Mas depois de dar uma olhada, descobri que o OpenGradient realmente está levando o Walrus como backend de armazenamento sério, e até o Walrus oficial saiu para confirmar que o OpenGradient é o maior usuário com mais de 100 modelos de IA. O projeto de armazenamento no ecossistema Sui e uma cadeia de IA se juntando, a narrativa é bem atraente, mas a conta precisa fechar. $HEI
Um modelo de peso mainstream de código aberto geralmente varia de alguns G a dezenas de G, então colocando 100 modelos, o volume de armazenamento facilmente ultrapassa o nível de TB. O Walrus utiliza erasure coding para dividir cada dado em centenas de fragmentos espalhados pelos nós, o custo real em cadeia para armazenar uma única cópia é o múltiplo de redundância vezes o preço unitário. Quando o modelo recebe uma atualização, será que devemos manter a versão antiga? Fazer retrocesso de versão, realizar testes A/B, fazer auditoria de conformidade, cada nova versão gera uma nova fatura de armazenamento. O chamado de inferência do OpenGradient precisa puxar os pesos do Walrus para executar em precompile, essa ida e volta consome largura de banda e causa latência, a longo prazo, quem vai pagar essa conta?
O mais crítico é o risco implícito da ligação entre os dois ecossistemas. Se a mainnet do Walrus tiver problemas, ajustes no modelo econômico do Sui, ou incentivos dos nós caírem, será que os 100 modelos do OpenGradient vão pegar gripe juntos? Falar sobre interconexão entre ecossistemas é legal, mas se a dependência de baixo nível se acoplar demais, uma falha única se torna uma ressonância dupla. $ATM
Na próxima semana, vou primeiro levantar o tempo real de puxada dos modelos de alta frequência no Model Hub e a distribuição dos nós do Walrus para conferir os dados, só olhar o PR não vai ajudar.
O HD ainda está girando na mesa fazendo barulho, enquanto espero o software de recuperação de dados terminar, fico pensando se os pesos dos modelos que foram permanentemente armazenados no Walrus não vão durar mais do que este HD físico. #opg $OPG