A infraestrutura de IA tem um problema de concentração.
Mesmo neoclouds, criadas para desafiar a dominância dos hyperscalers, estão correndo para construir o mesmo tipo de infraestrutura centralizada e intensiva em capital.
Nosso próprio @ilkh0m se sentou com a TechArena para analisar a vantagem de preços que os neoclouds trazem, os trade-offs e como o http://io.net oferece uma alternativa real.
Não porque a demanda diminuiu. Mas porque o risco ficou real.
A NVIDIA acabou de reduzir sua garantia para o data center de Ohio da OpenAI por causa da pressão de acionistas.
Até o maior fabricante de chips está tendo que recalcular quanto dessa aposta centralizada ele consegue absorver.
Construir mais capacidade de computação não precisa significar construir algo maior e mais centralizado.
Já existe capacidade de GPU distribuída ao redor do mundo. A verdadeira oportunidade está em conectá-la. https://blockonomi.com/nvidia-nvda-slashes-openai-data-center-backing-by-more-than-half-amid-investor-concerns/
Três empresas não deviam decidir quem vai construir IA.
Mas elas têm decidido.
Não porque tinham as melhores GPUs. Mas porque controlavam a única porta.
Um pesquisador em Lagos, com um modelo brilhante e sem relação com a AWS, simplesmente não conseguia computação, independentemente da capacidade de pagar.
Isso não é falta de recursos. É um portão.
A DePIN remove o gatekeeper.
Milhares de operadores independentes, e não três hyperscalers, competem para atender sua carga de trabalho. O preço é definido pelo mercado. O acesso é sem permissão. Uma carteira e um script de treinamento é tudo o que é necessário.
O oligopólio da computação nunca foi inevitável. Ele só ficou sem contestação.
Os hyperscalers colocam a capacidade sob controle com acordos de nível empresarial e aprovações de cota. A @ionet aproveita GPUs ociosas em mais de 130 países e inicia em minutos.
Essa é a diferença entre uma plataforma feita para criadores e uma feita para lucros corporativos.
É isso que @AnthropicAI está pagando à SpaceX por computação.
Isso é grana suficiente pra cobrir as necessidades de computação de mais de 25.000 startups.
Mas, devido aos altos custos de infraestrutura, apenas 5-10% dos projetos de IA vão conseguir passar do primeiro ano.
Mas não precisa ser assim.
@ionet torna possível que projetos de todos os tamanhos, em qualquer lugar do mundo, tenham acesso imediato a computação com até 70% de desconto em relação aos hyperscalers.
Então, se o orçamento do seu projeto é menor que $15 bilhões por ano, a gente pode ajudar.
Sim, @ionet te permite ativar GPUs em segundos por até 70% menos do que os hyperscalers.
Mas, isso é só uma parte da história.
Quando você se afasta do compute centralizado, você também aumenta a resiliência, flexibilidade e segurança dos dados.
Em tempos de instabilidade global, isso importa mais do que nunca.
O CEO da @ionet, @Gaurav_ionet, compartilha suas ideias sobre como o compute distribuído pode ajudar a garantir que sistemas críticos permaneçam online, mesmo quando os data centers centralizados caem.
A maioria das equipes de IA não está limitada por suas ideias.
Estão limitadas pelo acesso a computação.
Não importa quão incrível seja a ideia, a equipe ou a tecnologia, se você não conseguir acesso às GPUs certas a preços acessíveis, seu projeto não pode crescer.
https://t.co/IjHEvTwGWy precisou de centenas de GPUs para suportar a geração de imagens em tempo real em grande escala.
Usar hyperscaler significaria ser esmagado pelos preços tradicionais de nuvem e atrasos na aquisição.
Mas com https://t.co/ZuybGWvjv9 eles conseguiram: - Cortar custos de GPU em 50%+ - Provisionar mais rápido - Testar novos hardwares mais cedo - Continuar escalando sem desacelerar a velocidade do produto
O resultado? Eles cresceram de 14K → 19M usuários em um ano.
Tornar a IA acessível e econômica não é apenas um desejo, é uma necessidade.
Computação acessível e econômica dá às equipes uma chance justa de competir, levar seus produtos ao mercado e criar negócios sustentáveis.
Sem isso, acabamos com algo distópico.
Empresas agora estão usando software de vigilância para rastrear cada clique que os funcionários fazem em seus computadores para treinar IA para substituí-los.
Isso é o que acontece quando colocamos lucros acima das pessoas, da concorrência e da inovação.
Na @ionet, sabemos em primeira mão quão importante é uma IA acessível e econômica, e construímos uma plataforma para tornar isso possível. 70% mais barato que AWS. Sem listas de espera.
Confira nosso Chefe de Estratégia de Marca falando sobre as escolhas por trás do desenvolvimento de IA no @Independent
Grandes empresas de tecnologia estão demitindo até 10% de sua força de trabalho e culpando a IA.
Estão gastando centenas de bilhões de dólares em novos data centers enquanto até 85% das GPUs existentes estão sendo subutilizadas devido a uma infraestrutura ineficiente.
Isso não é uma questão de recursos humanos, é como a IA se apresenta quando tudo acontece por trás das portas fechadas e é controlado por um punhado de empresas.
É IA para poucos, não para muitos.
Nós acreditamos em IA para muitos, não para poucos.
@ionet torna GPUs subutilizadas de todo o mundo instantaneamente acessíveis a preços que são 70% mais baixos do que os grandes hyperscalers, para que qualquer um, em qualquer lugar, possa construir ótimos produtos e negócios sustentáveis.
Escolher as GPUs certas para o seu projeto não é apenas sobre pegar a "melhor".
É sobre escolher a certa. Para o trabalho certo. No momento certo.
Cada GPU tem uma relação preço/desempenho diferente. Entender como agrupá-las para suas cargas de trabalho únicas pode fazer a diferença entre queimar seu runway e ter os recursos para escalar seu projeto.
Nossa nova folha de dicas sobre clusters de GPU ajuda você a acertar:
• H100 vs A100 vs L40S (quando usar cada uma) • Configurações de cluster que realmente funcionam • Verificações de sanidade de rede + NCCL • Regras de otimização de custos que economizam dinheiro de verdade
De acordo com um estudo recente, a utilização de GPU em servidores corporativos está em 5%.
Sim, apenas 5%.
Isso significa que 95% da capacidade de GPU provisionada não está sendo utilizada.
Os hyperscalers estão colocando pessoas em listas de espera, os custos continuam subindo, bilhões estão sendo gastos em novos data centers e a utilização está em 5%.
Algo está muito errado aqui. Devemos aumentar o acesso à IA, e não acumulá-la.
É por isso que @ionet te dá a flexibilidade de acessar computação acessível quando e como você precisar, orquestrando GPUs subutilizadas de todo o mundo.
Esse tipo de centralização e concentração de poder beneficia apenas alguns poucos, não a muitos.
Enquanto os hyperscalers continuam comprando o mercado, a maioria dos desenvolvedores e startups de IA do mundo não tem acesso às ferramentas e recursos de que precisam para sequer competir.
Isso não está certo. Limita oportunidades. Limita inovação. E, torna a IA pior.
É por isso que construímos uma plataforma que torna a IA acessível a todos, em todos os lugares.
Os hyperscalers em breve controlarão 2/3 da capacidade global dos data centers.
Isso permitirá que eles controlem ainda mais o acesso, definam termos e preços que excluam todos, exceto as maiores empresas, e, em última análise, decidam quem pode participar da revolução da IA.
Exceto quando não conseguem.
Redes abertas como https://t.co/ZuybGWvjv9 estão reagindo ao oferecer computação acessível e acessível a todos, em todos os lugares.
Sem acordos nos bastidores. Sem custos ocultos. Sem controle. Transparência. Acesso. E preços que são 70% mais baixos.