As startups de inferência de IA que alugam capacidade de computação na nuvem e a revendem aos clientes estão começando a comprar chips por conta própria, à medida que fica mais difícil garantir capacidade computacional. Segundo a Sina Finance, que cita o The Information, essa mudança pode alterar a estrutura de custos dessas empresas, enquanto a dependência de provedores de nuvem menores também as expôs a riscos de segurança. Ao que tudo indica, um ciberataque à Fireworks foi rastreado até falhas de segurança em um pequeno provedor de nuvem, levando alguns clientes a considerar a mudança de provedor.

A Fireworks afirmou que sua receita anualizada ultrapassou US$ 1 bilhão em julho, cinco vezes o nível registrado no mesmo período do ano anterior, e que sua avaliação mais recente é de US$ 17,5 bilhões. Segundo relatos, a CoreWeave decidiu no início deste ano parar de vender capacidade computacional à Baseten após lançar seu próprio serviço de inferência em março, embora uma pessoa próxima à Baseten tenha contestado que a CoreWeave tivesse reduzido o fornecimento. O CEO da DigitalOcean, Paddy Srinivasan, disse que a empresa prioriza clientes com demanda de usuários finais em vez de empresas que revendem capacidade computacional.

A Modal adicionou 30 parceiros neocloud no último ano, após ter dificuldade para obter dos grandes provedores de nuvem a quantidade desejada de chips Nvidia Blackwell pelo preço desejado. A Fal começou a comprar chips da Nvidia para instalá-los em data centers alugados e levantou US$ 1,65 bilhão no início deste mês para expandir sua capacidade computacional, inclusive por meio da compra de GPUs e do aluguel de data centers da AWS. A Together planeja ter 250 megawatts de capacidade em seus próprios data centers até o fim de 2026, enquanto a Baseten também planeja comprar GPUs da Nvidia para as instalações que opera. A Fireworks, por outro lado, disse a investidores que não planeja comprar hardware no momento, argumentando que seu software é seu diferencial. A Modal discutiu a possibilidade de comprar mais hardware, mas o CEO Erik Bernhardsson afirmou que a empresa considera o software, e não a propriedade de hardware, sua principal fonte de valor.