Стартапы в сфере ИИ-инференса, которые арендуют вычислительные мощности в облаке и перепродают их клиентам, начинают самостоятельно закупать чипы, поскольку доступ к вычислительным ресурсам становится всё труднее обеспечить. Как сообщает Sina Finance со ссылкой на The Information, этот сдвиг может изменить структуру расходов таких компаний, а зависимость от небольших облачных провайдеров также подвергла их рискам безопасности. По сообщениям, кибератаку на Fireworks удалось отследить до слабой защиты у небольшого облачного провайдера, после чего некоторые клиенты задумались о смене провайдера.

Fireworks заявила, что в июле её годовая выручка в пересчёте на текущие темпы превысила 1 млрд долларов — это в пять раз больше, чем годом ранее. Последняя оценка стоимости компании составляет 17,5 млрд долларов. Как сообщается, в начале этого года CoreWeave решила прекратить продавать вычислительные мощности компании Baseten после запуска собственного сервиса инференса в марте, хотя близкий к Baseten источник оспорил утверждение, что CoreWeave сократила поставки. Генеральный директор DigitalOcean Падди Сринивасан заявил, что компания отдаёт приоритет клиентам с конечным пользовательским спросом, а не фирмам, перепродающим вычислительные мощности.

За последний год Modal добавила 30 партнёров-неоклаудов после того, как ей не удалось получить у крупных облачных провайдеров желаемое количество чипов Nvidia Blackwell по приемлемым ценам. Fal начала закупать чипы Nvidia для размещения в арендованных центрах обработки данных и в начале этого месяца привлекла 1,65 млрд долларов для расширения вычислительных мощностей, в том числе для закупки GPU и аренды центров обработки данных AWS. Together планирует довести мощность собственных центров обработки данных до 250 мегаватт к концу 2026 года, а Baseten также намерена покупать GPU Nvidia для своих объектов. Fireworks, напротив, сообщила инвесторам, что пока не планирует покупать оборудование, утверждая, что её главное преимущество — программное обеспечение. Modal обсуждала возможность закупки дополнительного оборудования, однако генеральный директор Эрик Бернхардссон заявил, что компания считает основным источником ценности программное обеспечение, а не владение оборудованием.