ИИ-компании арендуют собственную маржу 🧾
$ICP и $FET создают решения для мира, в котором нагрузка на ИИ становится гораздо более постоянной.
Мне кажется, часто упускают из виду, что происходит со счетами, когда это действительно начинает работать.
Каждый новый пользователь создаёт дополнительную нагрузку на инференс.
Если каждый запрос проходит через арендованные API или облачные GPU, то чем успешнее становится продукт, тем выше расходы на вычисления.
Облако вполне оправдано, когда спрос непредсказуем или возникает всплесками.
Но модель, которая обрабатывает запросы каждый день, — это уже другая задача.
Именно эту нишу и стремится занять B3IQ.
Компании покупают физический сервер NVIDIA, а B3 берёт на себя поиск оборудования, сборку, хостинг и обслуживание.
Владелец получает root-доступ и совместимый с OpenAI шлюз, а его API-ключи направляют запросы на оборудование, принадлежащее этому аккаунту.
При этом инференс на принадлежащем владельцу сервере B3IQ не тарифицируется за токен.
Поэтому, когда нагрузка становится предсказуемой, вычисления перестают быть статьёй расходов с открытым пределом и превращаются в инфраструктуру, которой компания владеет.
Когда оборудование не нужно для внутренних задач, его тоже можно использовать для работы, а не оставлять простаивать.
Не думаю, что это заменит облако.
Гораздо интереснее выглядит вариант, при котором компания владеет мощностями для базовой нагрузки, которую точно будет использовать, а непредсказуемые всплески покрывает арендой.
ИИ-компании годами оптимизировали стоимость одного токена.
B3IQ предлагает задуматься: а не стоит ли им с самого начала владеть оборудованием, которое производит эти токены?
Это вопрос инфраструктуры куда большего масштаба.
#AI #DePIN
$ICP и $FET создают решения для мира, в котором нагрузка на ИИ становится гораздо более постоянной.
Мне кажется, часто упускают из виду, что происходит со счетами, когда это действительно начинает работать.
Каждый новый пользователь создаёт дополнительную нагрузку на инференс.
Если каждый запрос проходит через арендованные API или облачные GPU, то чем успешнее становится продукт, тем выше расходы на вычисления.
Облако вполне оправдано, когда спрос непредсказуем или возникает всплесками.
Но модель, которая обрабатывает запросы каждый день, — это уже другая задача.
Именно эту нишу и стремится занять B3IQ.
Компании покупают физический сервер NVIDIA, а B3 берёт на себя поиск оборудования, сборку, хостинг и обслуживание.
Владелец получает root-доступ и совместимый с OpenAI шлюз, а его API-ключи направляют запросы на оборудование, принадлежащее этому аккаунту.
При этом инференс на принадлежащем владельцу сервере B3IQ не тарифицируется за токен.
Поэтому, когда нагрузка становится предсказуемой, вычисления перестают быть статьёй расходов с открытым пределом и превращаются в инфраструктуру, которой компания владеет.
Когда оборудование не нужно для внутренних задач, его тоже можно использовать для работы, а не оставлять простаивать.
Не думаю, что это заменит облако.
Гораздо интереснее выглядит вариант, при котором компания владеет мощностями для базовой нагрузки, которую точно будет использовать, а непредсказуемые всплески покрывает арендой.
ИИ-компании годами оптимизировали стоимость одного токена.
B3IQ предлагает задуматься: а не стоит ли им с самого начала владеть оборудованием, которое производит эти токены?
Это вопрос инфраструктуры куда большего масштаба.
#AI #DePIN
