Empresas de IA alugam a própria margem 🧾

$ICP e $FET estão construindo para um mundo em que as cargas de trabalho de IA se tornam muito mais persistentes.
Acho que o que passa despercebido é o que acontece com a conta quando isso realmente funciona.

Cada novo usuário gera mais inferência.

Se cada solicitação passa por APIs alugadas ou GPUs na nuvem, o próprio sucesso continua aumentando a conta de computação.
A nuvem faz todo o sentido quando a demanda é incerta ou vem em picos.

Um modelo que atende a solicitações todos os dias é um problema diferente.

Essa é a lacuna que a B3IQ quer preencher.

As empresas compram a máquina física da NVIDIA, enquanto a B3 cuida da aquisição, montagem, hospedagem e operação.

O proprietário recebe acesso root e um gateway compatível com a OpenAI, com as chaves de API direcionando as solicitações para o hardware pertencente àquela conta.

E a inferência em uma máquina própria da B3IQ não é cobrada por token.

Assim, quando uma carga de trabalho se torna previsível, a computação deixa de se comportar como uma conta de uso sem limite definido e passa a ser uma infraestrutura que a empresa possui.

A máquina também pode ser colocada para trabalhar quando não é necessária internamente, em vez de ficar ociosa.

Não acho que isso substitua a nuvem.

A configuração mais interessante é possuir a capacidade básica que você sabe que vai usar e alugar para os picos imprevisíveis.

As empresas de IA passaram anos otimizando o custo por token.

A B3IQ pergunta se elas deveriam, desde o início, possuir a máquina que produz esses tokens.

Essa é uma questão de infraestrutura muito maior.

#AI #DePIN