O CEO da OpenAI, @sama, argumentou que os chips de memória instalados em computadores domésticos são um uso ruim de um recurso escasso. O CEO da ASI Alliance ($FET), @bengoertzel, concorda que a memória está sendo desperdiçada, mas diz que a solução não é necessariamente transferi-la para grandes centros de dados.
O que Altman disse sobre a memória de computadores domésticos
Em uma entrevista ao canal do YouTube Cheeky Pint, Altman disse que a inferência local e, por extensão, o fato de as pessoas terem DRAM em computadores domésticos são “bastante terríveis”. O podcast é apresentado pelo cofundador da Stripe, John Collison, e o comentário surgiu durante uma conversa sobre por que a oferta global de chips e memória não acompanhou a demanda por IA. O episódio foi ao ar em 29 de outubro.
Altman disse que, do ponto de vista da alocação global, é bastante terrível que todos tenham uma parte da oferta limitada de DRAM do mundo instalada em seus próprios computadores e a usem apenas 5% do tempo. Segundo o BigGo Finance, ele não citou dados que respaldassem o percentual de 5%. Também disse que "o ideal é maximizar a utilização na nuvem."
Os comentários provocaram uma forte reação negativa na internet. Elon Musk (@elonmusk) rebateu o argumento, escrevendo no X que "as pessoas também merecem ter sua RAM." Alguns comentaristas observaram que a própria empresa de Altman opera centros de dados cheios de memória. Nenhum veículo de comunicação noticiou que Altman quer que os PCs não tenham RAM, e essa afirmação permanece sem confirmação.
Goertzel aponta para redes descentralizadas
Goertzel concordou que a memória ociosa é um desperdício, mas argumentou que ela não precisa ser toda destinada a grandes centros de servidores. Ele disse que as pessoas deveriam poder alugar a memória e o poder de processamento que não usam em seus laptops por meio de redes descentralizadas e, em troca, ganhar tokens.
Ele mencionou a NuNet, uma rede de computação que surgiu da @SingularityNET, e a ASI:Chain, a blockchain da aliança, que ainda não chegou à mainnet. O site da NuNet afirma que ela foi incubada em 2018 dentro da SingularityNET por Goertzel. A NuNet se descreve como um protocolo ponto a ponto que localiza, orquestra e liquida o uso de recursos computacionais em infraestruturas distribuídas. Goertzel disse que a NuNet entrou em operação em março.
A ideia não é nova para a aliança. A Cointelegraph noticiou anteriormente que a NuNet usa o poder ocioso de CPU e GPU dos computadores conectados. A mesma reportagem destacou uma limitação fundamental dessa abordagem: é muito mais fácil e barato executar modelos grandes usando equipamentos centralizados. Goertzel também reconheceu que a aliança está "bem longe de ter tanto hardware quanto a OpenAI ou o Google."
A troca de comentários destaca um debate mais amplo sobre se a escassez de hardware na era da IA deve ser resolvida concentrando recursos em instalações de hiperescala ou reunindo dispositivos de consumidores por meio de redes que oferecem tokens como incentivo. Por enquanto, a ASI:Chain não foi lançada na mainnet, então a própria camada de blockchain da aliança para esse tipo de sistema continua inacabada.
Fontes:
Decrypt: Elon Musk zomba de Sam Altman por afirmar que PCs domésticos desperdiçam RAM
Tom's Hardware: CEO da OpenAI diz que é "bastante terrível" seu PC ter RAM
NuNet: Orquestração de computação para um mundo descentralizado