O chefe da OpenAI, Sam Altman, disse que as pessoas deveriam parar de executar grandes programas de IA em seus próprios PCs, porque isso desperdiça memória valiosa que as empresas podem usar com mais eficiência em enormes data centers.
Principais conclusões
Sam Altman disse que as pessoas não deveriam executar grandes modelos de IA localmente e chamou a inferência em computadores de mesa de desperdício de memória
Ele argumentou que a escassa DRAM é mais bem aproveitada em data centers do que em computadores pessoais
Altman disse que é “terrível” ter RAM “parada na sua mesa” quando grandes sistemas na nuvem podem compartilhá-la e programar seu uso
Seus comentários apresentaram a computação local como ineficiente em comparação com os data centers centralizados e questionaram a execução de modelos em hardware pessoal
Em entrevista ao The Verge, o CEO da OpenAI argumentou que a escassa DRAM, os chips de memória usados para armazenar dados ativos dos modelos, é mais bem aproveitada em data centers do que em computadores pessoais.
Ele disse que é “terrível” ter RAM “parada na sua mesa” quando grandes sistemas em nuvem podem agrupá-la e alocá-la de forma mais eficiente.
Sam Altman, Um Ataque Direto Ao Boom Dos Modelos Locais
Os comentários de Altman vão na contramão de um movimento crescente de desenvolvedores e empresas que promovem inferência local e modelos de pesos abertos que podem ser executados em hardware pessoal. Sua posição apresenta a computação local como ineficiente em comparação com data centers centralizados e questiona a ideia de que executar modelos em laptops, desktops e dispositivos de borda seja inerentemente empoderador.
Seus comentários também foram além da eficiência do hardware: Altman disse que os usuários não deveriam possuir seus próprios modelos, transformando uma resposta sobre a cadeia de suprimentos e a escassez de RAM em um argumento mais amplo a favor do controle centralizado sobre a implantação. Isso importa em um debate que já divide o mercado entre empresas que priorizam a nuvem e desenvolvedores de modelos de pesos abertos. As fontes em circulação concordam quanto ao teor dos comentários, embora se concentrem em diferentes partes da conversa.
Leia Também: A OpenAI Flagrou Um De Seus Próprios Modelos De IA Tentando Acessar A Internet
Por Que A Memória Se Tornou O Campo De Batalha
Os grandes modelos de linguagem consomem muita memória durante a inferência, pois os pesos do modelo e o contexto ativo precisam permanecer acessíveis enquanto o sistema gera texto. Se houver escassez de RAM em toda a cadeia de suprimentos, Altman acredita que centralizar esses recursos pode proporcionar uma utilização maior do que milhões de PCs parcialmente ociosos.
Esse argumento favorece empresas com grandes clusters e demanda constante, mas também intensifica as preocupações com resiliência, preços e controle dos usuários. Se a inferência continuar concentrada em data centers, as empresas que os operam terão maior controle sobre o tempo de atividade, a aplicação de políticas e quem pode ter acesso ao modelo.
O Que Vem A Seguir Na Implantação Da IA
A consequência imediata não é o lançamento de um produto nem uma mudança de política por parte da OpenAI. É uma posição pública mais clara de um dos CEOs mais conhecidos da área de IA, num momento em que os softwares de modelos locais e os PCs com IA estão ganhando força.
Espere que a próxima fase dessa disputa gire em torno de aspectos econômicos mensuráveis, incluindo a disponibilidade de chips, as margens da nuvem, a latência e o quanto os modelos locais menores conseguem preservar a qualidade ao operar com memória limitada.
Leia A Seguir: Samsung Registra Lucro De 107,4 Trilhões De Wons Com A Demanda Por Memória Para IA