O campo da inteligência artificial (IA) está passando por uma mudança sísmica, e grandes players como Nvidia, Intel e Google estão correndo para estar na vanguarda dessa revolução.
Os recentes benchmarks do MLPerf Training 3.1 forneceram uma breve visão da intensa competição entre esses gigantes da tecnologia, mostrando ganhos sem precedentes no treinamento de modelos de linguagem grande (LLM). No primeiro trimestre de 2023, Nvidia, Intel e Google revelaram seus sistemas de rede neural de IA para tarefas de aprendizado profundo. Até o final do ano, o relatório mostra que as empresas administraram testes para demonstrar seus níveis de realização.
Os benchmarks MLPerf tornaram-se recentemente um campo de batalha para demonstrar avanços no treinamento LLM. Anteriormente dominado pelas previsões da Lei de Moore, a indústria de IA agora está escalando hardware e software em um ritmo que ultrapassa as projeções tradicionais.
Vários especialistas afirmam que a Lei de Moore está lentamente chegando a nada, então novas descobertas da Nvidia, Intel e Google provavelmente serão úteis.
Domínio do supercomputador EOS da Nvidia
A Nvidia, uma referência no cenário de IA, revelou recentemente seu supercomputador EOS, uma maravilha tecnológica com 10.752 GPUs conectadas via Nvidia Quantum-2 InfiniBand. Nos benchmarks MLPerf Training 3.1, a Nvidia obteve uma melhoria impressionante de 2,8 vezes na velocidade de treinamento LLM para seu modelo GPT-3 desde junho.
As tarefas incluíam resumo, tradução, classificação e geração de novos conteúdos, como código de computador, texto de marketing, poesia e muito mais.
As especificações alucinantes do sistema EOS, incluindo mais de 40 exaflops de computação de IA, ressaltam o comprometimento da Nvidia em expandir os limites da IA.
Avanço do acelerador Gaudi 2 da Intel
A Intel fez avanços significativos com seu acelerador Habana Gaudi 2, aproveitando uma combinação de técnicas, incluindo o uso de tipos de dados de ponto flutuante (FP8) de 8 bits.
Os resultados falam por si, com um notável aumento de 103% no desempenho da velocidade de treinamento em relação aos benchmarks MLPerf de junho. O foco estratégico da Intel em métricas de preço-desempenho a posiciona como uma concorrente formidável no cenário de treinamento de IA.
“Projetamos um ganho de 90 por cento ao ativar o FP8”, disse Eitan Medina, diretor de operações do Habana Labs da Intel. “Entregamos mais do que o prometido — uma redução de 103 por cento no tempo de treinamento para um cluster de 384 aceleradores.”
Google Cloud TPU v5e e recursos de dimensionamento
Da mesma forma, o Google com seu Cloud TPU v5e, entrou na competição exibindo suas capacidades de escala. Utilizando o FP8 para desempenho de treinamento ideal, o Google destacou sua tecnologia de escala multislice, permitindo uma escala impressionante de até 1.024 nós com 4.096 chips TPU v5e.
O compromisso do Google com o dimensionamento eficiente atualmente o posiciona como um jogador-chave na corrida pelo domínio da IA, já que a empresa nunca para de otimizar seu software. A intensa competição entre Nvidia, Intel e Google na arena de treinamento de IA está remodelando o futuro da inteligência artificial. À medida que expandem os limites do treinamento LLM, esses gigantes da tecnologia não estão apenas excedendo as previsões da Lei de Moore, mas também impulsionando a indústria para territórios desconhecidos. Os resultados dessa competição, sem dúvida, influenciarão a trajetória do desenvolvimento da IA e abrirão caminho para avanços transformadores no campo.
O post Relatório de benchmark de treinamento do MLPerf revela que Nvidia, Intel e Google estão competindo pelo domínio da IA generativa apareceu primeiro no Metaverse Post.