Usar apenas metade da DRAM e manter 95% do desempenho? Como o MEXT da AMD combate a escassez de memória

\u003cc-10/\u003e\u003ct-11/\u003e  \u003ct-13/\u003e  \u003ct-15/\u003e 
A procura por IA está a fazer subir os preços da DRAM, e até as empresas que não executam cargas de trabalho de IA sentem a pressão do aumento dos preços da memória. Em resposta, a AMD apresentou o «MEXT», um motor de memória preditivo que, segundo a empresa, permite aos servidores manter até 95% do desempenho usando apenas metade da DRAM, ajudando a aliviar eficazmente a escassez de memória. Este artigo analisa o funcionamento do MEXT, os dados de testes divulgados pela AMD e as limitações atuais.
O que é o MEXT? Descarrega páginas de memória pouco usadas para memória flash e recorre à IA para as trazer de volta antecipadamente
Segundo a Tom’s Hardware, o conceito central do MEXT não é complicado: na memória dos servidores, há muitas «páginas de memória frias» (cold memory pages) que não são acedidas há muito tempo. O MEXT transfere essas páginas para armazenamento flash relativamente barato (SSD NVMe) e, em seguida, um modelo de IA prevê quais serão utilizadas em breve e devolve-as à DRAM antes de serem necessárias.
Para o sistema operacional, a parte da memória descarregada ainda é contabilizada como DRAM instalada. Segundo Gary Smerdon, fundador da AMD e da MEXT, dependendo do aplicativo e das metas de desempenho, os servidores podem usar de 20% a 75% menos DRAM física.
A AMD ilustrou o quanto as páginas frias são comuns: «Em um sistema de 1,5 TB que parece estar com toda a memória ocupada, cerca de metade das páginas não é acessada há mais de cinco minutos em determinado momento». Nesse caso, a ferramenta RAM View é usada para observar quais páginas estão quentes e quais estão frias.
Análise técnica: prever a próxima página de memória para reduzir a demanda por DRAM
Segundo a reportagem, o núcleo do MEXT é um modelo baseado na arquitetura Transformer. Mas, ao contrário de um LLM, que prevê a próxima palavra, ele prevê a próxima página de memória que será usada. Se a previsão for suficientemente precisa e a página for devolvida à DRAM dentro do tempo de transferência do SSD, o desempenho poderá atender às metas. As páginas também não precisam ser transferidas de volta em sequência: basta que estejam na DRAM antes de serem usadas.
Na implementação, o MEXT funciona como um módulo do kernel do Linux e é compatível com qualquer distribuição Linux. O modelo não precisa de pré-treinamento; o treinamento da primeira implementação leva menos de um segundo, usando apenas um núcleo EPYC e sem GPU, e continua aprendendo à medida que a carga de trabalho muda.
Essa é também a faca de dois gumes do MEXT: o sucesso não depende do desempenho médio, mas da precisão das previsões. Quando uma previsão falha, a página precisa ser lida do SSD em tempo real, e a latência se reflete no aplicativo. Os dados da AMD citados na reportagem não apresentam números sobre a taxa de acerto das previsões.
Testes internos da AMD: é possível reduzir a DRAM pela metade e manter o desempenho original?
A AMD divulgou resultados de vários testes internos: o Synopsys PrimeTime manteve 95% do desempenho com metade da DRAM e 80% com apenas 25% da DRAM. O Spark SQL, em um cluster de três nós no Azure criado com EPYC de quinta geração, manteve 99% do desempenho com metade da DRAM. Em Agentic AI, com cinco agentes executando simultaneamente, foram mantidos 99% do desempenho com metade da DRAM e 85% com apenas 25%.
A AMD ressalta que, para a maioria das cargas de trabalho, uma redução razoável da capacidade fica em torno de 20% a 25%. Quanto maior a redução, mais a solução precisa ser ajustada para aplicações específicas, e maiores se tornam as perdas de desempenho e a instabilidade.
Chegada dos servidores MEXT Ready: implementação de até 2.000 unidades em 2027
A AMD já implementou o MEXT em 145 servidores internos e ampliará esse número para 2.000 no próximo ano. Em parceria com a HPE, também levará o MEXT aos clientes. A implementação está atualmente na primeira fase: alguns servidores EPYC Venice terão o selo «MEXT Ready» e serão equipados com SSDs NVMe dedicados ou slots de expansão. Na segunda fase, a licença do MEXT será oferecida junto com o RAM View, mas a AMD ainda não divulgou um cronograma.
Atualmente, o MEXT é compatível apenas com EPYC, o que limita bastante seu campo de aplicação. No futuro, poderá ser estendido a produtos de consumo como o Strix Halo, mas essa possibilidade ainda parece distante.
(A AMD começa a entregar o EPYC Venice de sexta geração! Chega a primeira CPU para servidores de 2 nm da TSMC)
Este artigo foi publicado originalmente em: «É possível usar apenas metade da DRAM e manter 95% do desempenho? Como o MEXT da AMD combate a escassez de memória».
【Análise complementar】
【Minha perspectiva complementar】
Em essência, a tecnologia MEXT da AMD é uma estratégia para atenuar os «custos excessivos de hardware» por meio de uma «arquitetura e algoritmos definidos por software». A transferência da arquitetura Transformer da camada de aplicativos para o núcleo do sistema operacional, onde prevê páginas de memória, indica que a IA está profundamente integrada à otimização da infraestrutura. Se essa tecnologia amadurecer, o custo total de propriedade (TCO) dos centros de dados poderá cair significativamente. A lógica de aquisição de servidores talvez passe de simplesmente acumular DRAM cara para combinar «CPUs de alto poder computacional + SSDs NVMe de alta velocidade + gerenciamento inteligente», acelerando a adoção da hierarquização da memória (Memory Tiering).
【Impacto no mercado】
1. **Mercado de ações dos EUA**:
   - **AMD (AMD.US, perspectiva otimista)**: Essa tecnologia pode melhorar a relação custo-benefício dos servidores EPYC completos e ampliar a vantagem em relação à Intel, ajudando a aumentar a participação no mercado de servidores.
   - **Grandes fabricantes de memória (como Micron MU.US e SK Hynix, perspectiva neutra a pessimista)**: Se a demanda por DRAM por servidor cair de 20% a 50%, isso poderá reduzir, no curto e médio prazo, os ganhos decorrentes da alta dos preços da DRAM.
   - **Fabricantes de SSDs corporativos (como Western Digital WDC.US, perspectiva otimista)**: A migração frequente de páginas frias aumentará a dependência e o volume de compras de SSDs NVMe de alta durabilidade e alta largura de banda.
2. **Mercado de ações de Taiwan**:
   - **Phison (8299, perspectiva otimista)**: A demanda por chips controladores de SSDs corporativos deverá crescer com a implementação do MEXT.
   - **Fabricantes de servidores por contrato (Quanta 2382, Wistron 6669, perspectiva neutra a otimista)**: Isso ajudará a reduzir as barreiras de compra para os clientes e impulsionará o volume total de vendas de servidores AMD.
【Pontos a acompanhar】
1. **Precisão real das previsões**: Em ambientes complexos com vários inquilinos e cargas de trabalho extremas, a latência de cauda (Tail Latency) causada por erros de previsão afeta operações críticas?
2. **Intenção de compra dos CSPs**: Qual é o volume real de compras e o andamento da validação de servidores MEXT Ready por grandes provedores de serviços em nuvem, como AWS e Azure?
3. **Resposta dos concorrentes**: Intel ou NVIDIA lançarão soluções eficazes de compressão de memória ou de hierarquização que integrem hardware e software do mesmo tipo?
【Aviso de risco】
Erros de previsão podem levar a leituras e gravações frequentes no SSD, provocando grandes aumentos na latência dos aplicativos e acelerando o desgaste do SSD. Além disso, atualmente há suporte apenas para processadores EPYC; se a tecnologia não puder ser rapidamente expandida para outros ecossistemas, sua adoção comercial poderá avançar mais lentamente do que o esperado.