Как отметил Нихил Черян, старший директор по развитию инфраструктуры цепочки поставок, Google разрабатывает программные и аппаратные решения для устранения узких мест, связанных с памятью. По данным ChainCatcher, компания также разбирает выведенные из эксплуатации серверы, чтобы извлекать компоненты DDR4 и собирать внутреннюю перерабатывающую цепочку поставок.

Черян сказал, что индустрия ИИ быстро сместилась от модели, где основным ограничением была вычислительная мощность, к модели, где ограничивающим фактором стала память: высокопроизводительная память составляет примерно 75% себестоимости (стоимости компонентов) конкретного ИИ-сервера. Goldman Sachs заявила, что цены на память, как ожидается, продолжат расти в третьем квартале: цены на ПК DRAM прогнозируются к росту на 18%–23%, а цены на серверные DRAM — на 13%–18%.

Данные Trendforce показали, что в августе спотовые цены на DDR4 8 ГБ и DDR5 8 ГБ выросли до $142 и $133 соответственно. Кроме того, Google разработала специальные аппаратные адаптеры, которые подключают DDR4 предыдущего поколения к AI-серверам следующего поколения, а также импортирует списанные серверы, чтобы удалять и перерабатывать их модули DDR4.

Компания заявила, что два запущенных в этом году TPU ASIC были оптимизированы под память и могут сократить потребность в памяти до одной шестой от прежнего уровня. Чип TPU8i использует специализированную слоистую конструкцию памяти, опирается на высокоскоростную архитектуру памяти DDR5 для задач на уровне хоста и включает по 288 ГБ памяти HBM3e с высокой пропускной способностью на каждый чип.