Глава OpenAI Сэм Альтман заявил, что людям следует перестать запускать большие программы ИИ на своих компьютерах, поскольку это напрасно расходует ценную память, которую компании могут использовать эффективнее в огромных центрах обработки данных.
Главные выводы
Сэм Альтман заявил, что людям не следует запускать большие модели ИИ локально, и назвал запуск моделей на настольных компьютерах пустой тратой памяти
Он утверждает, что дефицитную DRAM лучше использовать в центрах обработки данных, а не на персональных компьютерах
Альтман сказал, что «ужасно», когда оперативная память «простаивает у вас на столе», хотя крупные облачные системы могут объединять её ресурсы и распределять их
В своих высказываниях он представил локальные вычисления как неэффективные по сравнению с централизованными центрами обработки данных и поставил под сомнение запуск моделей на персональном оборудовании
В интервью The Verge генеральный директор OpenAI заявил, что дефицитную DRAM — чипы памяти, в которых хранятся данные активных моделей, — полезнее использовать в центрах обработки данных, а не на персональных компьютерах.
Он сказал, что «ужасно», когда оперативная память «простаивает у вас на столе», хотя крупные облачные системы могут объединять её ресурсы и распределять их эффективнее.
Сэм Альтман нанёс прямой удар по буму локальных моделей
Комментарии Альтмана идут вразрез с растущим движением разработчиков и компаний, которые продвигают локальный инференс и модели с открытыми весами, способные работать на персональном оборудовании. Он представляет локальные вычисления как неэффективные по сравнению с централизованными центрами обработки данных и оспаривает идею, что запуск моделей на ноутбуках, настольных компьютерах и периферийных устройствах сам по себе даёт пользователям больше возможностей.
Высказывания Альтмана касались не только эффективности оборудования: он сказал, что пользователям не следует владеть собственными моделями. Так ответ на проблему дефицита оперативной памяти в цепочке поставок превратился в более широкий аргумент в пользу централизованного контроля над развёртыванием моделей. Это важно для дискуссии, которая уже разделила рынок на компании, ориентированные прежде всего на облачные решения, и разработчиков моделей с открытыми весами. Источники, освещающие эту тему, сходятся в главном, хотя и уделяют внимание разным частям беседы.
Читайте также: OpenAI поймала одну из собственных моделей ИИ на попытке выйти в интернет
Почему память стала полем битвы
Большие языковые модели потребляют значительные объёмы памяти во время инференса: веса модели и текущий контекст должны оставаться доступными, пока система генерирует текст. Если оперативной памяти не хватает во всей цепочке поставок, Альтман считает, что централизация ресурсов позволит использовать их эффективнее, чем миллионы частично простаивающих компьютеров.
Этот аргумент выгоден компаниям с крупными кластерами и стабильным спросом, но одновременно усиливает опасения по поводу устойчивости, цен и контроля со стороны пользователей. Если инференс останется сосредоточен в центрах обработки данных, управляющие ими компании сохранят более жёсткий контроль над бесперебойной работой, соблюдением правил и самим доступом к моделям.
Что ждёт развёртывание ИИ дальше
Непосредственным следствием не станет ни запуск нового продукта, ни изменение политики OpenAI. Скорее, это чётко выраженная публичная позиция одного из самых заметных руководителей в сфере ИИ — в момент, когда локальные модели и компьютеры с ИИ набирают популярность.
Ожидается, что следующий этап этой борьбы будет вращаться вокруг измеримых экономических факторов: доступности чипов, маржи облачных сервисов, задержки и того, насколько качественными смогут оставаться небольшие локальные модели при работе с ограниченным объёмом памяти.
Читайте далее: Samsung получила 107,4 трлн вон прибыли благодаря спросу на память для ИИ