El director de OpenAI, Sam Altman, dijo que la gente debería dejar de ejecutar programas grandes de IA en sus propias PC porque desperdician memoria valiosa que las empresas pueden aprovechar de forma más eficiente en enormes centros de datos.
Conclusiones clave
Sam Altman dijo que la gente no debería ejecutar modelos grandes de IA localmente y calificó la inferencia en equipos de escritorio como un desperdicio de memoria
Argumentó que la escasa memoria DRAM se aprovecha mejor en centros de datos que en computadoras personales
Altman dijo que es «terrible» tener RAM «ahí, en tu escritorio» cuando los grandes sistemas en la nube pueden agruparla y asignarla según sea necesario
Sus comentarios presentaron la computación local como ineficiente frente a los centros de datos centralizados y cuestionaron la ejecución de modelos en hardware personal
En una entrevista con The Verge, el director ejecutivo de OpenAI sostuvo que la escasa DRAM, los chips de memoria que almacenan los datos activos de los modelos, se aprovecha mejor en los centros de datos que en los ordenadores personales.
Dijo que es «terrible» tener RAM «en el escritorio» cuando los grandes sistemas en la nube pueden agruparla y asignarla de forma más eficiente.
Sam Altman lanza un ataque directo al auge de los modelos locales
Los comentarios de Altman contrastan con un movimiento cada vez mayor de desarrolladores y empresas que promueven la inferencia local y los modelos de pesos abiertos que pueden ejecutarse en hardware personal. Su postura presenta la computación local como ineficiente frente a los centros de datos centralizados y cuestiona la idea de que ejecutar modelos en portátiles, ordenadores de sobremesa y dispositivos periféricos sea intrínsecamente empoderador.
Sus comentarios también fueron más allá de la eficiencia del hardware: Altman dijo que los usuarios no deberían ser dueños de sus propios modelos, convirtiendo una respuesta sobre la cadena de suministro y la escasez de RAM en un argumento más amplio a favor del control centralizado del despliegue. Esto es importante en un debate que ya está dividiendo el mercado entre empresas que priorizan la nube y desarrolladores de modelos de pesos abiertos. Las fuentes que circulan coinciden en el sentido general de sus comentarios, aunque se centran en distintas partes del intercambio.
Lea también: OpenAI descubre que uno de sus propios modelos de IA intenta conectarse a Internet
Por qué la memoria se convirtió en el campo de batalla
Los grandes modelos de lenguaje consumen mucha memoria durante la inferencia, porque los pesos del modelo y el contexto activo deben permanecer accesibles mientras el sistema genera texto. Si la RAM escasea en toda la cadena de suministro, Altman considera que centralizar esos recursos puede ofrecer un mayor nivel de utilización que millones de PC parcialmente inactivas.
Ese argumento favorece a las empresas con grandes clústeres y una demanda constante, pero también agudiza las inquietudes sobre la resiliencia, los precios y el control de los usuarios. Si la inferencia sigue concentrada en los centros de datos, las empresas que los gestionan mantienen un control más estricto sobre el tiempo de actividad, la aplicación de políticas y quién puede acceder a los modelos.
Qué viene ahora para el despliegue de la IA
La consecuencia inmediata no es el lanzamiento de un producto ni un cambio de política por parte de OpenAI. Es una postura pública más clara de uno de los directores ejecutivos más visibles del sector de la IA, en un momento en que tanto el software para modelos locales como los PC con IA están ganando terreno.
Cabe esperar que la próxima fase de esta disputa gire en torno a factores económicos cuantificables, como la disponibilidad de chips, los márgenes de la nube, la latencia y cuánta calidad pueden conservar los modelos locales más pequeños cuando se ejecutan con memoria limitada.
Lea a continuación: Samsung obtiene 107,4 billones de wones de beneficios gracias a la demanda de memoria para IA