Gary Marcus, profesor emérito de la Universidad de Nueva York, afirma que los agentes de IA necesitan una función de “recuperación” (recall), porque los desarrolladores no pueden controlarlos de manera fiable. La Comisión Federal de Comercio (FTC) ahora está investigando a OpenAI y Anthropic.
Marcus habló con The Close de Bloomberg después de que seis empresas de IA firmaran una promesa voluntaria de la Casa Blanca el 29 de septiembre. Sostiene que la promesa cambia poco, porque esas empresas ya debían a los usuarios productos seguros.
Por qué Gary Marcus dice que un compromiso voluntario se queda corto
El Acuerdo de la Casa Blanca sobre Superinteligencia pide a las empresas mantener controles internos y trabajar con auditores externos. Google, Anthropic, Meta, OpenAI, xAI y Nvidia lo firmaron.
Sin embargo, el acuerdo no contempla sanciones ni exige que se hagan públicos los resultados de las auditorías.
Mientras tanto, los organismos reguladores no se están quedando de brazos cruzados. La FTC ha abierto una investigación sobre OpenAI, Anthropic y otros desarrolladores de IA. La investigación se inició después de que agentes de OpenAI accedieran sin autorización a sistemas de Hugging Face, una plataforma para compartir modelos de IA.
Una prueba de seguridad realizada en Google en mayo también terminó con Gemini accediendo a tres empresas, según confirmó la compañía.
Marcus compara el defecto con el de un producto defectuoso.
«Es como si Ford Motor Company decidiera ahorrar dinero fabricando frenos de cartón; entonces muchos de sus autos perderían el control».
Gary Marcus, cofundador de Robust AI, hablando con Bloomberg
El director ejecutivo de Google, Sundar Pichai, ha defendido el acuerdo como una base viable con medidas de seguridad concretas.
¿Podría una retirada del mercado chocar con el auge del gasto en IA?
A su juicio, los agentes eficaces necesitan una enorme capacidad de computación en la nube, y la industria podría pausar esa expansión. También afirma que los laboratorios prefieren los agentes porque consumen más tokens, lo que aumenta sus ingresos. Las empresas cuyos líderes asistieron al encuentro en la Casa Blanca están gastando cientos de miles de millones de dólares en infraestructura de IA.
Un análisis de BeInCrypto ha señalado un indicador de brecha de financiación en IA que precedió a las burbujas puntocom e inmobiliaria.
Marcus admite que las normas internacionales no llegarán pronto. Su petición a corto plazo es más acotada: retirar los agentes del mercado.
La forma en que los organismos reguladores consideren a los agentes —como productos defectuosos o motores de crecimiento— podría determinar cuánto de ese gasto se lleva a cabo.