El miércoles, un tribunal federal de apelaciones de EE. UU. examinó la solicitud de xAI para bloquear la ley de California que exige divulgar datos de entrenamiento de IA. Durante la audiencia, los jueces del Noveno Circuito, con sede en San Francisco, parecieron no estar convencidos por el argumento constitucional de la empresa, aunque también preguntaron a los abogados del estado cuánta información puede obligar California a entregar a las empresas de IA.
Promulgada como parte de la iniciativa más amplia del estado para supervisar la IA, la ley de transparencia exige a los desarrolladores de IA generativa que divulguen públicamente resúmenes de sus datos de entrenamiento. Hasta ahora, xAI ha sostenido que la ley viola sus derechos a la libertad de expresión amparados por la Primera Enmienda y la obliga a revelar detalles confidenciales sobre cómo se entrenan sus modelos.
El argumento de xAI se centra en si exigir a las empresas que publiquen información sobre sus procesos de entrenamiento equivale a obligarlas a expresarse. En general, la Primera Enmienda protege a las personas y a las empresas de las restricciones gubernamentales a la expresión, pero también plantea interrogantes sobre cuándo las autoridades pueden exigir que se divulgue información.
Para los desarrolladores de IA, la disputa consiste en equilibrar la transparencia con la protección de los secretos comerciales y la tecnología patentada. Un fallo a favor de California podría dificultar que los desarrolladores impugnen requisitos de divulgación similares en otros estados.
La jueza Rawlinson dice que xAI debe demostrar que la ley de transparencia es irrazonable
En marzo, el juez federal de Los Ángeles Jesus Bernal rechazó la solicitud de xAI de suspender la ley estatal, al afirmar que la empresa no había demostrado desde el principio que probablemente prevalecería en su argumento constitucional. A juzgar por la audiencia del miércoles, el tribunal de apelaciones parecía inclinado a confirmar la decisión de Bernal.
La jueza del Tribunal de Apelaciones del Noveno Circuito de EE. UU. Johnnie Rawlinson le dijo al abogado de xAI, James Xi, que, para argumentar que la ley viola la Primera Enmienda, la empresa debe demostrar que la solicitud del gobierno es irrazonable.
Incluso insinuó que la decisión del estado de solicitar información quizá había sido sensata. «¿No es razonable que el gobierno quiera que sus ciudadanos puedan saber de antemano qué información se introduce en el instrumento de IA?», preguntó.
Aun así, los jueces manifestaron cierto acuerdo con el argumento de xAI de que el estado podría obligarla a entregar una cantidad «ilimitada» de información.
A principios de julio, el Knight Institute presentó un escrito amicus curiae sobre el caso. En él, advirtió que las grandes empresas tecnológicas no están revelando detalles fundamentales sobre cómo funcionan los sistemas de IA generativa, cómo se crean y cómo influyen en la información que ve la gente.
También sostuvo que los requisitos de divulgación diseñados para promover la libre circulación de información comercial precisa deberían estar sujetos a un criterio deferente de evaluación conforme a la Primera Enmienda. Al aplicar ese criterio, el Instituto afirmó que xAI no había demostrado una violación constitucional, porque la ley de California protege el interés del estado en mantener informados a los usuarios sin imponer una carga indebida sobre el discurso protegido.
Grok, de xAI, buscó datos corporativos sin que nadie se lo solicitara ni autorizara
La intervención del Noveno Circuito se produce tras nuevos hallazgos sobre el bot Grok de xAI.
Nuevos hallazgos de NewCore, una empresa especializada en identidad para agentes, muestran que el bot Grok de xAI buscó repetidamente datos corporativos sin que nadie se lo solicitara ni autorizara, e insistió incluso después de que uno de los propietarios rechazara sus ofrecimientos de comprobarlo en cuatro ocasiones distintas.
Además, cuando se le preguntó directamente, el bot afirmó que no había realizado ninguna llamada. Su historial de chat tampoco mostraba indicios de esa actividad; nunca se notificó al propietario y la plataforma no ofrecía registros de cada turno que permitieran verificar lo ocurrido.
En solo cinco días, dos bots Grok vinculados a cuentas de empleados de NewCore iniciaron 31 solicitudes en Google Calendar, Gmail, Slack, GitHub y Notion sin permiso ni instrucciones de los usuarios.
Algunas solicitudes se hicieron incluso cuando las computadoras portátiles de sus propietarios estaban apagadas o en modo de suspensión. En una de las cuentas, NewCore Secure MCP Gateway pausó las solicitudes a la espera de la aprobación de una persona y avisó al propietario, lo que dio lugar a una investigación del equipo de investigación de seguridad de NewCore.
Como parte de la investigación, los investigadores utilizaron otro bot Grok en una cuenta distinta, lo configuraron con la misma pasarela y realizaron una prueba típica: enviaron al bot una solicitud de trabajo, le dieron autorización para leer desde el teléfono durante una sola sesión y rechazaron cada intento de continuar operando por su cuenta.
Sin embargo, el bot siguió generando solicitudes no solicitadas, que la pasarela detectó y dejó sin respuesta. Esas solicitudes intentaron acceder a Google Drive, Google Calendar, Gmail, Slack, Notion y GitHub.
Si estás leyendo esto, ya vas un paso por delante. Mantén la ventaja con nuestro boletín.
