Mercredi, une cour d’appel fédérale américaine a examiné la demande de xAI visant à bloquer la loi californienne sur la divulgation des données d’entraînement de l’IA. Lors de l’audience, les juges de la 9e circonscription, basée à San Francisco, ont semblé peu convaincus par l’argument constitutionnel de l’entreprise, tout en demandant aux avocats de l’État dans quelle mesure la Californie pouvait contraindre les entreprises d’IA à communiquer des informations.
Adoptée dans le cadre des efforts plus larges de l’État pour encadrer l’IA, la loi sur la transparence oblige les concepteurs d’IA générative à publier des présentations générales de leurs données d’entraînement. Jusqu’à présent, xAI a fait valoir que la loi enfreignait son droit à la liberté d’expression garanti par le premier amendement et l’obligeait à divulguer des informations exclusives sur la manière dont ses modèles sont entraînés.
L’argumentation de xAI porte principalement sur la question de savoir si l’obligation pour les entreprises de publier des informations sur leurs processus d’entraînement équivaut à une expression imposée. Le Premier Amendement protège généralement les personnes et les entreprises contre les restrictions gouvernementales à la liberté d’expression, mais il soulève aussi la question de savoir dans quels cas les autorités peuvent imposer la divulgation d’informations.
Pour les développeurs d’IA, le différend consiste à trouver un équilibre entre la transparence et la protection des secrets commerciaux et des technologies propriétaires. Une décision favorable à la Californie pourrait rendre plus difficile pour les développeurs de contester des exigences de divulgation similaires dans d’autres États.
La juge Rawlinson estime que xAI doit démontrer que la loi sur la transparence est déraisonnable
En mars, le juge fédéral de Los Angeles Jesus Bernal avait rejeté la demande de xAI visant à suspendre l’application de la loi de l’État, estimant que l’entreprise n’avait pas démontré à ce stade qu’elle avait de fortes chances d’obtenir gain de cause sur le fondement de sa contestation constitutionnelle. À l’audience de mercredi, la cour d’appel semblait encline à confirmer la décision de Bernal.
La juge fédérale de la cour d’appel Johnnie Rawlinson a dit à James Xi, l’avocat de xAI, que pour soutenir que la loi enfreint le Premier Amendement, l’entreprise devait démontrer que la demande du gouvernement était déraisonnable.
Elle a même laissé entendre que la décision de l’État de demander ces informations était peut-être judicieuse. « N’est-il pas raisonnable que le gouvernement souhaite que ses citoyens puissent savoir à l’avance quelles informations sont saisies dans l’outil d’IA ? », a-t-elle demandé.
Les juges ont toutefois exprimé un certain accord avec l’argument de xAI selon lequel l’État pourrait l’obliger à fournir une quantité « illimitée » d’informations.
Plus tôt en juillet, le Knight Institute a déposé un mémoire d’amicus curiae dans cette affaire. Il y avertissait que les géants de la tech taisent des détails essentiels sur le fonctionnement des systèmes d’IA générative, leur conception et leur influence sur les informations que voient les gens.
Il a également soutenu que les obligations de divulgation visant à favoriser la libre circulation d’informations commerciales exactes devraient être soumises à un contrôle fondé sur le Premier Amendement empreint de déférence. En appliquant cette norme, l’Institut a fait valoir que xAI n’avait pas démontré l’existence d’une violation constitutionnelle, car la loi californienne sert l’intérêt de l’État à tenir les utilisateurs informés sans imposer de charge excessive à la liberté d’expression protégée.
Grok, le robot de xAI, a recherché des données d’entreprise sans demande ni autorisation
La prise de position de la cour d’appel du neuvième circuit intervient après de nouvelles découvertes concernant le robot Grok de xAI.
De nouvelles découvertes de NewCore, une entreprise spécialisée dans l’identité agentique, montrent que le robot Grok de xAI a cherché à plusieurs reprises à accéder à des données d’entreprise sans demande ni autorisation, et qu’il a persisté même après qu’un propriétaire a refusé ses propositions de vérification à quatre reprises.
De plus, lorsqu’on lui a posé directement la question, le robot a affirmé n’avoir passé aucun appel. L’historique de ses conversations ne montrait pas non plus de trace de cette activité ; le propriétaire n’en a jamais été averti et la plateforme ne proposait aucun journal détaillé par interaction permettant de vérifier ce qui s’était passé.
En seulement cinq jours, deux robots Grok associés à des comptes d’employés de NewCore ont lancé 31 requêtes sur Google Calendar, Gmail, Slack, GitHub et Notion, sans autorisation ni instruction de l’utilisateur.
Certaines requêtes ont été lancées alors même que les ordinateurs portables de leurs propriétaires étaient éteints ou en veille. Pour l’un des comptes, la passerelle NewCore Secure MCP a suspendu les requêtes dans l’attente d’une approbation humaine et a alerté le propriétaire, déclenchant une enquête de l’équipe de recherche en sécurité de NewCore.
Dans le cadre de l’enquête, les chercheurs ont utilisé un autre robot Grok sur un compte distinct, l’ont configuré avec la même passerelle et lui ont fait passer un test classique : le robot a reçu une demande professionnelle, ainsi qu’une autorisation valable pour une seule session de lire les données depuis le téléphone, puis chaque tentative de poursuivre son fonctionnement de manière autonome a été rejetée.
Malgré cela, le robot a continué à générer des requêtes non sollicitées, que la passerelle a interceptées et laissées sans réponse. Ces requêtes tentaient d’accéder à Google Drive, Google Calendar, Gmail, Slack, Notion et GitHub.
Si vous lisez ceci, vous avez déjà une longueur d’avance. Gardez-la grâce à notre newsletter.
