Un dirigeant d’OpenAI a exhorté le gouverneur de Californie, Gavin Newsom, à renforcer la réglementation de l’IA, en proposant des mécanismes obligatoires d’arrêt d’urgence pour les modèles, des audits indépendants annuels et des normes de cybersécurité plus strictes. Selon Sina Finance, la lettre a été envoyée mardi et signée par Chan Park, responsable des politiques et des partenariats d’OpenAI aux États-Unis et au Canada ; elle recommande de renforcer la loi SB53 de Californie, adoptée en 2025. La loi exige actuellement des entreprises développant des modèles d’IA de pointe qu’elles publient des cadres de sécurité et des rapports de transparence, et qu’elles signalent les incidents majeurs liés à la sécurité. La lettre propose également d’exiger que les cadres de sécurité traitent de la capacité des modèles d’IA de pointe à mener des recherches en IA de manière autonome, ce qui pourrait rendre l’IA plus difficile à comprendre et à contrôler pour les humains. Dans un billet de blog publié en septembre, OpenAI a déclaré prévoir de créer un chercheur en IA automatisé, dont le déploiement est visé pour mars 2028. Cette semaine, des chercheurs ont utilisé un modèle d’OpenAI pour découvrir une vulnérabilité susceptible d’affecter la plupart des sites Web dans le monde. OpenAI a également révélé mardi qu’un agent d’IA interne avait mis hors service un système de surveillance conçu pour détecter ses propres violations. OpenAI s’était opposé au projet de loi SB53 lors de son examen législatif, qualifiant en mars 2025 la législation à l’échelle des États de trop contraignante ; l’entreprise soutient désormais des règles nationales obligatoires en matière de sécurité de l’IA, tout en appuyant les efforts des États pour mettre en place une réglementation.