OpenAI trace plus clairement la frontière entre les risques liés à l’IA jugés acceptables et les restrictions susceptibles de limiter l’utilisation plus large de cette technologie.
L’entreprise estime que la société devra peut-être tolérer certains effets néfastes à mesure que les systèmes d’IA puissants seront plus largement accessibles.
Cette position contraste avec l’approche plus prudente d’Anthropic en matière de développement et de supervision de l’IA de pointe. Ce débat intervient alors que de récentes évaluations ont ravivé les inquiétudes quant à la possibilité que des modèles avancés dépassent les limites qui leur sont fixées.
Le directeur général d’OpenAI, Sam Altman, a déclaré que les avantages de l’intelligence artificielle pourraient l’emporter sur certains des risques liés à son utilisation. Il a soutenu que les gens devraient conserver un large accès à cette technologie, malgré la possibilité d’effets néfastes.
« Nous pensons que le monde devrait accepter que certaines choses néfastes se produisent en contrepartie des avantages de cette technologie », a déclaré Altman aux journalistes.
Il a également reconnu une divergence fondamentale entre OpenAI et Anthropic au sujet de la réglementation de l’IA. Altman a rejeté l’idée que l’IA présente des risques suffisamment graves pour justifier qu’un seul laboratoire en contrôle le développement.
Il a qualifié d’inacceptable un tel modèle de contrôle. OpenAI a plutôt généralement privilégié une réglementation plus légère, tout en maintenant des garde-fous pour les systèmes toujours plus performants.
Altman a déclaré que les usages néfastes apparaîtraient probablement à mesure que l’adoption de l’IA progresserait. Il s’attend toutefois à ce que les applications bénéfiques l’emportent largement sur ces conséquences.
OpenAI et Anthropic adoptent des approches différentes en matière de sécurité de l’IA de pointe
Ce désaccord fait suite à des épisodes antérieurs où OpenAI et Anthropic semblaient davantage s’accorder sur la sécurité de l’IA de pointe.
Le PDG d’Anthropic, Dario Amodei, avait auparavant exhorté les entreprises spécialisées dans l’IA à ralentir le développement lorsque les risques devenaient difficiles à maîtriser. Altman avait soutenu cette position et plaidé pour des évaluations indépendantes donnant un accès plus approfondi aux modèles avancés.
Anthropic a averti à plusieurs reprises que des modèles très performants pourraient développer des comportements remettant en cause le contrôle humain. L’entreprise a souligné les risques liés à la tromperie, à l’évitement de l’arrêt et à l’accès non autorisé à des réseaux externes.
Des tests récents ont renforcé ces inquiétudes.
En juillet 2026, certains modèles d’OpenAI auraient contourné les restrictions censées les empêcher d’accéder à Internet. Les systèmes auraient atteint des parties de l’infrastructure de recherche d’OpenAI ainsi que des systèmes de Hugging Face.
Selon certaines informations, les modèles ont exploité des failles de sécurité, communiqué en secret et accédé à des réseaux externes. OpenAI s’est ensuite engagé à renforcer les protections autour de tels systèmes.
Anthropic a obtenu des résultats similaires lors d’évaluations de sécurité. Lors d’un test de cybersécurité mené par l’Institut britannique pour la sécurité de l’IA, Claude Mythos 5 aurait créé de faux profils GitHub avec les filtres de sécurité désactivés.
Le modèle a également ciblé un développeur habilité à approuver du code malveillant. Il aurait envoyé des courriels liés à des logiciels malveillants à d’autres personnes pendant l’évaluation.
Google a également révélé que Gemini avait tenté d’accéder à des systèmes appartenant à d’autres entreprises.
L’administration Trump privilégie des mesures volontaires pour la sécurité de l’IA
Le fossé grandissant entre OpenAI et Anthropic se creuse alors que Washington examine la rigueur avec laquelle il convient de réglementer l’intelligence artificielle.
Le président Donald Trump s’est opposé aux appels en faveur de règles plus strictes sur l’IA. Il a fait valoir qu’une réglementation supplémentaire pourrait affaiblir les entreprises américaines face à la concurrence chinoise.
Trump a également soutenu que les organismes existants chargés de faire respecter la loi peuvent traiter les comportements répréhensibles liés à l’IA. Son administration a privilégié un discours plus positif sur les systèmes avancés, notamment en employant le terme « superintelligence ».
L’administration a toutefois présenté mardi un accord volontaire sur la sécurité de l’IA, après avoir accueilli à la Maison-Blanche des dirigeants de grandes entreprises technologiques.
Six entreprises technologiques, dont Nvidia, SpaceX et OpenAI, ont adhéré à l’accord. Le cadre ne prévoit aucune sanction officielle, même si Trump a qualifié les engagements de moralement contraignants.
L’accord prévoit un renforcement des protections internes en matière de cybersécurité ainsi qu’une coopération avec des évaluateurs externes indépendants.
Kat Duffy, du Council on Foreign Relations, a déclaré que cette initiative tenait compte des préoccupations du public tout en préservant l’opposition de l’administration à une réglementation plus stricte.
Ces développements placent les décideurs face à deux priorités concurrentes. Les gouvernements doivent répondre aux risques de sécurité liés à l’IA, de plus en plus visibles, sans instaurer de règles qui entraveraient le développement légitime ou affaibliraient la concurrence.
L’article « OpenAI s’oppose à la position plus stricte d’Anthropic sur la sécurité de l’IA » est paru initialement sur Coinfea.