Les régulateurs britanniques s'efforcent d'évaluer le danger posé par le dernier modèle d'IA d'Anthropic, après que les responsables ont décidé que sa capacité à trouver des défauts de logiciel cachés pourrait représenter un risque direct pour les banques, assureurs, bourses et le système financier au sens large.

Selon le Financial Times, les discussions impliquent la Banque d'Angleterre, l'Autorité de conduite financière, le Trésor britannique et le Centre national de cybersécurité, qui examinent les vulnérabilités des systèmes informatiques dans la finance britannique.

Les banques, assureurs et bourses britanniques seront avertis dans les deux prochaines semaines des risques liés à Claude Mythos Preview, la dernière version d'Anthropic, qui a été précédemment rapportée par Cryptopolitan. La réponse britannique fait suite à une convocation du secrétaire au Trésor américain Scott Bessent, qui a appelé les dirigeants des grandes banques de Wall Street à discuter du même problème.

La semaine dernière, lorsque Anthropic a lancé Mythos pour des clients sélectionnés, la start-up de San Francisco à 380 milliards de dollars a déclaré que le système avait déjà trouvé « des milliers de vulnérabilités de haute gravité, y compris certaines dans chaque système d'exploitation majeur et navigateur web », y compris certaines qui étaient passées inaperçues pendant des décennies.

Les régulateurs préparent des avertissements bancaires alors que le modèle cybernétique d'Anthropic met en lumière les anciens défauts du système.

La question est prévue pour la prochaine réunion du Cross Market Operational Resilience Group, ou CMORG, où les régulateurs britanniques et les entreprises financières discutent des menaces pesant sur le secteur. Le CMORG est co-présidé par Duncan Mackinnon, directeur exécutif de la Banque d'Angleterre pour le risque de supervision, et David Postings, responsable de UK Finance.

Le groupe comprend des représentants seniors de huit des plus grandes banques britanniques, quatre fournisseurs d'infrastructure financière, deux assureurs, ainsi que le NCSC, la FCA et le HM Treasury. Le Telegraph a été le premier à rapporter l'ordre du jour. La Banque d'Angleterre a refusé de commenter.

Anthropic a déclaré : « Il ne faudra pas longtemps avant que de telles capacités se propagent, potentiellement au-delà des acteurs qui s'engagent à les déployer en toute sécurité. » Il a également averti que « les conséquences pour les économies, la sécurité publique et la sécurité nationale pourraient être graves. »

Les responsables examinent si des outils comme celui-ci pourraient exposer des points faibles dans les systèmes de paiement, les lieux de négociation, les réseaux d'assurance et d'autres parties essentielles du marché. David Raw, directeur général de la résilience chez UK Finance, a déclaré : « Nous sommes conscients des rapports de presse sur le développement de l'IA d'Anthropic et des risques mis en évidence. »

Il a ajouté : « UK Finance engage des discussions avec nos membres et, par le biais de nos partenariats public/privé, sur tout risque opérationnel significatif qui pourrait affecter la résilience du secteur des services financiers au Royaume-Uni. »

La Banque d'Angleterre peut également appeler le groupe distinct Cross Market Business Continuity Group dans un délai d'une à deux heures en cas de menace urgente, mais elle ne l'a pas fait ici.

OpenAI met en pause Stargate UK pendant que la Grande-Bretagne lutte contre les coûts énergétiques et l'incertitude des règles sur l'IA.

Le contexte plus large de l'IA est difficile en même temps. OpenAI, un concurrent d'Anthropic, met en pause son projet de centre de données au Royaume-Uni de plusieurs milliards de livres, Stargate UK. Le plan incluait un grand site dans le nord-est de l'Angleterre et l'accès à des puces puissantes par le biais de partenariats avec Nvidia et Nscale.

C'était dans le cadre d'un investissement technologique plus large de 31 milliards de livres sterling au Royaume-Uni. Jeudi, un porte-parole d'OpenAI a déclaré que l'entreprise ne progresserait que lorsque les « bonnes conditions » pourraient « permettre un investissement dans des infrastructures à long terme. »

Le porte-parole a déclaré : « Nous voyons un énorme potentiel pour l'avenir de l'IA au Royaume-Uni. Londres abrite notre plus grand hub de recherche internationale, et nous soutenons l'ambition du gouvernement d'être un leader en IA. » Ils ont ajouté : -

« Le calcul AI est fondamental pour cet objectif. Nous continuons à explorer Stargate UK et avancerons lorsque les bonnes conditions, telles que la réglementation et le coût de l'énergie, permettront un investissement dans des infrastructures à long terme. »

Lorsque OpenAI a annoncé le projet en septembre, il a déclaré qu'il renforcerait les « capacités de calcul souverain » du Royaume-Uni et soutiendrait le développement natif de l'IA. Il a également déclaré que le projet aiderait à alimenter l'économie future, à renforcer la compétitivité et à soutenir le Plan d'action national sur les opportunités en IA.

Mais les prix de l'énergie au Royaume-Uni étaient déjà bien supérieurs à ceux des États-Unis avant que la guerre en Iran n'augmente les coûts, et l'incertitude demeure quant à savoir si la loi changera pour permettre aux entreprises d'IA de former des modèles sur des œuvres sous copyright via un système de « refus » pour les créateurs.

Ne vous contentez pas de lire les nouvelles sur la crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.