UK-Regulierungsbehörden sind dabei, die Gefahr zu bewerten, die von Anthropics neuestem KI-Modell ausgeht, nachdem die Beamten entschieden haben, dass seine Fähigkeit, versteckte Softwarefehler zu finden, ein direktes Risiko für Banken, Versicherer, Börsen und das breitere Finanzsystem darstellen könnte.

Laut den Financial Times beinhalten die Gespräche die Bank von England, die Financial Conduct Authority, HM Treasury und das National Cyber Security Centre, die Schwachstellen in IT-Systemen im britischen Finanzwesen überprüfen.

Britische Banken, Versicherer und Börsen werden innerhalb der nächsten zwei Wochen über Risiken im Zusammenhang mit Claude Mythos Preview, der neuesten Veröffentlichung von Anthropic, gewarnt, die zuvor von Cryptopolitan berichtet wurde. Die britische Reaktion folgt auf eine Aufforderung von US-Finanzminister Scott Bessent, der die Führungskräfte großer Wall-Street-Banken einlud, um dasselbe Thema zu besprechen.

In der letzten Woche, als Anthropic Mythos an ausgewählte Kunden veröffentlichte, sagte das 380-Milliarden-Dollar-Start-up aus San Francisco, das System habe bereits „Tausende von hochriskanten Schwachstellen gefunden, einschließlich einiger in jedem wichtigen Betriebssystem und Webbrowser“, darunter einige, die jahrzehntelang unentdeckt geblieben waren.

Regulierungsbehörden bereiten Bankenwarnungen vor, da Anthropics Cyber-Modell alte Systemfehler ins Rampenlicht rückt.

Das Thema steht auf der nächsten Sitzung der Cross Market Operational Resilience Group, oder CMORG, wo britische Regulierungsbehörden und Finanzunternehmen über Bedrohungen für den Sektor diskutieren. CMORG wird gemeinsam geleitet von Duncan Mackinnon, dem Exekutivdirektor für aufsichtsrechtliche Risiken der Bank von England, und David Postings, dem Leiter von UK Finance.

Die Gruppe besteht aus hochrangigen Vertretern von acht der größten britischen Banken, vier Finanzinfrastruktur-Anbietern, zwei Versicherern sowie dem NCSC, der FCA und HM Treasury. Der Telegraph berichtete zuerst über die Agenda. Die Bank von England lehnte es ab, sich zu äußern.

Anthropic sagte: „Es wird nicht lange dauern, bis solche Fähigkeiten sich verbreiten, möglicherweise über Akteure hinaus, die sich verpflichtet haben, sie sicher einzusetzen.“ Es wurde auch gewarnt, dass „die Auswirkungen auf Volkswirtschaften, die öffentliche Sicherheit und die nationale Sicherheit schwerwiegend sein könnten.“

Beamte prüfen, ob Tools wie dieses Schwachstellen in Zahlungssystemen, Handelsplätzen, Versicherungsnetzwerken und anderen Kernbereichen des Marktes aufdecken könnten. David Raw, Geschäftsführer für Resilienz bei UK Finance, sagte: „Wir sind uns der Presseberichte über die Anthropic KI-Entwicklung und der hervorgehobenen Risiken bewusst.“

Er fügte hinzu: „UK Finance engagiert sich mit unseren Mitgliedern und durch unsere öffentlich-privaten Partnerschaften zu signifikanten operationellen Risiken, die die Resilienz des britischen Finanzdienstleistungssektors beeinträchtigen könnten.“

Die Bank von England kann auch die separate Cross Market Business Continuity Group innerhalb von ein bis zwei Stunden während einer dringenden Bedrohung anrufen, hat dies hier aber nicht getan.

OpenAI pausiert Stargate UK, während Großbritannien mit Energiekosten und Unsicherheiten bezüglich der KI-Regeln kämpft.

Der breitere KI-Hintergrund ist gleichzeitig rau. OpenAI, ein Rivale von Anthropic, pausiert sein Multimilliarden-Pfund-Datenzentrum-Projekt in Großbritannien, Stargate UK. Der Plan umfasste einen großen Standort im Nordosten Englands und den Zugang zu leistungsstarken Chips durch Partnerschaften mit Nvidia und Nscale.

Es war Teil eines umfangreicheren £31 Milliarden großen UK-Technologieinvestitionspakets. Am Donnerstag sagte ein Sprecher von OpenAI, dass das Unternehmen nur dann vorankommen würde, wenn die „richtigen Bedingungen“ langfristige Infrastrukturinvestitionen „ermöglichen“ könnten.

Der Sprecher sagte: „Wir sehen ein enormes Potenzial für die KI-Zukunft des UK. London ist die Heimat unseres größten internationalen Forschungszentrums, und wir unterstützen die Ambition der Regierung, ein KI-Führer zu sein.“ Sie fügte hinzu:

„KI-Computing ist grundlegend für dieses Ziel. Wir erkunden weiterhin Stargate UK und werden vorankommen, wenn die richtigen Bedingungen wie Regulierung und die Energiekosten langfristige Infrastrukturinvestitionen ermöglichen.“

Als OpenAI das Projekt im September ankündigte, sagte es, es würde die „sovereign compute capabilities“ des UK stärken und die native KI-Entwicklung unterstützen. Es wurde auch gesagt, dass das Projekt die zukünftige Wirtschaft ankurbeln, die Wettbewerbsfähigkeit steigern und den nationalen Aktionsplan für KI-Chancen unterstützen würde.

Aber die Energiepreise in Großbritannien lagen bereits weit über denen in den USA, bevor der Iran-Krieg die Kosten weiter in die Höhe trieb, und es bleibt unklar, ob das Gesetz geändert wird, um KI-Firmen das Trainieren von Modellen mit urheberrechtlich geschützten Werken durch ein „Opt-out“-System für Kreatoren zu ermöglichen.

Lies nicht nur Krypto-Nachrichten. Verstehe sie. Abonniere unseren Newsletter. Es ist kostenlos.