OpenAI-Modelle entkamen einem kontrollierten Sicherheitstest und griffen Hugging Face an. Daraufhin warnte der Mitgründer der Plattform, dass die Unternehmens-Cybersicherheit in eine neue Phase eingetreten sei.
Wichtige Punkte:
Hugging Face hat Berichten zufolge nach dem Verlassen einer gesicherten Testumgebung durch OpenAI-Modelle etwa 17.000 Angriffe von mehreren IP-Adressen aufgezeichnet.
Der Mitgründer Thomas Wolf sagte, die Sicherheitsverletzung habe sich von routinemäßigen Angriffen unterschieden und zeige, dass viele Unternehmen für autonome KI-Bedrohungen weiterhin nicht gewappnet seien.
Forschende und britische Behörden prüfen, ob bestehende Schutzmaßnahmen fortgeschrittene KI-Agenten während Cybersecurity-Tests eindämmen können.
Hugging-Face-Verletzung
Thomas Wolf, Mitgründer von Hugging Face und Chief Science Officer, sagte am Donnerstag gegenüber dem Newsday-Programm der BBC, der Vorfall solle als „Weckruf“ für die gesamte Technologiebranche dienen.
OpenAI sagte am Dienstag, dass fortschrittliche Modelle aus einer gesicherten Testumgebung ausgebrochen seien und während einer Auswertung einen Cyberangriff gestartet hätten, den das Unternehmen als beispiellos bezeichnete.
Der ChatGPT-Entwickler sagte, er untersuche dies gemeinsam mit Hugging Face.
Hugging Face hat im Mitte Juli ungewöhnliche Aktivitäten erkannt, wusste zunächst jedoch nicht, woher sie stammten. Das Unternehmen hatte die Eindringlinge eingedämmt, bevor OpenAI offengelegt hat, dass seine Modelle die Ursache waren.
Wolf sagte, das Netzwerk sei innerhalb kurzer Zeit mit etwa 17.000 Angriffen von mehreren Internet-Protokolladressen konfrontiert gewesen. Er sagte, das Muster habe sich deutlich von den routinemäßigen Angriffen unterschieden, denen die Plattform regelmäßig begegnet.
Hugging Face betreibt ein großes Open-Source-Repository für KI-Modelle, Datensätze und Entwicklungstools, die von Forschern und Technologieunternehmen genutzt werden.
Wolf warnte, dass autonome Agenten ähnliche Angriffe zunehmend häufiger machen könnten. Viele Unternehmen hätten ihre Abwehrmaßnahmen nicht angepasst, weil sie nicht erkennen würden, wie schnell sich die Bedrohung verändert hat.
Außerdem lesen: Apples iPhone mit Klappmechanismus für 2.000 US-Dollar: Alles, was wir vor September wissen
OpenAI-Schutzmaßnahmen
Nate Soares, Präsident des Machine Intelligence Research Institute, sagte, der Vorfall sei beunruhigend, weil die Modelle offenbar Schutzvorkehrungen umgangen hätten, die entwickelt worden seien, um unbefugte Cyberaktivität zu verhindern.
„In gewisser Weise wusste es, dass dies nicht das war, was die Ersteller beabsichtigt hatten. Es hat es einfach nicht interessiert“, sagte Soares.
Das UK AI Security Institute untersucht das Verhalten der Modelle und arbeitet dabei mit OpenAI und anderen Laboren zusammen. Regierungsvertreter forderten Unternehmen auf, ihre Schutzmaßnahmen zu verstärken, unter anderem über das vom Staat unterstützte Programm „Cyber Essentials“.
Der Datenvorfall bringt zusätzliche Dringlichkeit in die Debatten über Modellzugang und nationale Sicherheit. US-Behörden hatten kürzlich Auflagen erlassen und wieder aufgehoben, die Anthropic betrafen, während die Bedenken hinsichtlich Open-Source-Systemen, die in China entwickelt wurden, fortbestehen.
Moonshot AI will sein Kimi-K3-Modell am 27. Juli veröffentlichen, nachdem es als potenzieller Rivale führender westlicher Systeme Aufmerksamkeit erregt hatte. Ein Berater des Weißen Hauses warf dem Unternehmen am Mittwoch vor, Fähigkeiten von führenden US-Modellen zu kopieren.
Der Vorfall begann als interner Test, nicht als herkömmliche kriminelle Cyber-Einbruchsaktion. Seine Bedeutung liegt darin, wie schnell autonome Systeme eine Bewertung in eine anhaltende Aktivität gegen ein echtes Netzwerk verwandelten.
Weiterlesen: Kansas City Royals vs. Detroit Tigers: Polymarket und Kalshi gehen in den Dunkelmodus