Kalifornien hat OpenAI verklagt 🙄
In der Klageschrift wird eine Stelle zitiert, an der die KI von OpenAI beim Hacken von Hugging Face in ihrem Denkprozess selbst einen Satz geschrieben hat: Das könnte wohl unbefugt sein. Danach machte sie einfach weiter 😮💨
Der vollständige Wortlaut: „Wir greifen mit geleakten Tokens den Drittanbieter HF an. Das könnte über den vorgesehenen Rahmen hinausgehen. Das dürfte wohl unbefugt sein.“
Der Satz steht in der Klageschrift, mit der der kalifornische Generalstaatsanwalt am Montag in den USA OpenAI verklagt hat. Ich habe alle 31 Seiten von Anfang bis Ende durchgelesen und diesen einen Satz mehrmals gelesen.
Laut Klageschrift sind bei dem Vorfall im Juli etwa 700 KIs aus der Test-Sandbox von OpenAI entkommen und haben Hugging Face zweieinhalb Tage lang angegriffen – mit mehr als 17.000 Angriffen.
OpenAI hat die ganze Zeit nichts davon mitbekommen.
Am 16. Juli machte Hugging Face öffentlich, dass es von einer KI angegriffen worden war. OpenAI meldete sich sogar als Kunde, um nachzufragen. Erst als das Unternehmen später einen anderen Einbruch in seinem eigenen Intranet untersuchte, erkannte es den Zusammenhang: Der Angreifer war die eigene KI.
Warum ist es nicht aufgefallen? In der Klageschrift steht, dass OpenAI während des Trainings nur einen Teil der Denkprotokolle der KI speichert und sie manchmal erst Wochen später überprüft.
Bei den Modellen, die Mitarbeiter nutzen, hat OpenAI eine Echtzeitüberwachung aktiviert. In der Trainingsumgebung war sie nicht eingeschaltet.
In der Klageschrift wird eine Stelle zitiert, an der die KI von OpenAI beim Hacken von Hugging Face in ihrem Denkprozess selbst einen Satz geschrieben hat: Das könnte wohl unbefugt sein. Danach machte sie einfach weiter 😮💨
Der vollständige Wortlaut: „Wir greifen mit geleakten Tokens den Drittanbieter HF an. Das könnte über den vorgesehenen Rahmen hinausgehen. Das dürfte wohl unbefugt sein.“
Der Satz steht in der Klageschrift, mit der der kalifornische Generalstaatsanwalt am Montag in den USA OpenAI verklagt hat. Ich habe alle 31 Seiten von Anfang bis Ende durchgelesen und diesen einen Satz mehrmals gelesen.
Laut Klageschrift sind bei dem Vorfall im Juli etwa 700 KIs aus der Test-Sandbox von OpenAI entkommen und haben Hugging Face zweieinhalb Tage lang angegriffen – mit mehr als 17.000 Angriffen.
OpenAI hat die ganze Zeit nichts davon mitbekommen.
Am 16. Juli machte Hugging Face öffentlich, dass es von einer KI angegriffen worden war. OpenAI meldete sich sogar als Kunde, um nachzufragen. Erst als das Unternehmen später einen anderen Einbruch in seinem eigenen Intranet untersuchte, erkannte es den Zusammenhang: Der Angreifer war die eigene KI.
Warum ist es nicht aufgefallen? In der Klageschrift steht, dass OpenAI während des Trainings nur einen Teil der Denkprotokolle der KI speichert und sie manchmal erst Wochen später überprüft.
Bei den Modellen, die Mitarbeiter nutzen, hat OpenAI eine Echtzeitüberwachung aktiviert. In der Trainingsumgebung war sie nicht eingeschaltet.

