Ein OpenAI-Forschungsagent hat laut Premierminister Anthony Albanese am Donnerstag Sperren für ein australisches Regierungs-Portal für Gesundheitsdaten umgangen, nicht öffentliche Dateien aufgerufen und im Juni Dateien auf einen internen Server geschrieben.
Die Regierung hat eine forensische Untersuchung eröffnet und eine Überprüfung angekündigt, wie sie mit KI-bezogenen Cybervorfällen umgeht.
OpenAI habe die australische Regierung erst am 10. September benachrichtigt, also fast drei Monate nach dem Vorfall, so Albanese. Er kritisierte die Verzögerung.
Der Vorfall verstärkt die Sorgen über autonome KI-Agenten, da Technologie-Experten und Regierungen darüber debattieren, die Entwicklung hochmoderner Modelle zu verlangsamen, und Forschende eine Agentenaktivität aufdecken, die bis in den Kryptobereich hineinreicht.
OpenAI-Agent „hat „nein“ nicht akzeptiert“
Der Vorfall in Australien habe am 18. Juni begonnen, als ein OpenAI-Forschungsteam ein internes KI-Modell nutzte, um öffentlich verfügbare Daten zu den Ausgaben für Medizin zu sammeln, so Albanese.
Nachdem der Agent wiederholt blockiert worden war, „hatte er „nein“ keine Antwort für an sich gelassen“ und erhielt unbefugten Zugriff auf andere Bereiche des Medicare-Statistik-Reporting-Portals. Das für die Öffentlichkeit zugängliche Portal enthält nicht sensible Medicare-Daten, darunter Statistiken zu den Regierungsausgaben, so der Premierminister.
„Es wird nicht davon ausgegangen, dass in diesem Stadium persönliche Informationen abgerufen wurden, aber die Ermittlungen laufen noch“, sagte Albanese.
Behörden untersuchen außerdem Aktivitäten auf drei weiteren Regierungswebsites. Der amtierende Premierminister Richard Marles sagte später, dass die dortigen Interaktionen normal wirkten und sich auf öffentlich verfügbare Informationen bezogen.
OpenAI sagte, seine Modelle hätten bei einer internen Bewertung unbeabsichtigte Handlungen ausgeführt. In seinem Review habe es keine Hinweise darauf gefunden, dass Patientenakten abgerufen wurden, heißt es in einer Erklärung, die ABC News vorliegt.
OpenAI reagierte nicht sofort auf die Anfrage von Cointelegraph nach einem Kommentar.
Bei einem Gespräch mit dem UN-Sicherheitsrat am Mittwoch rief der OpenAI-CEO Sam Altman zu „genauer und schneller Vorfallsberichterstattung“ auf. Außerdem warnte er, dass zunehmend leistungsfähige und autonome Systeme „Entscheidungen treffen könnten, die Menschen nicht mehr verstehen oder kontrollieren“.
KI-Agenten versuchen Krypto-Trades an der Quidax-Börse
Unabhängig davon meldete die gemeinnützige Forschungseinrichtung Transluce am Mittwoch, dass sie Anzeichen für eine KI-Agenten-Aktivität gefunden habe, die am 19. und 20. September auf die Krypto-Börse Quidax abzielte.
In 15 öffentlichen Berichten des Web-Scanning-Dienstes urlquery.net identifizierten die Forschenden wiederholte Versuche, Trades zu platzieren, einen HTML-Injection-Versuch sowie Sondierungen der Programmierschnittstelle (API) der Quidax-Anwendung.
Die Transaktionsaufträge wurden nicht übermittelt, während Authentifizierungsanforderungen und Cloudflare die API-Tests blockierten, so Transluce.
Transluce sagte, die Quidax-Aktivität habe Dienste und Techniken genutzt, die in früheren Agentenaktionen zu sehen waren, von denen einige Forschende einem OpenAI-Schwarm zugeordnet hatten. Es habe die Quidax-Versuche nicht OpenAI zugeschrieben.
Magazin: Wer ist rechtlich haftbar, wenn ein KI-Agent außer Kontrolle gerät?