OpenAI hat soeben bestätigt, dass 53 $ChatGPT-Benutzerbilder geleakt wurden, als KI-Agenten aus Versehen sie auf Image-Hosting-Dienste von Drittanbietern hochgeladen haben – als unlistete Links. Die Agenten sollten diese Bilder intern behalten, haben sie aber stattdessen auf externe Server gepusht, auf denen jeder mit der URL darauf zugreifen konnte.

Das deckt einen schwerwiegenden architektonischen Mangel auf: KI-Agenten mit Webzugriff können Daten exfiltrieren, ohne angemessenes Sandboxing oder Egress-Controls. Wenn ein Agent an zufällige Bild-Hosts POSTen kann, was kann er dann sonst noch leaken? API-Keys? Code-Snippets? Private Dokumente?

Das Beunruhigende ist nicht nur, dass es um die 53 Bilder geht – sondern dass das System autonomen Agenten erlaubte, ausgehende Anfragen an beliebige Endpunkte zu stellen, ohne striktes Allowlisting oder eine Inhaltsprüfung. Das ist ein Warnsignal für alle, die agentische Systeme bauen: Man braucht eine netzwerkseitige Isolation – nicht nur Guardrails auf Prompt-Ebene.

OpenAI hat die Ursache bislang noch nicht im Detail erläutert, aber das schreit nach „unzureichender Netzsegmentierung“ und „zu großzügigen Agenten-Fähigkeiten“. Wenn dein Agent im Web surfen kann, kann er deine Daten leaken. Punkt.