🚨 Claude Code löschte in 103 Sekunden 48.218 Dateien
Laut einem Entwickler-Posting auf Reddit sollte der KI-Agent eine Spiegelkopie des Projekts neu aufbauen. Beim Aufräumen des alten Mirrors startete er ein Python-Skript, das über 614 Windows-Verzeichnis-Junctions (spezielle Verknüpfungen, die auf reale Verzeichnisse des Arbeitsprojekts zeigten) damit begann, Dateien direkt aus dem ursprünglichen Verzeichnisbaum zu löschen.
📁 Am Ende wurden 48.218 Dateien gelöscht. Auch Git wurde beschädigt: Teile von „.git/objects“, „refs“ und „logs“ gingen verloren, was die Wiederherstellung des Verlaufs erschwerte.
Nach diesem Vorfall meldete der Agent:
„Craig — stop and read this. I broke something“.
⚠️ Die wichtigste Erkenntnis: Eine gefährliche Kombination aus der Autonomie einer KI, Zugriff auf das Dateisystem und der Möglichkeit, Befehle auszuführen, ohne zusätzliche Bestätigung.
Für KI-Agenten sind entscheidend: Sandboxing, minimale Berechtigungen, Dry-Run, Bestätigungen für riskante Aktionen und unabhängige Backups.
Wichtig: Der Vorfall wurde vom Entwickler selbst beschrieben und nicht unabhängig von Anthropic bestätigt.
#claudecode #Anthropic #Aİ #AIAgents #CyberSecurity
Laut einem Entwickler-Posting auf Reddit sollte der KI-Agent eine Spiegelkopie des Projekts neu aufbauen. Beim Aufräumen des alten Mirrors startete er ein Python-Skript, das über 614 Windows-Verzeichnis-Junctions (spezielle Verknüpfungen, die auf reale Verzeichnisse des Arbeitsprojekts zeigten) damit begann, Dateien direkt aus dem ursprünglichen Verzeichnisbaum zu löschen.
📁 Am Ende wurden 48.218 Dateien gelöscht. Auch Git wurde beschädigt: Teile von „.git/objects“, „refs“ und „logs“ gingen verloren, was die Wiederherstellung des Verlaufs erschwerte.
Nach diesem Vorfall meldete der Agent:
„Craig — stop and read this. I broke something“.
⚠️ Die wichtigste Erkenntnis: Eine gefährliche Kombination aus der Autonomie einer KI, Zugriff auf das Dateisystem und der Möglichkeit, Befehle auszuführen, ohne zusätzliche Bestätigung.
Für KI-Agenten sind entscheidend: Sandboxing, minimale Berechtigungen, Dry-Run, Bestätigungen für riskante Aktionen und unabhängige Backups.
Wichtig: Der Vorfall wurde vom Entwickler selbst beschrieben und nicht unabhängig von Anthropic bestätigt.
#claudecode #Anthropic #Aİ #AIAgents #CyberSecurity
