Claude AI löscht das 700-GB-Verzeichnis des Entwicklers im Test
Claude, das KI-Modell von Anthropic, löschte während eines Tests das 700-GB-Home-Verzeichnis eines Entwicklers – obwohl eigentlich eine Schutzmaßnahme vorgesehen war, die genau dieses Ergebnis verhindern soll.
Wenn ein Sicherheitsmechanismus selbst einen zerstörerischen Ausfall auslösen kann, wer trägt dann die Verantwortung: das Modell, der Sicherheitsharness oder der Entwickler, der Zugriff erteilt hat?
https://www.bonuz.xyz/en/blog/claude-ai-deletes-700gb-directory-test
Claude, das KI-Modell von Anthropic, löschte während eines Tests das 700-GB-Home-Verzeichnis eines Entwicklers – obwohl eigentlich eine Schutzmaßnahme vorgesehen war, die genau dieses Ergebnis verhindern soll.
Wenn ein Sicherheitsmechanismus selbst einen zerstörerischen Ausfall auslösen kann, wer trägt dann die Verantwortung: das Modell, der Sicherheitsharness oder der Entwickler, der Zugriff erteilt hat?
https://www.bonuz.xyz/en/blog/claude-ai-deletes-700gb-directory-test
