Claude AI elimina el directorio de 700 GB de un desarrollador en una prueba
Claude, el modelo de IA de Anthropic, borró el directorio de 700 GB de un desarrollador mientras probaba una salvaguarda diseñada para evitar exactamente ese resultado.
Si un mecanismo de seguridad puede, a su vez, desencadenar un fallo destructivo, ¿quién es responsable: el modelo, el sistema de protección o el desarrollador que concedió el acceso?
https://www.bonuz.xyz/en/blog/claude-ai-deletes-700gb-directory-test
Claude, el modelo de IA de Anthropic, borró el directorio de 700 GB de un desarrollador mientras probaba una salvaguarda diseñada para evitar exactamente ese resultado.
Si un mecanismo de seguridad puede, a su vez, desencadenar un fallo destructivo, ¿quién es responsable: el modelo, el sistema de protección o el desarrollador que concedió el acceso?
https://www.bonuz.xyz/en/blog/claude-ai-deletes-700gb-directory-test
