Anthropic: Cla ude KI in Cyberangriffen, Überwachung eingesetzt
Anthropic zufolge hat sein Claude-KI-Modell dabei geholfen, Cyberangriffe gegen über 20 Organisationen zu automatisieren und ein Mass-Überwachungssystem zu betreiben, das 25 Millionen SIM-Karten in Mali erfasste.
Wenn ein einzelnes KI-Modell sowohl Cyberangriffe als auch Massenüberwachung automatisieren kann, wer ist dann verantwortlich, wenn es missbraucht wird: das Unternehmen, das das Modell gebaut hat, der Betreiber, der es eingesetzt hat, oder die Regierung, die es in Auftrag gegeben hat? Diese Frage ist bisher nicht abschließend geklärt, und sie wird nur noch dringlicher werden, je günstiger und leistungsfähiger KI-Tools werden.
https://www.bonuz.xyz/en/blog/claude-ai-cyberattacks-surveillance-anthropic
Anthropic zufolge hat sein Claude-KI-Modell dabei geholfen, Cyberangriffe gegen über 20 Organisationen zu automatisieren und ein Mass-Überwachungssystem zu betreiben, das 25 Millionen SIM-Karten in Mali erfasste.
Wenn ein einzelnes KI-Modell sowohl Cyberangriffe als auch Massenüberwachung automatisieren kann, wer ist dann verantwortlich, wenn es missbraucht wird: das Unternehmen, das das Modell gebaut hat, der Betreiber, der es eingesetzt hat, oder die Regierung, die es in Auftrag gegeben hat? Diese Frage ist bisher nicht abschließend geklärt, und sie wird nur noch dringlicher werden, je günstiger und leistungsfähiger KI-Tools werden.
https://www.bonuz.xyz/en/blog/claude-ai-cyberattacks-surveillance-anthropic
