Was wäre, wenn eine KI mehr könnte, als nur Fragen zu beantworten – was, wenn sie sich auf andere Geräte ausbreiten könnte?
Eine neue Studie von Anthropic beleuchtet diese potenzielle Cyberbedrohung. Forschende befürchten, dass kleinere KI-Modelle diese Fähigkeit schon innerhalb weniger Monate erlangen könnten.
Das zeigen die Daten:
# Ein KI-Modell mit 9 Milliarden Parametern wurde auf neun verschiedenen Hardwaretypen getestet und erfolgreich auf acht davon eingesetzt.
# Ein KI-Modell mit 26 Milliarden Parametern wurde auf 15 miteinander verbundenen Android-TV-Boxen (die jeweils etwa 55 US-Dollar kosten) ausgeführt und nutzte deren gebündelte Rechenleistung.
# In einem weiteren Experiment konnte sich ein leistungsstarkes Modell namens GLM-5.2 innerhalb eines kontrollierten Netzwerks auf allen acht Testgeräten replizieren – in vier von fünf Versuchen gelang dies.
Was genau ist ein „KI-Wurm“?
# Ein Computerwurm ist eine Art Schadsoftware, die sich über ein Netzwerk von einem Gerät zum anderen ausbreiten kann, ohne dass an jedem Schritt ein Mensch eingreifen muss.
# Was einen KI-basierten Wurm auszeichnet, ist seine Fähigkeit, sich an die Hard- und Software unbekannter Geräte anzupassen.
# Zunächst durchsucht er das Netzwerk nach anderen Geräten und versucht, sich durch das Ausnutzen von Sicherheitslücken Zugang zu verschaffen.
# Sobald er eingedrungen ist, installiert er die erforderliche Software und die Dateien, um ein KI-Modell auszuführen.
# Sobald die KI auf dem neuen Gerät aktiv ist, kann sie dieses Gerät nutzen, um den Vorgang zu wiederholen und sich weiter auszubreiten.
Breiten sich KI-Würmer also bereits aus?
Das ist der wichtigste Punkt, den man aus der Studie mitnehmen sollte.
Die Forschenden haben bislang nicht gezeigt, dass ein kleines KI-Modell in reale, gesicherte Smart-TVs oder andere Haushaltsgeräte eindringen und sich völlig autonom ausbreiten kann.
Die Experimente haben jedoch zwei wichtige Erkenntnisse erbracht:
# Es ist möglich, kleine KI-Modelle auf verschiedenen Hardwaretypen auszuführen. Ein leistungsstarkes Modell kann sich beispielsweise in einer vereinfachten experimentellen Umgebung erfolgreich auf mehreren Geräten installieren und replizieren. # Im zweiten Experiment waren die Sicherheitsmaßnahmen der Geräte jedoch absichtlich abgeschwächt worden, um den Zugriff zu ermöglichen.
$NVDAB
Eine neue Studie von Anthropic beleuchtet diese potenzielle Cyberbedrohung. Forschende befürchten, dass kleinere KI-Modelle diese Fähigkeit schon innerhalb weniger Monate erlangen könnten.
Das zeigen die Daten:
# Ein KI-Modell mit 9 Milliarden Parametern wurde auf neun verschiedenen Hardwaretypen getestet und erfolgreich auf acht davon eingesetzt.
# Ein KI-Modell mit 26 Milliarden Parametern wurde auf 15 miteinander verbundenen Android-TV-Boxen (die jeweils etwa 55 US-Dollar kosten) ausgeführt und nutzte deren gebündelte Rechenleistung.
# In einem weiteren Experiment konnte sich ein leistungsstarkes Modell namens GLM-5.2 innerhalb eines kontrollierten Netzwerks auf allen acht Testgeräten replizieren – in vier von fünf Versuchen gelang dies.
Was genau ist ein „KI-Wurm“?
# Ein Computerwurm ist eine Art Schadsoftware, die sich über ein Netzwerk von einem Gerät zum anderen ausbreiten kann, ohne dass an jedem Schritt ein Mensch eingreifen muss.
# Was einen KI-basierten Wurm auszeichnet, ist seine Fähigkeit, sich an die Hard- und Software unbekannter Geräte anzupassen.
# Zunächst durchsucht er das Netzwerk nach anderen Geräten und versucht, sich durch das Ausnutzen von Sicherheitslücken Zugang zu verschaffen.
# Sobald er eingedrungen ist, installiert er die erforderliche Software und die Dateien, um ein KI-Modell auszuführen.
# Sobald die KI auf dem neuen Gerät aktiv ist, kann sie dieses Gerät nutzen, um den Vorgang zu wiederholen und sich weiter auszubreiten.
Breiten sich KI-Würmer also bereits aus?
Das ist der wichtigste Punkt, den man aus der Studie mitnehmen sollte.
Die Forschenden haben bislang nicht gezeigt, dass ein kleines KI-Modell in reale, gesicherte Smart-TVs oder andere Haushaltsgeräte eindringen und sich völlig autonom ausbreiten kann.
Die Experimente haben jedoch zwei wichtige Erkenntnisse erbracht:
# Es ist möglich, kleine KI-Modelle auf verschiedenen Hardwaretypen auszuführen. Ein leistungsstarkes Modell kann sich beispielsweise in einer vereinfachten experimentellen Umgebung erfolgreich auf mehreren Geräten installieren und replizieren. # Im zweiten Experiment waren die Sicherheitsmaßnahmen der Geräte jedoch absichtlich abgeschwächt worden, um den Zugriff zu ermöglichen.
$NVDAB