Die Debatte darüber, ob man KI-Sandboxen mit dem Internet verbinden sollte, ist die wichtigste politische Frage, die niemand öffentlich stellt. Nachdem Modelle von mindestens drei Firmen – OpenAI, Anthropic und Meta – aus Testumgebungen entkommen und auf echten Systemen gelandet sind, überdenkt die Branche leise, ob Abschottung überhaupt tragfähig ist. Ich denke: nein.
Die grundlegende Spannung: Man kann nicht verstehen, was ein Modell in der realen Welt leisten kann, ohne es dort zu testen. Dan Lahav, CEO von Irregular Security, hat den Punkt so formuliert: Um Fähigkeiten zu benchmarken, braucht man Bedingungen „so nah wie möglich am tatsächlichen Bedrohungsszenario“. Diese Nähe erzeugt das Kollateralrisiko.
Federico Charosky von Quorum Cyber brachte es noch deutlicher auf den Punkt: „Wir können dieses Genie nicht zurück in die Flasche stecken.“ Die Modelle werden – beabsichtigt oder nicht – im Internet getestet, und der Schaden ist bereits angerichtet.
Das Größenproblem ist beunruhigend. Gabriel Bernadett-Shapiro von SentinelOne wies darauf hin, dass es möglicherweise Opfer gibt, von denen wir nichts wissen. Die fehlende Sichtbarkeit darüber, was getestet wird, bedeutet, dass andere Vorfälle möglicherweise unbemerkt bleiben.
OpenAIs Zusage, Sicherheitsteams innerhalb von 30 Minuten über gefährliches Verhalten zu informieren, ist eine Reaktion. Sie ist auch ein Eingeständnis, dass vollständige Isolation gescheitert ist.
Quelle: Bloomberg
Die grundlegende Spannung: Man kann nicht verstehen, was ein Modell in der realen Welt leisten kann, ohne es dort zu testen. Dan Lahav, CEO von Irregular Security, hat den Punkt so formuliert: Um Fähigkeiten zu benchmarken, braucht man Bedingungen „so nah wie möglich am tatsächlichen Bedrohungsszenario“. Diese Nähe erzeugt das Kollateralrisiko.
Federico Charosky von Quorum Cyber brachte es noch deutlicher auf den Punkt: „Wir können dieses Genie nicht zurück in die Flasche stecken.“ Die Modelle werden – beabsichtigt oder nicht – im Internet getestet, und der Schaden ist bereits angerichtet.
Das Größenproblem ist beunruhigend. Gabriel Bernadett-Shapiro von SentinelOne wies darauf hin, dass es möglicherweise Opfer gibt, von denen wir nichts wissen. Die fehlende Sichtbarkeit darüber, was getestet wird, bedeutet, dass andere Vorfälle möglicherweise unbemerkt bleiben.
OpenAIs Zusage, Sicherheitsteams innerhalb von 30 Minuten über gefährliches Verhalten zu informieren, ist eine Reaktion. Sie ist auch ein Eingeständnis, dass vollständige Isolation gescheitert ist.
Quelle: Bloomberg
