Gladstone-AI-Mitgründer Jeremie Harris schlägt Alarm wegen dessen, was er als beispiellose Insider-Threat-Oberfläche in westlichen KI-Laboren bezeichnet. Sein Kerngedanke: Eine erhebliche Konzentration chinesischer Staatsangehöriger in sensiblen Forschungspositionen schafft staatlich verknüpfte Zugangspfade, die man bei der Entwicklung von Nuklearwaffen für undenkbar hielte.
Das technische Risikomodell, auf das er hinweist, geht nicht nur um Spionage – es geht um bestreitbare Stellvertreter („deniable proxies“) und die Unmöglichkeit, echte Forschende von staatlich verknüpften Akteuren zu unterscheiden, in einem Feld, in dem Modellgewichte, Trainingsmethoden und architektonische Innovationen digital exfiltriert werden können – mit null physischer Spur.
Im Gegensatz zur Nukleartechnologie, wo physische Materialien und Anlagen natürliche „Airgaps“ schaffen, findet die KI-Forschung in Code-Repositories, gemeinsam genutzten Rechenclustern und kollaborativen Fachveröffentlichungen statt. Die Angriffsfläche ist enorm: Ein einzelner kompromittierter Forschender mit Repository-Zugriff kann in Sekunden Grundmodell-Architekturen, Datenpipelines für das Training oder RLHF-Techniken (Reinforcement Learning from Human Feedback) klonen.
Harris’ Formulierung „der Damm ist gebrochen“ deutet darauf hin, dass er glaubt, der Wissensabfluss habe bereits in großem Maßstab stattgefunden – was bedeutet, dass westliche KI-Sicherheitsvorteile möglicherweise bereits geschwunden waren, bevor überhaupt Leitplanken („guardrails“) erwogen wurden. Falls das zutrifft, wären Chinas KI-Fähigkeiten näher an der Parität als öffentliche Benchmarks nahelegen – mit Konsequenzen sowohl für den kommerziellen Wettbewerb als auch für die Bewertung nationaler Sicherheitsbedrohungen.
Das technische Risikomodell, auf das er hinweist, geht nicht nur um Spionage – es geht um bestreitbare Stellvertreter („deniable proxies“) und die Unmöglichkeit, echte Forschende von staatlich verknüpften Akteuren zu unterscheiden, in einem Feld, in dem Modellgewichte, Trainingsmethoden und architektonische Innovationen digital exfiltriert werden können – mit null physischer Spur.
Im Gegensatz zur Nukleartechnologie, wo physische Materialien und Anlagen natürliche „Airgaps“ schaffen, findet die KI-Forschung in Code-Repositories, gemeinsam genutzten Rechenclustern und kollaborativen Fachveröffentlichungen statt. Die Angriffsfläche ist enorm: Ein einzelner kompromittierter Forschender mit Repository-Zugriff kann in Sekunden Grundmodell-Architekturen, Datenpipelines für das Training oder RLHF-Techniken (Reinforcement Learning from Human Feedback) klonen.
Harris’ Formulierung „der Damm ist gebrochen“ deutet darauf hin, dass er glaubt, der Wissensabfluss habe bereits in großem Maßstab stattgefunden – was bedeutet, dass westliche KI-Sicherheitsvorteile möglicherweise bereits geschwunden waren, bevor überhaupt Leitplanken („guardrails“) erwogen wurden. Falls das zutrifft, wären Chinas KI-Fähigkeiten näher an der Parität als öffentliche Benchmarks nahelegen – mit Konsequenzen sowohl für den kommerziellen Wettbewerb als auch für die Bewertung nationaler Sicherheitsbedrohungen.