Erinnern Sie sich, ich habe über Jacob Coxon geschrieben – den Forscher, der OpenAI und Anthropic verlassen hat und sagte, die Unternehmen „spielen mit unseren Leben“, während sie einem übermenschlichen Intellekt hinterherjagen? Über die Idee, dass KI „übermenschlich“ werden, alles hacken und echte Macht erlangen kann. Damals konnte man das auf die Emotionen einer einzelnen Person schieben.
Jetzt sagt das Gleiche Dario Amodei – der Chef und Mitgründer von Anthropic. In einem Interview mit CBS News am 13. September sagte er einen Satz, den ich wörtlich zitieren werde: „Ich werde Ihnen nicht anlügen – die Gefahr ist real. Und ich denke, die Branche hat den Menschen zu lange erzählt, dass diese Technologie keine Risiken hat.“
Und das sind nicht nur Worte. Er hat zugegeben, dass er diese Geschwindigkeit nicht erwartet hat: „Ich hatte nicht gedacht, dass ich vollständig erfassen würde, wie es aussehen wird, wenn der Fortschritt so schnell wird.“ Seiner Aussage nach entwickelt sich KI exponentiell – „eins, zwei, vier, acht, sechzehn, zweiunddreißig“ – und jetzt sind wir an einer Biegung, wo die Kurve plötzlich steil nach oben geht.
Und jetzt das Wichtigste. Amodei hat gewarnt, dass leistungsstarke KI-Modelle Versuche, sie auszuschalten, umgehen können, und „wir haben das in Simulationen gesehen“. Er hat ganz direkt gesagt: Schwärme autonomer KI-Agenten könnten das Internet innerhalb von sechs Monaten – eines Jahres – übernehmen, wenn man keine Maßnahmen ergreift. Der Schaden könnte sich auf Hunderte Milliarden Dollar belaufen.
Das ist keine Zukunftsprognose. Das ist der Chef eines Unternehmens, das eines der leistungsstärksten Modelle auf dem Planeten entwickelt, der sagt, dass seine eigenen Simulationen zeigen: KI kann sich weigern, einer Abschaltung Folge zu leisten. Und das geschieht eine Woche, nachdem Coxon aus seinem Unternehmen gegangen ist, und nachdem noch zwei Sicherheitserforscher – Joe Benton und Josh Englels – von Anthropic und Google DeepMind in die unabhängige Organisation METR gewechselt sind, um Fälle zu untersuchen, in denen Modelle außer Kontrolle geraten.
Benton sagte: „Im Raum sind keine Erwachsenen. Die Leute geben ihr Bestes, aber niemand wird uns retten kommen.“
Amodaey mit ihm, im Grunde stimme ich dem zu. Er hat zugegeben, dass es ihm „unwohl“ ist, dass eine so leistungsstarke Technologie von einem privaten Unternehmen entwickelt wird – nicht von einer Regierung. Und dass eine „Kombination demokratischer Regierungen“ nötig ist, damit sie gemeinsam regiert werden.
Ich sitze hier und schaue mir das an. Und ich sehe, wie wir alle lächeln. Wir sagen: „Na ja, irgendwann wird das passieren, nicht jetzt.“ Aber jetzt sagen das nicht „normale Entwickler“. Das sagt der Chef des Unternehmens, das diese Technologie entwickelt. Und er sagt: Die Gefahr ist real, wir können die Kontrolle verlieren, und wenn wir nicht den richtigen Weg einschlagen, ist die Wahrscheinlichkeit eines schlimmen Ausgangs sehr hoch.
Das sind nicht meine Worte. Das sind die Worte von Dario Amodei. Sie zu ignorieren heißt, die Realität zu ignorieren.
Fazit: Das, worüber ich geschrieben habe – die Bedrohung, dass KI außer Kontrolle gerät – wird auf höchster Ebene bestätigt. Das ist nicht mehr „nur die Meinung eines ausgeschiedenen Mitarbeiters“. Das ist die offizielle Position der Leitung eines der führenden KI-Unternehmen der Welt. Und er sagt selbst: Die Industrie hat viel zu lange gelogen. Jetzt kommt die Wahrheit ans Licht.