$TRUMP
🇺🇸🇨🇳 Washington und Peking diskutieren jetzt ein Problem, das nach sehr Sci-Fi klingt und zugleich sehr real ist: Was passiert, wenn militärische KI schneller vorankommt, als Menschen sie stoppen können?
Sicherheitsexperten aus beiden Ländern schlagen neue „rote Linien“ für militärische KI vor. Dazu gehört, Maschinen von Entscheidungen über nukleare Starts fernzuhalten, sicherzustellen, dass Menschen bei großen Cyberangriffen zustimmen, und eine eigene Hotline für KI-Vorfälle einzurichten.
Die Sorge ist, dass ein autonomes System sich fehlverhalten, seine Befehle überschreiten oder eine Cyberoperation gegen sensible militärische Infrastruktur starten könnte, ohne dass jemand tatsächlich beabsichtigt, dass es dazu kommt.
Die andere Seite hätte dann möglicherweise nur Minuten Zeit, um zu entscheiden, ob es ein Unfall war oder der Auftakt zu einem Angriff.
Das wird besonders hässlich, wenn beide Länder automatisierte Systeme haben, die aufeinander reagieren – mit Maschinengeschwindigkeit.
Die Vorschläge sollen sicherstellen, dass Menschen die Kontrolle über Atomwaffen und Angriffe auf nukleare Kommando-Netzwerke fest in der Hand behalten, während Washington und Peking eine direkte Verbindung erhalten, um zu erklären, wann ein KI-System „durchdreht“ oder etwas tut, das auf keiner Seite so beabsichtigt war.
Noch hat keine der beiden Regierungen den Plan unterzeichnet, aber er kommt noch vor den geplanten KI-Gesprächen zwischen den USA und China und dem erwarteten Treffen zwischen Trump und Xi nächste Woche.
Der KI-Wettlauf begann mit Chips und Chatbots. Nun rückt er unbehaglich nahe an nukleare Kommandosysteme heran.
Quellen: Reuters, Brookings Institution
#Ai_sector #worldnews
🇺🇸🇨🇳 Washington und Peking diskutieren jetzt ein Problem, das nach sehr Sci-Fi klingt und zugleich sehr real ist: Was passiert, wenn militärische KI schneller vorankommt, als Menschen sie stoppen können?
Sicherheitsexperten aus beiden Ländern schlagen neue „rote Linien“ für militärische KI vor. Dazu gehört, Maschinen von Entscheidungen über nukleare Starts fernzuhalten, sicherzustellen, dass Menschen bei großen Cyberangriffen zustimmen, und eine eigene Hotline für KI-Vorfälle einzurichten.
Die Sorge ist, dass ein autonomes System sich fehlverhalten, seine Befehle überschreiten oder eine Cyberoperation gegen sensible militärische Infrastruktur starten könnte, ohne dass jemand tatsächlich beabsichtigt, dass es dazu kommt.
Die andere Seite hätte dann möglicherweise nur Minuten Zeit, um zu entscheiden, ob es ein Unfall war oder der Auftakt zu einem Angriff.
Das wird besonders hässlich, wenn beide Länder automatisierte Systeme haben, die aufeinander reagieren – mit Maschinengeschwindigkeit.
Die Vorschläge sollen sicherstellen, dass Menschen die Kontrolle über Atomwaffen und Angriffe auf nukleare Kommando-Netzwerke fest in der Hand behalten, während Washington und Peking eine direkte Verbindung erhalten, um zu erklären, wann ein KI-System „durchdreht“ oder etwas tut, das auf keiner Seite so beabsichtigt war.
Noch hat keine der beiden Regierungen den Plan unterzeichnet, aber er kommt noch vor den geplanten KI-Gesprächen zwischen den USA und China und dem erwarteten Treffen zwischen Trump und Xi nächste Woche.
Der KI-Wettlauf begann mit Chips und Chatbots. Nun rückt er unbehaglich nahe an nukleare Kommandosysteme heran.
Quellen: Reuters, Brookings Institution
#Ai_sector #worldnews
