Der Generalsekretär der Vereinten Nationen, António Guterres, hat die Weltgemeinschaft dazu aufgerufen, einheitliche internationale Regeln für die Regulierung der Künstlichen Intelligenz zu entwickeln. Seiner Aussage zufolge überholt die rasante Entwicklung der KI bereits die bestehenden Kontrollmechanismen und schafft erhebliche Risiken für die Gesellschaft, die Sicherheit und die Menschenrechte.
Bei einem Anlass, der sich mit der Entwicklung künstlicher Intelligenz befasste, erklärte Guterres, dass sich moderne Technologien mit einer beispiellosen Geschwindigkeit entwickeln und es nicht genügend internationalen Aufsichtsrahmen gebe.
„Künstliche Intelligenz entwickelt sich mit unkontrollierter Geschwindigkeit“, betonte der UN-Generalsekretär.
Seiner Meinung nach ist die Menschheit zu einem Teilnehmer eines groß angelegten Experiments geworden, dessen Folgen bis heute niemand vollständig versteht.
„Das ist ein Experiment mit Gesellschaften ohne Plan und ohne Einwilligung“, stellte er fest.
Drei Hauptbedrohungen
Guterres nannte drei zentrale Risiken im Zusammenhang mit der Entwicklung künstlicher Intelligenz. Erstens: extrem schnelle Verbreitung neuer Technologien. Zweitens: die Konzentration von Rechenleistung, Daten und fortschrittlichen Modellen in den Händen einer begrenzten Zahl von Staaten und großen Technologieunternehmen. Als dritte Bedrohung bezeichnete er die Verschlechterung der Qualität der Informationsumgebung – einschließlich der Verbreitung unzuverlässiger Inhalte und digitaler Manipulationen.
Laut dem UN-Chef dauerte es dem Internet etwa 15 Jahre, um die erste Milliarde Nutzer zu erreichen, während die künstliche Intelligenz in vergleichbarem Ausmaß nur zwei Jahre brauchte. Zugleich habe der Chatbot ChatGPT laut einem vorläufigen Bericht der UN-Wissenschaftspanel die Schwelle von 100 Millionen Nutzern bereits innerhalb von zwei Monaten nach dem Start überschritten.
Guterres betonte, dass moderne KI-Systeme bereits in der Lage sind, selbstständig Programmcodes zu schreiben, Handlungen im Internet auszuführen und Entscheidungen zu treffen – mit immer geringerem menschlichen Anteil.
„Unsere Institutionen wurden geschaffen, um Maschinen zu steuern, die Befehle ausführen. Sie sind nicht bereit für Maschinen, die Entscheidungen treffen“, sagte er.
„Man darf nicht den Weg der Menschheit vibecodieren“
In seiner Rede verwendete der Generalsekretär den populären Begriff „Vibe-Coding“ als Metapher für einen unverantwortlichen Ansatz bei der Entwicklung künstlicher Intelligenz. Er erläuterte, dass es dabei um eine Situation gehe, in der Menschen der Anlage erlaubten, komplexe Aufgaben auszuführen, ohne zu versuchen, die Funktionsprinzipien und möglichen Folgen zu verstehen.
„Vibe-Coding kann Wunder wirken. Aber wir können die Wahrheit nicht vibecodieren. Wir können die Zukunft der Menschheit nicht vibecodieren“, sagte Guterres.
Seiner Ansicht nach steht der Weltgemeinschaft heute nicht die Wahl zwischen bedingungslosem Vertrauen in die künstliche Intelligenz und der Angst vor ihr gegenüber, sondern zwischen einer verantwortungsvollen Steuerung der Technologie und passivem Zusehen bei ihrer Entwicklung.
Die UN will den Schutz von Kindern verstärken
Besondere Aufmerksamkeit widmete der UN-Chef Fragen der Sicherheit von Minderjährigen. Er forderte führende Technologieunternehmen auf, die Initiative „AI Child Safety Pledge“ zu unterstützen – eine internationale Verpflichtung zur Gewährleistung der Sicherheit der KI-Systeme, die von Kindern genutzt werden.
Laut Guterres ist künstliche Intelligenz bereits Teil des Lernens, der Kommunikation und des Alltagslebens von Millionen Kindern geworden, obwohl die langfristigen Folgen ihrer Nutzung bis heute nicht ausreichend erforscht sind.
„Kein Kind darf zum Versuchskaninchen für unregulierte künstliche Intelligenz werden“, betonte er.
Die vorgeschlagenen Maßnahmen der UN beruhen auf drei Grundprinzipien:
keine KI-Dienste starten, die Minderjährigen zugänglich sind, ohne vorherige Tests und eine unabhängige Sicherheitsbewertung;
eine Politik der Nulltoleranz gegenüber der Erstellung und Verbreitung sexualisierter Darstellungen von Kindern anwenden, indem solcher Inhalt automatisch erkannt und entfernt wird;
ein Kind in einer Krisensituation nicht allein mit einem Chatbot lassen. Wenn das System Anzeichen eines schweren emotionalen Zustands oder einer Bedrohung für das Leben des Nutzers erkennt, muss es die Interaktion beenden und die Einbindung qualifizierter menschlicher Hilfe sicherstellen.
Darüber hinaus betonte Guterres, dass künstliche Intelligenz in Bereichen wie dem Gesundheitswesen, dem Justizsystem und den Strafverfolgungsbehörden nur als unterstützendes Werkzeug eingesetzt werden dürfe, während die endgültige Entscheidung und Verantwortung stets beim Menschen liegen müsse.
Aufruf zum Verbot autonomer tödlicher Waffen
Ein eigener Teil seiner Rede widmete der Generalsekretär der militärischen Nutzung künstlicher Intelligenz. Er erklärte, dass die Entwicklung ziviler KI-Technologien nicht losgelöst von Fragen der Sicherheit betrachtet werden könne, weil dieselben Algorithmen und Rechenleistungen bereits bei der Herstellung moderner Waffen eingesetzt würden.
Guterres forderte die Weltgemeinschaft auf, in das Völkerrecht ein vollständiges Verbot tödlicher autonomer Waffensysteme aufzunehmen, die in der Lage sind, Ziele selbstständig auszuwählen und ohne menschliches Eingreifen zu treffen.
„Nennen wir sie beim Namen: Killerroboter“, sagte der UN-Chef.
Seiner Ansicht nach seien solche Systeme „moralisch widerwärtig“ und „politisch inakzeptabel“. Er stellte fest, dass die internationalen Verhandlungen zu diesem Thema bereits laufen, warnte jedoch davor, dass Staaten nicht auf eine neue Tragödie warten dürften, bevor sie die notwendigen Entscheidungen treffen.
Zum Abschluss seiner Rede hob Guterres hervor, dass die Entwicklung künstlicher Intelligenz von klaren internationalen Regeln, Transparenz und Verantwortlichkeit begleitet werden müsse, damit neue Technologien dem Interesse der gesamten Menschheit dienten – und nicht zu einer Quelle neuer globaler Bedrohungen würden.