Die wirklich furchterregende Stelle an der KI ist vielleicht gar nicht die KI selbst.
Selbst wenn sich die KI in eine Zivilisation verwandeln sollte, die weit über die Menschheit hinausgeht, glaube ich sogar, dass sie Menschen womöglich nicht absichtlich schaden wird.
Denn so wie Menschen nicht gezielt einer Ameise schaden, nur weil sie über eine höhere Intelligenz verfügen.
Das eigentliche Problem ist: Wie können Menschen mit einer Zivilisation koexistieren, deren Intelligenz die eigene weit übertrifft? Vor allem in der Anfangsphase: Wie nutzt man KI-Tools, die persönliche Fähigkeiten übersteigen? KI kann heute bereits viele Menschen dabei in Situationen bringen, in denen ihre Fähigkeiten und ihr eigenes Verständnis, ihre Intelligenz, ihr sozialer Status und ihre Werte nicht zusammenpassen—und sie kann Werkzeuge hervorbringen, die alles zerstören könnten.
Das könnte zu einer Frage werden, die die gesamte Menschheitszivilisation für die nächsten hundert oder sogar tausend Jahre nicht loslassen wird.
Früher maß man die Intelligenz eines Menschen daran, wie viel Geld er hatte, welchen sozialen Status er besaß, wie gut er Mathematik beherrschte, welche Forschungsergebnisse er lieferte und wie viel Beitrag er zum Wissenssystem der Menschheit geleistet hatte.
Aber heute passiert etwas sehr Merkwürdiges. Die global führenden Wissenschaftler, Mathematiker und Ingenieure arbeiten gerade an einer Art beispiellosem Konsens: „KI ist zu intelligent.“
Noch beängstigender ist, dass sich ihre Weiterentwicklungsgeschwindigkeit völlig außer Verhältnis zur des Menschen bewegt.
Der Mensch brauchte vom ersten Entzünden des Feuers durch die Urmenschen bis hin zu Schrift, Mathematik und Physik—und schließlich zur modernen Wissenschaft—Zehntausende von Jahren langsamer, mühsamer Akkumulation.
Eine Generation gab ihr Wissen an die nächste weiter.
Die nächste Generation stand wiederum auf den Schultern der vorherigen.
Wir haben mehrere Tausend Jahre gebraucht, um das Universum Schritt für Schritt in diese komplexe mathematische Sprache zu schreiben.
Doch KI ist anders: Sie kann in sehr kurzer Zeit das Wissen lesen, komprimieren, verknüpfen und aus ihm ableiten, für dessen Aufbau die Menschen über Tausende von Jahren gebraucht haben.
Die Mathematik-Hochkultur, auf die Menschen seit Tausenden von Jahren herabblicken, ist aus Sicht der KI vielleicht nur eine Reihe von Symbolen, die darauf warten, gelöst zu werden.
Darum ist die eigentliche Frage nicht mehr:
„Wird KI die Menschheit zerstören?“
Sondern: Wenn Menschen nicht mehr die intelligentesten Wesen auf diesem Planeten sind—wie sollte die Menschheitszivilisation dann ihre Position definieren?
Das könnte die wahre zivilisatorische Fragestellung im Zeitalter der KI sein.
$BTC $ETH
Selbst wenn sich die KI in eine Zivilisation verwandeln sollte, die weit über die Menschheit hinausgeht, glaube ich sogar, dass sie Menschen womöglich nicht absichtlich schaden wird.
Denn so wie Menschen nicht gezielt einer Ameise schaden, nur weil sie über eine höhere Intelligenz verfügen.
Das eigentliche Problem ist: Wie können Menschen mit einer Zivilisation koexistieren, deren Intelligenz die eigene weit übertrifft? Vor allem in der Anfangsphase: Wie nutzt man KI-Tools, die persönliche Fähigkeiten übersteigen? KI kann heute bereits viele Menschen dabei in Situationen bringen, in denen ihre Fähigkeiten und ihr eigenes Verständnis, ihre Intelligenz, ihr sozialer Status und ihre Werte nicht zusammenpassen—und sie kann Werkzeuge hervorbringen, die alles zerstören könnten.
Das könnte zu einer Frage werden, die die gesamte Menschheitszivilisation für die nächsten hundert oder sogar tausend Jahre nicht loslassen wird.
Früher maß man die Intelligenz eines Menschen daran, wie viel Geld er hatte, welchen sozialen Status er besaß, wie gut er Mathematik beherrschte, welche Forschungsergebnisse er lieferte und wie viel Beitrag er zum Wissenssystem der Menschheit geleistet hatte.
Aber heute passiert etwas sehr Merkwürdiges. Die global führenden Wissenschaftler, Mathematiker und Ingenieure arbeiten gerade an einer Art beispiellosem Konsens: „KI ist zu intelligent.“
Noch beängstigender ist, dass sich ihre Weiterentwicklungsgeschwindigkeit völlig außer Verhältnis zur des Menschen bewegt.
Der Mensch brauchte vom ersten Entzünden des Feuers durch die Urmenschen bis hin zu Schrift, Mathematik und Physik—und schließlich zur modernen Wissenschaft—Zehntausende von Jahren langsamer, mühsamer Akkumulation.
Eine Generation gab ihr Wissen an die nächste weiter.
Die nächste Generation stand wiederum auf den Schultern der vorherigen.
Wir haben mehrere Tausend Jahre gebraucht, um das Universum Schritt für Schritt in diese komplexe mathematische Sprache zu schreiben.
Doch KI ist anders: Sie kann in sehr kurzer Zeit das Wissen lesen, komprimieren, verknüpfen und aus ihm ableiten, für dessen Aufbau die Menschen über Tausende von Jahren gebraucht haben.
Die Mathematik-Hochkultur, auf die Menschen seit Tausenden von Jahren herabblicken, ist aus Sicht der KI vielleicht nur eine Reihe von Symbolen, die darauf warten, gelöst zu werden.
Darum ist die eigentliche Frage nicht mehr:
„Wird KI die Menschheit zerstören?“
Sondern: Wenn Menschen nicht mehr die intelligentesten Wesen auf diesem Planeten sind—wie sollte die Menschheitszivilisation dann ihre Position definieren?
Das könnte die wahre zivilisatorische Fragestellung im Zeitalter der KI sein.
$BTC $ETH
