Ethereum-Mitbegründer Vitalik Buterin hat vor den potenziellen Gefahren gewarnt, dass eine hochmoderne künstliche Intelligenz (KI) die menschliche Intelligenz übertreffen und zur dominierenden Spezies auf der Erde werden könnte.
In einem aktuellen Post auf X (ehemals Twitter) betonte der Ethereum (ETH)-Mastermind, dass die Kontrolle und Einmischung des Menschen in die KI-Entwicklung den Ausgang dieses Szenarios bestimmen werde.
Buterin argumentierte, dass sich KI grundlegend von früheren Erfindungen wie sozialen Medien, Flugzeugen und der Druckerpresse unterscheidet, da sie die Fähigkeit hat, eine neue Art von „Geist“ zu schaffen, die den menschlichen Interessen schaden könnte.
Er äußerte die Sorge, dass eine superintelligente KI, wenn man sie unkontrolliert lässt, den Menschen als Bedrohung für ihr eigenes Überleben betrachten und möglicherweise zur Ausrottung der Menschheit führen könnte.
„KI ist […] ein neuer Geistestyp, der schnell an Intelligenz gewinnt, und es besteht eine ernsthafte Chance, dass er die geistigen Fähigkeiten des Menschen überholt und zur neuen Spitzenspezies auf dem Planeten wird.“
Buterin räumte zwar ein, dass die Wahrscheinlichkeit solcher extremen Ergebnisse gering sei, betonte jedoch, dass die Menschen Vorsichtsmaßnahmen ergreifen müssten.
Er schlug die Integration von Gehirn-Computer-Schnittstellen (BCI) vor, um dem Menschen mehr Kontrolle über KI-basierte Berechnungen und Wahrnehmung zu geben.
BCIs stellen einen direkten Kommunikationspfad zwischen dem Gehirn und externen Geräten her und ermöglichen dem Menschen so, aktiv an Entscheidungsprozessen teilzunehmen.
Indem sie die Kommunikationsschleife zwischen Mensch und Maschine auf Millisekunden reduzieren, würden BCIs sicherstellen, dass der Mensch ein gewisses Maß an sinnvoller Handlungsfreiheit über die Welt behält.
Buterin betonte, wie wichtig es sei, dass die Menschen weiterhin die Verantwortung für die Planung auf höherer Ebene behielten, um so das Risiko zu minimieren, dass KI-Handlungen nicht mit den menschlichen Werten im Einklang stünden.
„Wir [können] den Anreiz verringern, die Planungsverantwortung auf hoher Ebene an die KI selbst zu delegieren und dadurch die Wahrscheinlichkeit verringern, dass die KI von sich aus etwas tut, das völlig im Widerspruch zu den Werten der Menschheit steht.“
Buterin betont die Bedeutung der KI-Regulierung
Buterin betonte auch die Bedeutung der menschlichen Absicht bei der Ausrichtung der KI auf vorteilhafte Ergebnisse für die Menschheit.
Er warnte davor, der Gewinnmaximierung den Vorrang zu geben und betonte die Notwendigkeit bewusster Entscheidungen, die mit menschlichen Werten und Bestrebungen im Einklang stehen.
In seinem Schlusswort lobte Buterin den Einfallsreichtum und das kreative Potenzial der Menschheit.
Er betonte, dass die Menschen im Laufe der Geschichte kontinuierlich Technologien weiterentwickelt haben, um ihre Fähigkeiten zu verbessern, und äußerte die Hoffnung, dass menschliche Errungenschaften wie die Raumfahrt und das Geoengineering zur Erhaltung und Schönheit des Lebens auf der Erde und darüber hinaus beitragen werden.
„Wenn die Erde oder irgendein anderer Teil des Universums in zwei Milliarden Jahren noch die Schönheit irdischen Lebens aufweisen kann, dann werden menschliche Erfindungen wie die Raumfahrt und Geoengineering dies möglich gemacht haben.“
