Współzałożyciel Ethereum, Vitalik Buterin, wydał ostrzeżenie przed potencjalnymi zagrożeniami, jakie stwarza superzaawansowana sztuczna inteligencja (AI), która przewyższa ludzką inteligencję i staje się gatunkiem dominującym na Ziemi.
W niedawnym poście na X (dawniej Twitterze) twórca Ethereum (ETH) podkreślił, że kontrola i interwencja człowieka w rozwój sztucznej inteligencji zadecyduje o wyniku tego scenariusza.
Buterin argumentował, że sztuczna inteligencja zasadniczo różni się od poprzednich wynalazków, takich jak media społecznościowe, samoloty i prasa drukarska, ponieważ ma zdolność tworzenia nowego typu „umysłu”, który może szkodzić ludzkim interesom.
Wyraził zaniepokojenie, że superinteligentna sztuczna inteligencja, jeśli nie zostanie kontrolowana, może postrzegać ludzi jako zagrożenie dla własnego przetrwania i potencjalnie prowadzić do wyginięcia ludzkości.
„Sztuczna inteligencja to […] nowy typ umysłu, który szybko zyskuje na inteligencji i ma poważną szansę prześcignąć ludzkie zdolności umysłowe i stać się nowym gatunkiem szczytowym na planecie”.
Buterin, przyznając, że prawdopodobieństwo wystąpienia tak ekstremalnych skutków jest niskie, podkreślił potrzebę podjęcia przez ludzi środków ostrożności.
Zaproponował integrację interfejsów mózg-komputer (BCI) jako sposób na zapewnienie ludziom większej kontroli nad obliczeniami i funkcjami poznawczymi opartymi na sztucznej inteligencji.
BCI ustanawiają bezpośrednią ścieżkę komunikacji między mózgiem a urządzeniami zewnętrznymi, umożliwiając ludziom aktywne uczestnictwo w procesach decyzyjnych.
Redukując pętlę komunikacyjną między ludźmi i maszynami do milisekund, BCI zapewnią, że ludzie zachowają poziom znaczącej sprawczości na całym świecie.
Buterin podkreślił, jak ważne jest, aby ludzie ponosili odpowiedzialność za planowanie na wysokim szczeblu, minimalizując w ten sposób ryzyko, że sztuczna inteligencja będzie działać w sposób niezgodny z ludzkimi wartościami.
„Możemy [możemy] zmniejszyć motywację do przeniesienia odpowiedzialności za planowanie wysokiego szczebla na samą sztuczną inteligencję, a tym samym zmniejszyć ryzyko, że sztuczna inteligencja samodzielnie zrobi coś całkowicie niezgodnego z wartościami ludzkości”.
Buterin podkreśla znaczenie rozporządzenia w sprawie sztucznej inteligencji
Buterin podkreślił również znaczenie ludzkich intencji w kierowaniu sztuczną inteligencją w kierunku korzystnych wyników dla ludzkości.
Przestrzegł przed nadawaniem priorytetu maksymalizacji zysków, podkreślając potrzebę świadomego podejmowania decyzji zgodnych z ludzkimi wartościami i aspiracjami.
W swoich uwagach końcowych Buterin pochwalił pomysłowość i potencjał twórczy ludzkości.
Podkreślił, że na przestrzeni dziejów ludzkość nieustannie rozwijała technologię zwiększającą swoje możliwości i wyraził nadzieję, że osiągnięcia człowieka, takie jak podróże kosmiczne i geoinżynieria, przyczynią się do zachowania i piękna życia na Ziemi i poza nią.
„Jeśli za dwa miliardy lat Ziemia lub jakakolwiek część wszechświata nadal będzie nosiła piękno ziemskiego życia, stanie się to dzięki ludzkim sztuczkom, takim jak podróże kosmiczne i geoinżynieria”.
