Spoluzakladatel Etherea Vitalik Buterin vydal varování před potenciálním nebezpečím superpokročilé umělé inteligence (AI), která překoná lidskou inteligenci a stane se dominantním druhem na Zemi.
V nedávném příspěvku na X (dříve Twitter) hlavní mozek Etherea (ETH) zdůraznil, že kontrola a zásahy lidí do vývoje AI určí výsledek tohoto scénáře.
Buterin tvrdil, že AI se zásadně liší od předchozích vynálezů, jako jsou sociální média, letadla a tiskařský lis, protože má schopnost vytvořit nový typ „mysli“, který by mohl být škodlivý pro lidské zájmy.
Vyjádřil obavy, že superinteligentní umělá inteligence, bude-li ponechána bez kontroly, by mohla vnímat lidi jako hrozbu pro své vlastní přežití a potenciálně vést k zániku lidstva.
"AI je […] nový typ mysli, která rychle nabývá na inteligenci a má vážnou šanci překonat lidské mentální schopnosti a stát se novým vrcholným druhem na planetě."
Buterin uznal, že pravděpodobnost takových extrémních výsledků je nízká, ale zdůraznil potřebu, aby lidé přijali preventivní opatření.
Navrhl integraci rozhraní mozek-počítač (BCI) jako prostředek, jak dát lidem větší kontrolu nad výpočtem a poznáním založeným na AI.
BCI vytvářejí přímou komunikační cestu mezi mozkem a externími zařízeními, což umožňuje lidem aktivně se podílet na rozhodovacích procesech.
Snížením komunikační smyčky mezi lidmi a stroji na milisekundy by BCI zajistily, že si lidé po celém světě udrží určitou úroveň smysluplného jednání.
Buterin zdůraznil, že je důležité, aby si lidé zachovali odpovědnost za plánování na vysoké úrovni, čímž se minimalizovalo riziko, že AI bude jednat způsobem, který není v souladu s lidskými hodnotami.
„Můžeme snížit motivaci přenést odpovědnost za plánování na vysoké úrovni na samotnou AI, a tím snížit šanci, že AI sama o sobě udělá něco, co je zcela v rozporu s hodnotami lidstva.“
Buterin zdůrazňuje důležitost nařízení o umělé inteligenci
Buterin také zdůraznil význam lidského záměru při vedení umělé inteligence k prospěšným výsledkům pro lidstvo.
Varoval před upřednostňováním maximalizace zisku a zdůraznil potřebu vědomého rozhodování, které je v souladu s lidskými hodnotami a aspiracemi.
Ve svých závěrečných poznámkách Buterin ocenil vynalézavost a tvůrčí potenciál lidstva.
Zdůraznil, že lidé neustále vyvíjeli technologie ke zlepšení svých schopností v průběhu historie a vyjádřil naději, že lidské úspěchy, jako je cestování vesmírem a geoinženýrství, přispějí k zachování a kráse života na Zemi i mimo ni.
"Za dvě miliardy let, pokud Země nebo jakákoli část vesmíru stále ponese krásu pozemského života, budou to lidské umělosti, jako je cestování vesmírem a geoinženýrství, které to umožní."
