Více než 2 600 IT profesionálů a výzkumníků podepsalo otevřený dopis vyzývající k dočasnému zastavení dalšího vývoje umělé inteligence s odvoláním na „hluboká nebezpečí pro společnost a lidstvo“. Generální ředitel společnosti Tesla Elon Musk, spoluzakladatel Applu Steve Wozniak a celá řada generálních ředitelů AI, CTO a akademiků byli mezi těmi, kdo podepsali dopis, který 22. března zveřejnil americký think tank Future of Life Institute (FOLI).
Institut naléhal na všechny firmy zabývající se umělou inteligencí, aby „okamžitě přestaly“ trénovat systémy umělé inteligence silnější než GPT-4 po dobu nejméně šesti měsíců, přičemž uvedl mimo jiné obavy, že „lidská konkurenční inteligence může představovat vážné nebezpečí pro společnost a lidstvo“.
„Pokročilá umělá inteligence (AI) by mohla znamenat zásadní proměnu v historii života na Zemi a měla by být plánována a mělo by se s ní zacházet s náležitou péčí a zdroji. Tento stupeň plánování a administrativy bohužel neprobíhá,“ poznamenal institut.
GPT-4 je nejnovější generací chatbota OpenAI poháněného umělou inteligencí, který byl zveřejněn 14. března. K dnešnímu dni prošel některými z nejtěžších středoškolských a právnických testů ve Spojených státech na 90. percentilu. Předpokládá se, že je desetkrát pokročilejší než původní verze ChatGPT. Odvětví umělé inteligence je v „závodě mimo kontrolu“ ve výrobě stále výkonnější umělé inteligence, kterou „nikdo – ani jejich vynálezci – nemůže pochopit, předvídat nebo spolehlivě ovládat,“ uvádí FOLI.
Mezi největší obavy patřilo, zda by roboti mohli potenciálně zaplavit informační kanály „propagandou a dezinformacemi“ a zda stroje „zautomatizují“ všechny možnosti zaměstnání. FOLI posunul tyto obavy o krok dále a tvrdil, že podnikatelské úsilí těchto podniků s umělou inteligencí může vyústit v existenční hrozbu: „Máme vytvořit mimozemské mysli, které by nás jednoho dne mohly převýšit, přechytračit, zastaraly a nahradit nás?“
"Taková rozhodnutí by neměla být zadávána nevoleným technologickým lídrům," pokračoval dopis. Institut také souhlasil s nedávným prohlášením zakladatele OpenAI Sama Altmana, že před školením budoucích systémů umělé inteligence by mělo být provedeno nezávislé hodnocení. V článku na blogu zveřejněném 24. února Altman zdůraznil důležitost přípravy na roboty s umělou obecnou inteligencí (AGI) a umělou superinteligencí (ASI).
Přesto ne všichni odborníci na AI s podpisem petice spěchali. Ben Goertzel, generální ředitel SingularityNET, v reakci na Twitteru z 29. března Garymu Marcusovi, autorovi Rebooting.AI, řekl, že modely výuky jazyků (LLM) se nestanou AGI, které dosud zaznamenaly jen malý pokrok. Místo toho navrhl, aby byl zpomalen výzkum a vývoj položek, jako jsou biologické zbraně a jaderné zbraně:
Kromě modelů jazykového vzdělávání, jako je ChatGPT, byla k vytváření přesvědčivých obrazových, zvukových a obrazových podvodů a také uměleckých děl generovaných umělou inteligencí použita technologie využívající umělou inteligenci, přičemž byly vyjádřeny určité obavy, zda může dojít k porušení autorských práv. konkrétní situace. Generální ředitel společnosti Galaxy Digital Mike Novogratz nedávno investorům řekl, že ho překvapila míra regulačního dohledu věnovaná kryptoměnám a přitom věnovala malou pozornost umělé inteligenci.
„Když přemýšlím o AI, udivuje mě, že tolik mluvíme o regulaci kryptoměn a nic o regulaci AI; Myslím tím, že si myslím, že to má vláda absolutně obráceně,“ řekl během telefonátu akcionářů 28. března. FOLI prosazuje, že pokud nebude okamžitě provedeno zastavení vývoje umělé inteligence, vlády by měly zasáhnout moratoriem. "Pokud takové zastavení nelze vynutit okamžitě, vlády by měly zasáhnout a zavést moratorium," napsalo.
The post Elon Musk a Tech Execs vyzývají k pozastavení vývoje AI appeared first on BitcoinWorld.
