🚨 Süni intellekti ələ keçirmə yarışı elə bir şey yaratsa ki, heç kim onu idarə edə bilməsə necə?
Business Insider-ə görə, Donald Tramp və Anthropic-in CEO-su Dario Amodei bu bazar günü şam yeməyi üçün görüşəcəklər. Təfərrüatlı gündəlik ictimaiyyətə açıqlanmayıb.
Amma bu görüş söhbəti chatbotlardan çox-çox kənara aparır: öz imkanlarımızı dəfələrlə aşan bir zəkanı inkişaf etdirsək, nə baş verəcək?
Təsəvvür edin.
Bir qlobal güc hesab edir ki, rəqibi buna çox yaxındır. Riskləri qiymətləndirmək üçün ləngimək geri qalmaq kimi görünür. Şirkətlər sürətləndirməyə təzyiq altında qalır. Təhlükəsizlik yoxlamaları ilk olanı bitirmək yolunda maneəyə çevrilir.
Hər kəs geri qalmaqdan qorxur. Hər kəs irəli itələyir.
Əgər qarşı tərəfin buna çatmayacağını düşünmürlərsə, kim yavaşlamağa cəsarət edər?
Məni narahat edən ssenari budur: qazanmaqın anlamaqdan daha vacib olduğu bir yarış.
Çox yüksək qabiliyyətli süni intellekt tibbi irəliləyişləri sürətləndirə bilər. Lakin təhlükəli formada inkişaf etdirilsə və ya istifadə edilsə, o həm də kiberhücumlara, silahların hazırlanmasına və kütləvi miqyasda manipulyasiyaya imkan yarada bilər.
Bundan əlavə, effektiv nəzarətdən yayaraq avtonom işləsə, nəticələr fəlakətli ola bilər. Ən pis ssenaridə, hətta bəşəriyyətin özü də risk altında ola bilər.
Bu, müzakirə olunan riskdir—qaçılmaz nəticə deyil və ya nəzarətdən çıxmış superintellektin artıq mövcud olduğuna dair sübut deyil.
Həmçinin “insanları sevməyən” bir maşın təsəvvür etməyə də ehtiyac yoxdur. Təhlükəli imkanlar, zəif müəyyən edilmiş məqsədlər və vaxtında onu dayandıra bilməyən insanlar kifayət edə bilər.
İnvestor olaraq çiplərə, enerjiyə və data mərkəzlərinə baxa bilərik. Vətəndaş olaraq isə bu sistemləri kim idarə edir və uğursuzluq olanda kimin cavabdeh olduğunu soruşmalıyıq.
Çünki birja qiyməti bərpa oluna bilər. Bəzi zərərlər isə geri dönməzdir.
Rəqibinin əvvəl ora çatmasına imkan vermək bahasına olsa belə, təhlükəsizlik üçün qlobal gücə ləngiməyə etibar edərdiniz?
#AI #Superintelligence $ANTHROPIC