Bir neçə gün əvvəl mən kiçik bir Newton Protocol mövqeyi əlavə etdim. Böyük bir şey deyildi, sadəcə özümü başqa bir AI layihəsinə ötürmək əvəzinə diqqətimi cəlb etmək üçün. Əvvəlcə bunun mənim onlarla dəfə gördüyüm eyni düsturla getdiyini düşündüm: daha böyük modellər, daha ağıllı agentlər, daha çox avtomatlaşdırma. Amma dizaynın içində bir az vaxt sərf edib oxuyandan sonra anladım ki, məni həqiqətən maraqlandıran hissə əslində AI-nin özü deyildi.
Söhbət icazə (permission) sistemindən gedirdi.
Bu, bir layihəyə baxmaq üçün qəribə səbəb kimi səslənə bilər, amma məni dinləyin.
AI ətrafındakı müzakirələrin çoxu modelləri daha qadir etməyə yönəlib kimi görünür. Daha yaxşı əsaslandırma, daha uzun yaddaş, daha çox muxtariyyət. Bu irəliləyişlər önəmlidir, amma məncə insanlar daha praktik bir sualı nəzərdən qaçırdır:
Dəqiq olaraq, AI-ya nə etməyə icazə verilməlidir?
AI-nin qərar verə bilməsi ilə həmin qərarları icra etməyə səlahiyyətli AI-nin olması arasında böyük fərq var. Bir agent wallet-lərlə qarşılıqlı əlaqəyə başlayanda, tranzaksiyaları imzalayanda və ya aktivləri hərəkət etdirəndə, imkanlar (capability) artıq ən böyük narahatlıq olmur. Əsl məsələ səlahiyyətdir.
Newton Protocol-un məni bu barədə fərqli düşünməyə sövq etdiyi hissə budur.
Onların yanaşması "icazə verməzdən əvvəl icra" adlandırdıqları fikrin ətrafında qurulub. Məqsəd AI-nin həmişə düzgün seçim edəcəyini güman etmək deyil. Bunun əvəzinə, hər bir hərəkət real olaraq baş verməzdən əvvəl əvvəlcədən müəyyən olunmuş siyasətlərə uyğunluq üzrə yoxlanıla bilər.
Bu, sözlərin bir az dəyişməsi kimi görünür, amma bunun belə olduğuna inanmıram.
İmkan olduqca avtomatlaşdırma ilə işləyirəm, çünki vaxt qazandırır, amma həm də öyrəndim ki, avtomatlaşdırmaya sonsuz azadlıq etibar etməmək lazımdır. Bir neçə ay əvvəl bir trading skriptinin mən gözlədiyim kimi davranmamasına səbəb bildiyim bir şərti yeniləməyi unutmam oldu. Fəlakət deyildi, amma proqram təminatının pis niyyət olmadan da pis nəticələr doğura biləcəyini mənə xatırlatmaq üçün kifayət etdi.
Bəzən sadəcə təlimatları çox yaxşı yerinə yetirir.
Newton-un dizaynı, AI-nin həmişə mükəmməl qərarlar verəcəyini iddia etməkdən fərqli olaraq, reallığı qəbul etməyə əsaslanmış kimi görünür.
Məsələn, tərtibatçılar AI-nin hansı wallet-lərə daxil olmasına icazə verildiyini, hansı protokollarla qarşılıqlı əlaqə qura biləcəyini, xərcləmə limitlərini, risk hədlərini və ya hələ də insan təsdiqi tələb edən hərəkətləri müəyyən edə bilər. Agentin hər dəfə düzgün davranmasını ümid etmək əvəzinə, sistem icranın başlamasından əvvəl mövcud olan sərhədlər yaradır.
Əvvəllər tam qiymətləndirmədiyim fərq məhz budur.
İnsanlar "təhlükəsizlik" sözünü eşidəndə çox vaxt hücumlar baş verdikdən sonra onları aşkarlamağı təsəvvür edirlər. Newton-un fəlsəfəsi, görünür, ilk növbədə lazımsız səlahiyyətin mövcud olmasının qarşısını almağa daha yaxındır.
Daha çox düşündükcə, bunun ənənəvi maliyyə sistemlərinin artıq necə işlədiyini xatırlatdığını anladım.
Banklar hər bir əməkdaşa istədiyi vaxt şirkətin vəsaitlərini hərəkət etdirməyə icazə vermir. Böyük köçürmələr adətən bir neçə təsdiq tələb edir. Korporativ maliyyə komandalarının xərcləmə limitləri var. Hətta kredit kartı ilə ödəmək kimi adi bir şey belə, pul hesabdan çıxmazdan əvvəl səlahiyyət yoxlamalarını tələb edir.
Heç kim təkcə təcrübənin riski tamamilə aradan qaldıracağını gözləmir.
Əksinə, sistemlər insanların etməsinə icazə verilən işlərin hüdudlarını məhdudlaşdırmaq üzərində qurulur.
Eyni məntiq, AI agentləri gələcəkdə istifadəçilər adından rəqəmsal aktivləri idarə etməyə başlasalar, getdikcə daha aktual hiss olunur.
Diqqətimi çəkən başqa bir detal da layihənin arxasındakı komanda oldu. Magic Labs artıq milyonlarla istifadəçini kriptoya onboarding (qeydiyyat və ilkin hazırlıq) edib, yəni onlar wallet infrastrukturuna tamamilə təcrübəsiz yeni başlayan kimi yanaşmırlar. Newton uğur qazansın, ya qazanın, məncə bu təcrübə önəmlidir, çünki identifikasiya (identity), wallet-lər və səlahiyyətlər bir-biri ilə elə kəsişir ki, bir çox AI müzakirələrində bu barədə demək olar ki, ümumiyyətlə danışılmır.
Heç bir gizli xəzinə tapdığımı iddia etmirəm və tam şəkildə ora yönəldiyimi də söyləmirəm. Mənim mövqeyim hələ də nisbətən kiçikdir, çünki zaman keçdikcə tətbiqin (adoption) necə inkişaf etdiyini görmək istəyirəm.
Amma maraqlı bir şey gördüm.
Newton barədə qeydlərimə yenidən baxanda, AI-nin intellekti haqqında daha az vaxt sərf edirəm və AI-nin icazələri (permissions) barədə daha çox düşünürəm. Bu, gözləmədiyim dəyişiklikdir.
Bəlkə də AI-nin növbəti mərhələsi ən ağıllı olan hansısa modelə görə müəyyən olunmayacaq.
Bəlkə də bu, hansı sistemlərin həmin intellektə əslində nəyə icazə verildiyini təhlükəsiz şəkildə nəzarətdə saxlaya bilməsindən asılı olaraq müəyyənləşəcək.
Mənim üçün bu, artıq burada real investisiya tezisi halına gəlib.
Mən hələ izləyirəm, hələ öyrənirəm və hələ də öz fərziyyələrimi sorğulayıram. Amma AI-nin nə vaxtsa kapital, wallet-lər və maliyyə infrastrukturu ilə qarşılıqlı əlaqəyə etibar ediləcəyi təqdirdə, səlahiyyətin (authorization) intellektin özü qədər dəyərli ola biləcəyini düşünürəm.
Newton Protocol-un məni diqqət yetirməyə məcbur edən hissəsi budur.
@NewtonProtocol #Newt $NEWT $NVDAB $BTC
