@NewtonProtocol Süni intellekt agentləri barədə söhbət çox vaxt belə bir fərziyyə ilə aparılır ki, daha çox avtonomiya həmişə daha yaxşıdır. Məqsəd mümkün qədər insan iştirakını azaltmaq kimi görünür.
Bu məkanı nə qədər izləsəm, bir o qədər də real çətinliyin qaçırıldığını düşünürəm.
Çətin hissə AI-ni daha müstəqil etmək deyil.
İnsanların real maliyyə qərarlarını ona həvalə etməkdən rahat olması üçün AI-nin etibarlı olması təmin edilməlidir.
Buna görə Newton Protocol uzun müddətdir diqqətimdədir.
İstifadəçilərdən tam nəzarəti təhvil verməyi istəmək əvəzinə, protokol belə bir ideya üzərində qurulub: həvaləetmə həmişə icra oluna bilən məhdudiyyətlərlə gəlməlidir. Bu, avtonom maliyyə üçün daha praktiki istiqamət kimi görünür.
AI agentləri ilə bağlı narahatlıqları anlamaq asandır.
Bir agent istənilən insandan daha tez reaksiya verə bilər.
Bu isə onu daha təhlükəsiz etmir.
Məxaric limiti əhəmiyyətli deyil, əgər o, sadəcə nəzərə alınmaya bilərsə.
Təsdiqlənmiş qarşı tərəf, onun yan keçilməsi mümkün olan halda heç bir qorunma təqdim etmir.
Hətta prompt injection belə, AI real aktivlərlə qarşılıqlı əlaqəyə başlayanda ciddi problemə çevrilir.
Newton bu risklərə fərqli yanaşır.
Əhəmiyyətli bir əməl icra olunmazdan əvvəl protokol AI agentin nə edə biləcəyini müəyyən edən proqramlaşdırıla bilən siyasətləri qiymətləndirir.
Tərtibatçılar xərcləmə qapaqlarını təyin edə bilərlər.
Müəyyən qarşı tərəfləri təsdiqləyə bilərlər.
Onlar əməliyyat şərtlərini və prompt müdafiələrini müəyyən edə bilərlər.
Bu qaydalar sonradan əlavə edilən seçim imkanı olan qoruyucu tədbirlər əvəzinə, icranın bir hissəsinə çevrilir.
Mənim ən maraqlı tapdığım fərq elə budur.
Protokol istifadəçilərdən AI-yə kor-koranə güvənməyi tələb etmir.
Onlardan AI-nin keçə bilməyəcəyi sərhədləri müəyyən etməyi tələb edir.
Yaxşı avtomatlaşdırma məhdudiyyətsiz səlahiyyət haqqında deyil.
Bu, səlahiyyətin tam olaraq haradan başladığını və harada bitdiyini dəqiq bilməkdən gedir.
Arxitektura eyni fəlsəfəni gücləndirir.
AI strategiyaları Newton-un təhlükəsiz rollup mühitində icra olunur; proses boyu siyasət tətbiqi (policy enforcement) bütünlüklə yoxlanıla bilən qalır. Eyni zamanda sistem Ethereum cüzdanları və smart müqavilələrlə uyğun olaraq qalır. Tərtibatçılar istifadəçilərin artıq bildiyi infrastrukturunu yenidən qurmağa ehtiyac olmadan ağıllı icazələndirmə tətbiq edə bilərlər.
İcazə modeli də diqqət çəkir.
AI agentlər heç vaxt şəxsi açarlara (private keys) məhdudiyyətsiz girişə ehtiyac duymur.
Onlara yalnız konkret əməliyyatlar üçün tələb olunan icazələr verilir.
Bu icazələr lazım olduqda dəyişdirilə və ya ləğv edilə bilər.
İstifadəçilər nəzarəti saxlayır, avtomatlaşdırma isə icazə verilmiş olduğu işi görür.
Mən də düşünürəm ki, bu, tərtibatçıların necə rəqabət apardığını dəyişir.
Model Registry qurucuların hər kəsin istifadə edə biləcəyi AI strategiyalarını paylaşmasına imkan verir.
Uğur artıq yalnız modelin nə qədər “ağıllı” görünməsi ilə müəyyən edilmir.
Bu, həm də insanların həmin modeli əhatə edən qaydalara kifayət qədər etibar edib-etməməsindən və onu mənalı kapital ilə istifadə edib etməməsindən asılıdır.
Əlbəttə, qoruyucu baryerlər (guardrails) ideal həll deyil.
Siyasətləri hələ də insanlar yazır.
Zəif dizayn edilmiş icazələndirmə məntiqi, qüsurlu smart müqavilələr kimi, yeni risklər yarada bilər.
Avtonom sistemlər daha da bacarıqlı olduqca, həmin siyasətlər əbədi sabit qalmaq əvəzinə davamlı təkmilləşdirilməlidir.
Başqa bir çətinlik də var.
Bəzi tərtibatçılar həmişə daha yüksək gəlir dalınca qaçacaq, çünki performans diqqəti cəlb edir.
Newton məsuliyyətli avtomatlaşdırma üçün alətlər təqdim edə bilər.
Ecosistem, hələ də gəlirlilik qədər etibarlılığı dəyərləndirən qurucuları mükafatlandırmalıdır.
Mən də düşünürəm: istifadəçilər həqiqətən tam avtomatlaşdırmanı istəyərlərmi?
Çox insan AI-nin maliyyə qərarlarında kömək etməsinə rahatlıqla yanaşır.
Tam nəzarətin öz kapitalına təhvil verilməyə hazır olanların sayı çox azdır.
Elə buna görə də Newton-un yanaşması mənə real görünür.
İnsanların, sahiblikdən imtina etmədən, avtomatlaşdırma istədiyini qəbul edir.
Newton Protocol-unu nə qədər çox öyrənirəmsə, gələcəyin insan mühakiməsini əvəz edən AI agentlərə aid olduğuna bir o qədər də az inanıram.
Ən güclü sistemlər çox güman ki, ağıllı avtomatlaşdırmanı aydın və icra edilə bilən sərhədlərlə birləşdirəcək.
Avtonom maliyyə davamlı etibar qazanacaqsa, istifadəçilər heç vaxt nəzarət ilə rahatlıq arasında seçim etməli olmamalıdır.
Həm onu, həm də bunu saxlaya bilməlidirlər.