#AnthropicCEOCallsForAISlowdown
Anthropic-in baş direktoru Dario Amodeinin yaxınlarda dərc olunmuş “We Must Pace the Frontier” (“Biz sərhədi tempə salmalıyıq”) adlı essesi süni intellektin sürətli genişlənməsinə sənaye liderlərinin yanaşmasında kritik bir dəyişimi vurğulayır. Amodei iddia edir ki, imkanların (qabiliyyətlərin) yaxşılaşma tempi etibarlı təhlükəsizlik “təhlükəsizlik səddləri”ni tətbiq etmək imkanımızı artıq üstələməyə başlayıb. Maraqlıdır ki, Sam Altman və Elon Musk kimi liderlər də oxşar narahatlıqları səsləndirərək, model inkişafı ilə eyni tempdə müstəqil nəzarət və təhlükəsizlik auditi aparılmasının vacibliyini etiraf edirlər.
Qaldırılan əsas məqamlardan biri təkrarlanan özünü-təkmilləşdirmənin (recursive self-improvement) artmasıdır; burada AI sistemləri getdikcə öz “varislərini” hazırlamaq və öyrətmək üçün daha çox istifadə olunur. Bu, internet üzərində mürəkkəb tapşırıqları yerinə yetirə bilən avtonom AI agentləri ilə birləşdirildikdə, arzuolunmaz nəticələrin yaranma riski xeyli artır. Amodei qeyd edib ki, ciddi monitorinq olmadan avtonom “sürü”lər bir neçə ay ərzində əsas rəqəmsal infrastrukturda ciddi kibertəhlükəsizlik zəiflikləri yarada bilər.
Kripto və Web3 məkanı üçün bu inkişaflar birbaşa təsirlər daşıyır. Bir tərəfdən, avtomatlaşdırılmış AI agentləri artıq desentralizə olunmuş maliyyə əməliyyatlarını, likvidlik idarəçiliyini və alqoritmik ticarəti həyata keçirir; yəni gözlənilməyən model davranışı protokol risklərinə və ya nəzərdə tutulmayan likvidasiyalara səbəb ola bilər. Digər tərəfdən isə, mərkəzləşdirilmiş AI laboratoriyalarına artan tənzimləyici təzyiq desentralizə olunmuş AI şəbəkələrinə marağı, açıq mənbə model yoxlanışına və şəffaflığı təmin etmək üçün sıfır-bilikli sübutlar (zero-knowledge proofs) kimi kriptoqrafik alətlərə yönəldə bilər.
Bu təhlükəsizlik narahatlıqları hökumət nəzarətinin daha da sərtləşməsinə gətirib çıxaracaq, yoxsa daha çox tərtibatçını desentralizə olunmuş alternativlərə yönəldəcək — bu sual açıq qalır. Sizcə, qarşıdakı bir neçə il ərzində AI təhlükəsizliyi ilə desentralizə innovasiya arasında tarazlıq necə formalaşacaq?
$BR $CVC $AIN
Anthropic-in baş direktoru Dario Amodeinin yaxınlarda dərc olunmuş “We Must Pace the Frontier” (“Biz sərhədi tempə salmalıyıq”) adlı essesi süni intellektin sürətli genişlənməsinə sənaye liderlərinin yanaşmasında kritik bir dəyişimi vurğulayır. Amodei iddia edir ki, imkanların (qabiliyyətlərin) yaxşılaşma tempi etibarlı təhlükəsizlik “təhlükəsizlik səddləri”ni tətbiq etmək imkanımızı artıq üstələməyə başlayıb. Maraqlıdır ki, Sam Altman və Elon Musk kimi liderlər də oxşar narahatlıqları səsləndirərək, model inkişafı ilə eyni tempdə müstəqil nəzarət və təhlükəsizlik auditi aparılmasının vacibliyini etiraf edirlər.
Qaldırılan əsas məqamlardan biri təkrarlanan özünü-təkmilləşdirmənin (recursive self-improvement) artmasıdır; burada AI sistemləri getdikcə öz “varislərini” hazırlamaq və öyrətmək üçün daha çox istifadə olunur. Bu, internet üzərində mürəkkəb tapşırıqları yerinə yetirə bilən avtonom AI agentləri ilə birləşdirildikdə, arzuolunmaz nəticələrin yaranma riski xeyli artır. Amodei qeyd edib ki, ciddi monitorinq olmadan avtonom “sürü”lər bir neçə ay ərzində əsas rəqəmsal infrastrukturda ciddi kibertəhlükəsizlik zəiflikləri yarada bilər.
Kripto və Web3 məkanı üçün bu inkişaflar birbaşa təsirlər daşıyır. Bir tərəfdən, avtomatlaşdırılmış AI agentləri artıq desentralizə olunmuş maliyyə əməliyyatlarını, likvidlik idarəçiliyini və alqoritmik ticarəti həyata keçirir; yəni gözlənilməyən model davranışı protokol risklərinə və ya nəzərdə tutulmayan likvidasiyalara səbəb ola bilər. Digər tərəfdən isə, mərkəzləşdirilmiş AI laboratoriyalarına artan tənzimləyici təzyiq desentralizə olunmuş AI şəbəkələrinə marağı, açıq mənbə model yoxlanışına və şəffaflığı təmin etmək üçün sıfır-bilikli sübutlar (zero-knowledge proofs) kimi kriptoqrafik alətlərə yönəldə bilər.
Bu təhlükəsizlik narahatlıqları hökumət nəzarətinin daha da sərtləşməsinə gətirib çıxaracaq, yoxsa daha çox tərtibatçını desentralizə olunmuş alternativlərə yönəldəcək — bu sual açıq qalır. Sizcə, qarşıdakı bir neçə il ərzində AI təhlükəsizliyi ilə desentralizə innovasiya arasında tarazlıq necə formalaşacaq?
$BR $CVC $AIN
