Süni intellektdə artan etibarlılıq problemi
Son bir neçə ildə süni intellekt haqqında maraqlı bir şey fərq etdim. Texnologiya inanılmaz dərəcədə güclü olur, amma eyni zamanda insanların kifayət qədər danışmadığı sükut problemi var. AI, səhv olsa belə, çox inamlı səslənə bilər. Müasir AI alətlərindən istifadə etmiş hər kəs bunu yaşayıb. Siz bir sual verirsiniz və sistem aydın bir cavab verir, bəzən hətta izahlar və istinadlarla. Amma sonra anlayırsınız ki, cavabın bir hissəsi düzgün deyildi.
Bu, belə baş verir, çünki əksər AI sistemləri faktları sübut etməkdən çox, növbəti ən ehtimal olunan sözü proqnozlaşdırmaqla işləyir. Onlar düzgün görünən dil yaratmaqda çox yaxşıdırlar, amma bu, məlumatın həmişə dəqiq olduğu demək deyil. Bu problem çox vaxt “AI hallusinasiya” kimi adlandırılır. Hətta qabaqcıl modellər də bəzən səhv və ya qərəzli məlumat üretir ki, bu da onları maliyyə, təhsil, səhiyyə və ya hüquq kimi vacib sahələrdə etibar etmək üçün çətin edir.
Niyə verifikasiya zəkanın özündən daha vacib ola bilər
İnsanların məlumatı necə təsdiqlədiyini nəzərə alsanız, Mira-nın konsepti daha aydın olur. Elmdə fərdin irəli sürdüyü iddianı təkbaşına qəbul etmək çətindir. Həmin bəyanat digər tədqiqatçılar tərəfindən sınağa çəkilir, eksperiment yenidən qurulur və sübutlar yoxlanılır. Bu iddia dəfələrlə sübut edilənə qədər qəbul olunmuş bilik kimi formalaşmır.
Mira süni intellektə uyğun bir dəyər ötürməyə çalışır. Tək bir modelin çıxışı şəbəkədə avtomatik olaraq etibar edilən hesab edilmir. O, AI cavabını yoxlana bilən daha kiçik iddialara parçalayır. Sonra bu iddialar onları ayrı-ayrılıqda yoxlayan bir sıra müstəqil modellərə və ya verifikasiya node-larına təqdim edilir.
Bu dizaynda maraqlı olan odur ki, o, həqiqəti mərkəzləşdirilmiş şəkildə şərh olunan bir şey kimi deyil, müxtəlif yanaşmaların konsensusundan çıxan bir şey kimi görür.
Sistemin mərkəzləşdirilməsinin məqsədi.
Mira-nın seçilməsinə səbəb olan digər tərəf onun verifikasiyasının necə təşkil edilməsidir. Şəbəkə yoxlamanı həyata keçirmək üçün tək bir şirkətə və ya mərkəzləşdirilmiş serverə güvənmir; əksinə, çox sayda müstəqil iştirakçıya əsaslanır. Bu iştirakçılar şəbəkəyə təqdim edilən müxtəlif AI modellərini və iddiaları işə salırlar.
Bu mərkəzləşdirilməmiş təşkilat vacibdir, çünki favoritizm və manipulyasiya ehtimallarını aradan qaldırır. Verifikasiya tək bir təşkilat tərəfindən aparıldıqda, qəbul edilməli cavabların hansılarının “uyğun” sayılacağı mövzusunda qərəz ehtimalı var. Lakin müstəqil verifikatorların sayı çox olduqda, nəticə daha balanslı olur.
Sadə desək, Mira süni intellekt ilə bağlı etimad qatını qurmağa cəhd edir.
Sistemi dürüst edən motivlər.
Kripto layihələrini araşdıranda həmişə diqqətdən kənarda qoymadığım şeylərdən biri həvəsləndirmələrdir. Təkcə texnologiya yetərli deyil. Bu sistemlər adətən işləyir: düz hərəkət etməyənlər cəzalandırılır.
Mira elə bir token həvəsləndirmə sistemi təklif edir ki, bu da verifikatorları düzgün yoxlamanı təqdim etməyə motivasiya edir. Maraqlı tərəflər şəbəkəyə qoşulmaq üçün mərc edə və verifikasiyanı düzgün yerinə yetirdikdə mükafat ala bilərlər. Əgər onlar diqqətsiz və ya yalançı yoxlama təqdim etsələr, onların payından bir hissə itirilə bilər.
Mənim fikrimcə, süni intellekt infrastrukturasını düşünməyə yanaşmanın başqa yolu.
Mira-nı nə qədər az nəzərdən keçirsəm, bir o qədər də onun sadəcə başqa bir kripto tokeni deyil, infrastruktura layihəsi kimi göründüyünü anlayıram. Daha yaxşı çatbot və ya daha ağıllı model yaratmaq niyyətində deyil. Əksinə, daha dərin bir məsələyə diqqət yetirir: AI çıxışlarının etibarlı olmasını təmin etmək.
Mira fakt anlayışının axtarışındadır: kifayət edən təkcə zəka deyil. Bizə güvənə bildiyimiz zəka lazımdır.