Niyə AI agentləri yoxlanılmış məlumatlara ehtiyac duyur
AI agentləri getdikcə daha da ağıllanır.
Amma insanların çoxunun hələ də düzgün qiymətləndirmədiyi bir problem var:
AI agent yalnız onun üzərində fəaliyyət göstərdiyi məlumat qədər etibarlıdır.
Təsəvvür edin ki, AI agent tətbiqləri avtomatik təsdiqləyə, maliyyə qərarları tövsiyə edə, xidmətləri sizə uyğunlaşdırdıra və ya sizin adınıza digər tətbiqlərlə qarşılıqlı əlaqə qura bilər.
Çox güclü səslənir.
Bəs o məlumat nə olar ki, köhnədirsə, manipulyasiya edilibsə, saxtadırsa və ya yoxlanması mümkün deyilsə?
Daha ağıllı AI avtomatik olaraq bu problemi həll etmir.
O sadəcə səhv qərarı daha tez verə bilər.
Elə buna görə də hesab edirəm ki, yoxlanılmış məlumat AI infrastrukturunun ən vacib hissələrindən birinə çevrilə bilər.
AI agentləri iddialara kor-koranə güvənmək əvəzinə, daha yaxşı yanaşma onların sübut edilə bilən məlumatla işləməsinə imkan yaratmaqdır.
Məsələn:
Kimsə 18 yaşdan yuxarı olduğunu sübut etmək üçün hər zaman öz tam şəxsiyyətini üzə çıxarmamalıdır.
Müəyyən bir tələbi ödədiyini sübut etmək üçün maliyyə tarixinə aid bütün detalları göndərməsi də lazım olmamalıdır.
Agentə bəlkə də yalnız bir şey lazımdır:
tələb olunan faktın həqiqi olduğunu sübut edən dəlil.
Məhz burada Verona mənə maraqlı gəlir.
Verona yoxlanılmış məlumatın, məxfiliyin, sübutun və AI agentlərin birlikdə işləyə bildiyi bir dünya ilə maraqlanır; beləliklə, tətbiqlər və agentlər xam şəxsi məlumatı lazımsız şəkildə ifşa etmədən etibarlı siqnallardan istifadə edə bilsin.
Və mən düşünürəm ki, AI agentləri bizim üçün daha çox iş görməyə başladıqca bu daha da vacib olur.
Çünki AI-nin gələcəyi təkcə agentləri daha muxtar etməkdən ibarət deyil.
Bu, onların hərəkətə keçməsi üçün daha yaxşı məlumatlarının olmasını təmin etməkdən ibarətdir.
Daha çox zəkа AI-ni güclü edir.
Yoxlanılmış məlumat bu zəkaya etibar yarada bilər.
Bu fərq insanların düşündüyündən çox daha böyük əhəmiyyət daşıya bilər.
#verona #ai #verified #trust