Newton protokoli haqida o‘ylayotganimda, yana bir fikr doim qaytib kelaverdi.
Biz qaror qabul qilishning yakuni sifatida ruxsatni ko‘rishga o‘rganib qoldik.
Ruxsat berilgach, bajarish tabiiy keyingi qadamdek tuyuladi.
Odamlar uchun esa bu taxmin ko‘pincha to‘g‘ri bo‘ladi: biz qarorlarimizni hatto sezmasdan ham doimiy ravishda moslab boramiz.
AI agenti bunday qilmaydi.
U unga ruxsat berilgan narsani bajaradi.
Bu farq muhit o‘zgarguncha kichikdek tuyuladi.
Hamyon hali ham ruxsatga ega bo‘lishi mumkin.
Siyosat hali ham tasdiqlashi mumkin.
Lekin foydalanuvchining asl niyati ehtimol hech qachon boshqacha bo'lib qolgan bo'lishi mumkin.
Ruxsat va niyat o'rtasidagi bu bo'shliq, men avval o'ylaganimdan ham ko'proq muhimroqdek tuyuladi.
Newton Protocol haqida ko'proq mulohaza qilsam, uning arxitekturasi faqat harakatlarni bajarishga ruxsat berish bilan bog'liq emasligini his qildim.
Ijro vaqti kelganda, harakat hali ham davom etishga loyiqmi-yo'qligini o'ylashga undaydi.
Bu nozik farq muhim.
Chunki avtonom tizimlar har doim ham yovuzlik sababli ishdan chiqmaydi.
Ba'zida ular muvaffaqiyatsiz bo'lishadi, chunki ular foydalanuvchi aslida nima qilishni xohlayotganiga to'g'ri kelmay qolgan ruxsatlarni sadoqat bilan bajarib, so'zma-so'z ishga tushirishyapti.
Ehtimol, AI infratuzilmasining kelajagi yanada qobiliyatli agentlarni yaratish haqida emas.
Ehtimol, bu har bir ruxsat etilgan harakat kontekst o'zgarib tursa ham, baribir haqiqiy niyatni aks ettirishini ta'minlash haqida bo'lsa kerak.
Men bu haqda qancha ko'p o'ylasam, shuncha ko'p ishonch xavfsizlik bilan bog'liq narsa emasligini angladim.
Bu uyg'unlik haqida.
Foydalanuvchi nimani xohlagani, siyosat nimaga ruxsat bergani va oxir-oqibat ijroga yetib boradigan narsa o'rtasidagi uyg'unlik.
Ehtimol, bu Newton Protocol ichida yashiringan sokin saboqlardan biridir.
Ruxsat mavjud bo'lgani uchun emas.
Lekin o'sha ruxsatning o'zi hech qachon niyat deb yanglishmasligi kerak.
Yakuni mulohaza
Avtonom tizimlar yanada mustaqil bo'lib borgani sayin, vakolat berish kirishni o'lchaydimi… yoki foydalanuvchi niyatini doimiy himoya qiladimi?
