#newt $NEWT Ko‘pchilik sun’iy intellekt (AI) xavfi haqida gapirganda bir narsaga haddan tashqari berilib ketgandek tuyuladi.
Agar model noto‘g‘ri qaror qabul qilsa-chi?
Ilgari men ham buni eng katta muammo deb o‘ylardim.
Keyin Newton Protocol haqida biroz o‘qib chiqdim va boshqa bir savolga duch keldim.
Agar AI to‘g‘ri qaror chiqarsa... lekin o‘sha qarorni umuman qabul qilishga majbur emas (yoki ruxsat berilmagan) bo‘lsa-chi?
Bu, rostini aytsam, ancha realroq xatolikdek tuyuladi.
AI to‘g‘ri tranzaksiyani yaratishi mumkin. Eng yaxshi yo‘lni topishi mumkin. Hammasini mukammal optimallashtira oladi.
Lekin bularning bari bitta oddiy savolga javob bermaydi.
Uni aslida kim ruxsat berdi?
Menimcha, odamlar ko‘p hollarda intellektni vakolat (authority) bilan adashtirib yuborishadi.
Ular bir xil narsa emas.
Model juda aqlli bo‘lishi mumkin, ammo baribir ma’lum bir hamyon (wallet)ga tegishi, aniq bir aktivni ko‘chirish yoki muayyan tranzaksiyani tasdiqlashga mutlaqo haqqi yo‘q bo‘lishi mumkin.
Newton Protocolni o‘qiyotganda menga aynan shunisi ajralib ko‘rindi.
Protokol har qanday texnik jihatdan to‘g‘ri bo‘lgan tranzaksiyani bajarish kerak deb taxmin qilmaydi. U oldindan belgilab qo‘yilgan siyosatlarga (qoidalar to‘plamiga) mos keladimi-yo‘qmi, degan savolni tekshiradi. Limitlar. Vakolat qilib berilgan ruxsatlar. Shaxs identifikatsiyasi talablari. Ilova bajarishga qaror qiladigan qaysi qoidalar bo‘lsa, baribir.
Avtorizatsiya (ruxsat) bajarilishdan oldin keladi.
Mening fikrim o‘zgargan joy aynan shu bo‘ldi.
Ehtimol, haqiqiy qiyinchilik hech qachon xato qilmaydigan AI’ni yaratish emasdir.
Omad.
Balki AI’ni berilgan vakolatdan tashqariga chiqib ketolmasligini ta’minlash muhimroqdir — hatto u texnik jihatdan buni qila olsa ham.
Hujjatlarni o‘qiyotganda menda qayta-qayta bitta narsa aylanib turdi.
Intellekt: "Buni qila olamanmi?"
Avtorizatsiya: "Buni qilishga ruxsat berilganmi?"
Bular bitta savol emas.
Men yanglishayotgan bo‘lishim mumkin, lekin agar AI haqiqiy pulni boshqaradigan bo‘lsa, men har safar intellektdan oldin ruxsat tekshirilishini xohlardim.
#Newt @NewtonProtocol $NEWT
Agar model noto‘g‘ri qaror qabul qilsa-chi?
Ilgari men ham buni eng katta muammo deb o‘ylardim.
Keyin Newton Protocol haqida biroz o‘qib chiqdim va boshqa bir savolga duch keldim.
Agar AI to‘g‘ri qaror chiqarsa... lekin o‘sha qarorni umuman qabul qilishga majbur emas (yoki ruxsat berilmagan) bo‘lsa-chi?
Bu, rostini aytsam, ancha realroq xatolikdek tuyuladi.
AI to‘g‘ri tranzaksiyani yaratishi mumkin. Eng yaxshi yo‘lni topishi mumkin. Hammasini mukammal optimallashtira oladi.
Lekin bularning bari bitta oddiy savolga javob bermaydi.
Uni aslida kim ruxsat berdi?
Menimcha, odamlar ko‘p hollarda intellektni vakolat (authority) bilan adashtirib yuborishadi.
Ular bir xil narsa emas.
Model juda aqlli bo‘lishi mumkin, ammo baribir ma’lum bir hamyon (wallet)ga tegishi, aniq bir aktivni ko‘chirish yoki muayyan tranzaksiyani tasdiqlashga mutlaqo haqqi yo‘q bo‘lishi mumkin.
Newton Protocolni o‘qiyotganda menga aynan shunisi ajralib ko‘rindi.
Protokol har qanday texnik jihatdan to‘g‘ri bo‘lgan tranzaksiyani bajarish kerak deb taxmin qilmaydi. U oldindan belgilab qo‘yilgan siyosatlarga (qoidalar to‘plamiga) mos keladimi-yo‘qmi, degan savolni tekshiradi. Limitlar. Vakolat qilib berilgan ruxsatlar. Shaxs identifikatsiyasi talablari. Ilova bajarishga qaror qiladigan qaysi qoidalar bo‘lsa, baribir.
Avtorizatsiya (ruxsat) bajarilishdan oldin keladi.
Mening fikrim o‘zgargan joy aynan shu bo‘ldi.
Ehtimol, haqiqiy qiyinchilik hech qachon xato qilmaydigan AI’ni yaratish emasdir.
Omad.
Balki AI’ni berilgan vakolatdan tashqariga chiqib ketolmasligini ta’minlash muhimroqdir — hatto u texnik jihatdan buni qila olsa ham.
Hujjatlarni o‘qiyotganda menda qayta-qayta bitta narsa aylanib turdi.
Intellekt: "Buni qila olamanmi?"
Avtorizatsiya: "Buni qilishga ruxsat berilganmi?"
Bular bitta savol emas.
Men yanglishayotgan bo‘lishim mumkin, lekin agar AI haqiqiy pulni boshqaradigan bo‘lsa, men har safar intellektdan oldin ruxsat tekshirilishini xohlardim.
#Newt @NewtonProtocol $NEWT
