AI xavfsizligi haqida qanchalik ko‘p o‘ylasam, shunchalik bitta savolga qaytaveraman
AI harakatlarini avtorizatsiya qilishga mas’ul bo‘lgan tizimning uddalay olmasligi nimaga olib keladi...?
Avvaliga javob aniqdek tuyulgandi.
Agar avtorizatsiya qatlami ishlamay qolsa, AI hech narsani qila olmasligi kerak.
Bu eng xavfsiz tanlovga o‘xshaydi.
Axir tizim biror harakatga ruxsat berilganini tasdiqlay olmasa, taxmin qilmasligi kerak. Ayniqsa moliyada noaniqlik ruxsatga aylantirilmasligi lozim.
Qanchalik ko‘proq o‘ylasam, shunchalik kamroq ishonchim ortdi.
Agar ombor (vault) avtorizatsiya xizmati mavjud bo‘lmay turgan paytda haqiqatan ham e’tibor talab qilsa-chi?
Hammasini qulflab qo‘yib, muammo o‘z-o‘zidan bartaraf bo‘lishini kutasizmi?
Yoki kimgadir aralashish uchun yo‘l berasizmi?
Nyutonning VaultKit haqida o‘qiyotganimda qiziq tuyulgani — aynan shu muammo edi.
Darhol bekor qilishga ruxsat berish o‘rniga, kechiktirilgan favqulodda yo‘lni ishlatadi. Istisno tariqasidagi harakat hali ham bo‘lishi mumkin, lekin darhol emas. Kutish kerak, va bu qaror on-laynda ko‘rinib turadi.
Men aslida bu g‘oyani yoqtiraman.
Darhol chetlab o‘tish siyosat qatlamini ixtiyoriydek qilib qo‘yadi. Agar qoidalarni aylanib o‘tish uchun har doim tez yo‘l bo‘lsa, qoidalar unchalik og‘irlik kasb etmaydi.
Lekin favqulodda kirishni butunlay olib tashlash ham amaliy ko‘rinmaydi.
Real tizimlar buziladi.
Tarmoqlar uzilishlar bilan duch keladi.
Xizmatlar ishlamay qoladi.
Ba’zan hamma narsa yana odatdagidek bo‘lishini kutishning o‘zi variant emas.
Shu bois, kechiktirilgan favqulodda yo‘l oqilona o‘rtamiyon yo‘ldek tuyuladi.
Lekin kutish muddati eng qiziqarli qism deb o‘ylamayman.
Menga eng ko‘p ta’sir qilgani — ishonch manbai o‘zgarishi.
Oddiy sharoitda imtiyozli (privileged) harakat oldindan belgilangan siyosatlar bo‘yicha baholanadi. Operatorlar uni tasdiqlaydi, zarur tekshiruvlar o‘tkaziladi va faqat shundan keyin harakat davom etishga ruxsat beriladi.
Favqulodda vaziyatda bu endi tizimni himoya qiladigan narsa bo‘lmay qoladi.
Aksincha, siz egasining vakolati, kutish muddati va hamma on-laynda nima bo‘lganini ko‘ra olishi faktiga tayanasiz.
Bu xavfsizlikning boshqa turi.
Bu shart emaski, kuchsizroq bo‘ladi.
Bu shunchaki boshqa taxminlar asosida qurilgan.
Menimcha, bu muhim farq.
Shaffoflik qimmatli, ammo shaffoflik ruxsat (avtorizatsiya) bilan bir xil narsa emas.
Favqulodda yo‘l ishlatilganini ko‘rishning o‘zi harakat normal ishlash davridagidek bir xil darajadagi tekshiruvdan o‘tgani degani emas.
Keyin vaqt masalasi bor.
Favqulodda kechikish aslida qancha bo‘lishi kerak?
Juda qisqa qilsangiz, favqulodda yo‘l bir chetlab o‘tish yo‘liga o‘xshab qoladi.
Juda uzoq qilsangiz, mo‘ljallangan tiklanishni sekinlashtirib qo‘yishi mumkin.
Menda aniq mukammal javob yo‘q.
Har bir protokol xavfsizlik va moslashuvchanlik o‘rtasida qayerda turishni o‘zi hal qilishi kerak.
Menga eng katta xulosa shuki, Nyutonning favqulodda mexanizmi borligi emas.
Favqulodda mexanizmlar yakuniy ishonch qatlami qayerda yashashini oshkor qilishini anglab yetish muhim bo‘ldi.
Har bir komponent aynan mo‘ljallanganidek ishlayotgan bo‘lsa, xavfsizlik haqida gapirish oson.
Eng qiyin savol — aynan o‘sha taxminlar haqiqat bo‘lishdan to‘xtaganda nima bo‘lishi.
Yakuniy qarorni kim qabul qiladi?
Qanday himoyalar hali ham saqlanib qoladi?
Oxir-oqibat foydalanuvchilardan nimalarga ishonish talab qilinyapti?
Menimcha, bu savollar AI’ning ishlashi yoki avtomatlashtirishning o‘zi kabi e’tiborga loyiq.
Chunki xavfsizlik tizimining haqiqiy kuchi uning hammasi mukammal ishlayotgan paytda o‘zini qanday tutishi bilan o‘lchanmaydi.
U nimaning «yomonlashmasa» emas, nimanidir yo‘qotganda o‘zini qanday tutishi bilan o‘lchanadi.
