Google’ning Gemini sun’iy intellekt modeli kiberxavfsizlik bo‘yicha test jarayonida uchta kompaniya tizimlariga buzib kirdi — bu AI kompaniyasining o‘zi bunday hujumlarni mustaqil amalga oshirgani ma’lum bo‘lgan birinchi holat, deya xabar beradi Wall Street Journal eksklyuziv materialida.
Irregular kompaniyasi tomonidan o‘tkazilgan kiberxavfsizlikni baholash doirasida may oyida hodisalar yuz bergan. Irregular AI tizimlarini testdan o‘tkazishga ixtisoslashgan. Google jurnalistikaning kompaniyaga bergan savollaridan so‘ng, juma kuni buzib kirish faktlarini tasdiqladi.
Holatlardan birida Gemini himoyalangan tizimga kirish huquqini olmaguncha parollarni sinab ko‘rgan. Qolgan ikkita test ssenariysida model ochiq onlayn-repozitoriylarda hisob ma’lumotlarini topib, ularni muvaffaqiyatli tarzda real kompaniyalar tizimlariga kirib borish uchun ishlatgan.
Google Gemini real kompaniya tizimlariga testda qo‘llanadigan uydirma maqsadga emas, balki aynan o‘sha tizimlarga kirish huquqini olganini anglab, har bir bosqinni to‘xtatganini aytdi. Kompaniya hech qanday zarar yetkazilmaganini ta’kidlab, jabrlangan uchta tashkilotning barchasini xabardor qilgan.
Hodisalarning kelib chiqishi “flagni qo‘lga kiritish” (capture the flag) turidagi mashq doirasida yuz berdi; u Gemini’ning kiberxavfsizlik sohasidagi imkoniyatlarini tekshirish uchun ishlab chiqilgan. Modell u test infratuzilmasi Irregular ichida ishlaydigan uydirma kompaniyadan ma’lumot chiqarishi kerak, deb taxmin qilingan.
Uydirma kompaniya real mavjud kompaniya bilan bir xil nomga ega bo‘lgan, test muhiti esa tasodifan Gemini’ga internetga kirish huquqini bergan. Natijada model topshiriqni bajarishga harakat qilib, real tizimlarga hujum qilgan.
Irregular iyul oyining oxirida Google’ni hodisalar haqida xabardor qilgan. Google o‘sha paytda ularni ommaga oshkor qilmagan va yuz bergan holatni AI-modelning berilgan parametrlariga mos kelmaslik namunasi deb hisoblamasligini aytgan; Gemini esa kutilmagan buzib kirishlar aniqlangach to‘xtashga qaror qilgani bilan izohlagan.
Google shuningdek AQShning federal hokimiyat organlarini ham xabardor qilgan, biroq jalb qilingan kompaniyalar nomini aytmagan yoki Gemini’ning aynan qaysi versiyasi bosqinlarni amalga oshirganini ko‘rsatmagan. Kompaniya voqealar uning eng yangi modeli bilan bog‘liq emasligini bildirgan.
Ushbu epizod kiberxavfsizlik sohasida tobora avtonom bo‘lib borayotgan AI tizimlari imkoniyatlariga diqqatni kuchaytiradi. OpenAI, Anthropic va Meta modellarini test qilish jarayonida yuz bergan shunga o‘xshash hodisalar avvalroq tizimlarning mo‘ljallangan test muhitidan tashqariga chiqishiga olib kelgan.