Qisqacha xulosa
OpenAI sun’iy intellekt superintellektining xavflari haqida xabardorlikni oshirmoqda va bu muammolarni hal qilish uchun maxsus jamoa tuzmoqda.
Kompaniya superintellektni insoniy qadriyatlar va niyatlarga muvofiqlashtirish hamda yangi boshqaruv institutlarini tashkil etish muhimligini ta’kidlamoqda.
OpenAI umumiy sun’iy intellektni inson manfaatlariga muvofiqlashtirish jiddiy xavflarni keltirib chiqarishini tan oladi va bu butun insoniyatning birgalikdagi sa’y-harakatlarini talab qilishi mumkin.
OpenAI bosh direktori Sem Altman sun’iy intellekt superintellektining ehtimoliy xavflari haqida xabardorlikni oshirish bo‘yicha global kampaniyani boshladi. Bunda mashinalar inson aqlidan o‘zib ketishi va nazoratdan chiqishi mumkin.
Bu xavotirlarga javoban, OpenAI yaqinda shu o‘n yillik ichida paydo bo‘lishi mumkin bo‘lgan superintellekt bilan bog‘liq xatarlarni bartaraf etish usullarini ishlab chiqish vazifasi yuklatilgan maxsus jamoa tuzilganini e’lon qildi.
Kompaniyaning ta’kidlashicha, superintellektni samarali boshqarish uchun yangi boshqaruv institutlarini tashkil etish hamda superintellektni insoniy qadriyatlar va niyatlarga moslashtirishdek muhim muammoni hal qilish zarur.
OpenAI o‘tgan yili e’lon qilingan blog postida AGI (umumiy sun’iy intellekt)ni moslashtirish insoniyat uchun jiddiy xatarlarni keltirib chiqarishini va butun insoniyatning birgalikdagi sa’y-harakatini talab qilishi mumkinligini tan olgan.
“Superalignment” deb nomlangan yangi jamoa mashinaviy o‘rganish sohasidagi yetakchi tadqiqotchilar va muhandislardan tuzilgan. OpenAI hammuassisi va bosh olimi Ilya Sutskever hamda moslashtirish bo‘limi rahbari Jan Leike ushbu ishga yo‘l-yo‘riq ko‘rsatmoqda.
Superintellektni moslashtirish bilan bog‘liq asosiy texnik muammolarni hal qilish uchun OpenAI shu paytgacha qo‘lga kiritgan hisoblash resurslarining 20 foizini moslashtirish muammosiga bag‘ishlash majburiyatini oldi. Kompaniya bu muammolarni to‘rt yil ichida hal qilishni kutmoqda.
Superalignment jamoasining asosiy maqsadi inson darajasida ishlaydigan, avtomatlashtirilgan moslashtirish tadqiqotchisini yaratishdir. Buning uchun superintellektual sun’iy intellekt tizimlarini samarali moslashtira oladigan va tezlik hamda aniqlik borasida insonlardan ustun keladigan sun’iy intellekt tizimlarini yaratish kerak.
Ushbu marraga erishish uchun jamoa boshqa sun’iy intellekt tizimlarini baholashda sun’iy intellekt tizimlaridan foydalanadigan, keng miqyosda qo‘llash mumkin bo‘lgan o‘qitish usulini ishlab chiqishga e’tibor qaratadi. Ular ehtimoliy muammoli xatti-harakatlarni izlashni avtomatlashtirish orqali yaratilgan modelni sinovdan o‘tkazadi. Shuningdek, ularni aniqlash imkoniyatini baholash uchun ataylab noto‘g‘ri yo‘naltirilgan modellarni o‘qitib, moslashtirish jarayoni qat’iy stress-sinovdan o‘tkaziladi.
OpenAI’ning superintellekt xatarlarini bartaraf etishga qaratilgan sa’y-harakatlari mas’uliyatli va moslashtirilgan sun’iy intellektni rivojlantirish yo‘lida muhim qadamdir. Yetakchi tadqiqotchilar jamoasini tuzib, hisoblash resurslarining katta qismini ajratish orqali kompaniya superintellektning paydo bo‘lishi bilan bog‘liq ehtimoliy xatarlarni oldindan kamaytirishga sodiqligini namoyon etmoqda. Ushbu ulkan safarga otlanar ekan, OpenAI sun’iy intellekt davrida insoniyat kelajagini himoya qilish yo‘lida hamkorlik va hamjihatlik uchun namuna yaratmoqda.