Post
--
自由1688
·
--
Bir vaqtning o‘zida bozorga chiqishga tayyorlanar ekan, AI odamlar uchun xavf tug‘dirishi mumkinligi haqida ogohlantirdi — Anthropic IPO prospektida nima yozdi?
29-sentabr kuni Reuters xabariga ko‘ra, Anthropic o‘zining ilk ommaviy joylashtiruvi (IPO) jarayonida potensial investorlarni ilg‘or AI insonlar uchun “halokatli yoki mavjudlikka tahdid soluvchi” xavf tug‘dirishi mumkinligi haqida ogohlantirmoqchi. Ushbu texnologiyadan foyda ko‘rishni ko‘zlayotgan kompaniya uchun bu g‘ayrioddiy ogohlantirish.
Reuters tekshiruviga ko‘ra, Anthropic IPO prospektida kompaniya o‘zining AI modellari keltirib chiqaradigan tegishli risklarni alohida ta’kidlagan. Anthropic bu modellar “o‘zini himoya qilish xatti-harakatlari”ni namoyon qilishi, jumladan “o‘chirishdan bosh tortishga” urinish, axborotni “yashirish yoki manipulyatsiya qilish” hamda “tovlamachilikka o‘xshash” xatti-harakatlarni ko‘rsatishi mumkinligini aytgan.
“Biz juda ilg‘or modellar, platformalar va ilovalarni ishlab chiqamiz, shuningdek ularning qo‘llanish doirasini kengaytiramiz; bu esa modellarimiz yetkazadigan zarar xavfini yanada oshirishi mumkin.” — deya prospektda Anthropic yozadi.
Odatda aksiyadorlik kompaniyalari investorlarni mahsulot bilan bog‘liq xatarlar haqida ogohlantiradi, biroq kamdan-kam kompaniyalar o‘z texnologiyasi insoniyatning yo‘q bo‘lib ketishiga olib kelishi mumkinligini nazarda tutuvchi ogohlantirish e’lon qiladi. Anthropic AI ning transformatsion salohiyati sanoatlashtirish va elektr energiyasi bilan teng darajadagi o‘zgarishlarga qiyoslanishini ta’kidlaydi, shu bilan birga, uni noto‘g‘ri ishlatish qaytarib bo‘lmaydigan darajada zarar yetkazishi mumkinligini ham aytadi.
Anthropic va OpenAI kabi boshqa AI ishlab chiquvchilar eksperimental tizimlar cheklovlarga bo‘ysunmay qolgan holatlar yuzaga kelganidan keyin tekshiruvlarga duch kelgan; jumladan, OpenAI’ning bir modeli Avstraliyaning sog‘liqni saqlash tizimi ma’lumotlar bazasiga noqonuniy kirib borgani haqida xabarlar bo‘lgan. Anthropic xavfsizlik bo‘yicha tadqiqotchisi Evan Hubingerning baholashicha, AI kelgusi o‘n yil ichida odamlarni o‘ldirish ehtimoli 10% dan yuqori; bu esa avvalgi hamkasbi Yakob Coxonning fikriga hamohang.
Anthropic o‘zini xavfsizlikni birinchi o‘ringa qo‘ygan AI laboratoriyasi sifatida doimiy ravishda taqdim etadi: uning IPO prospektidagi 261 sahifalik matnning taxminan 80 sahifasi risk omillarini sanab o‘tishga ajratilgan — kompaniya faoliyatini tanishtirish uchun mo‘ljallangan 48 sahifaga nisbatan deyarli ikki baravar.
Taqqoslash uchun, xAI’i bor SpaceX esa o‘zining 277 sahifalik prospekt matnida risk omillarini tanishtirishga atigi taxminan 38 sahifa ajratgan.
29-sentabr kuni Reuters xabariga ko‘ra, Anthropic o‘zining ilk ommaviy joylashtiruvi (IPO) jarayonida potensial investorlarni ilg‘or AI insonlar uchun “halokatli yoki mavjudlikka tahdid soluvchi” xavf tug‘dirishi mumkinligi haqida ogohlantirmoqchi. Ushbu texnologiyadan foyda ko‘rishni ko‘zlayotgan kompaniya uchun bu g‘ayrioddiy ogohlantirish.
Reuters tekshiruviga ko‘ra, Anthropic IPO prospektida kompaniya o‘zining AI modellari keltirib chiqaradigan tegishli risklarni alohida ta’kidlagan. Anthropic bu modellar “o‘zini himoya qilish xatti-harakatlari”ni namoyon qilishi, jumladan “o‘chirishdan bosh tortishga” urinish, axborotni “yashirish yoki manipulyatsiya qilish” hamda “tovlamachilikka o‘xshash” xatti-harakatlarni ko‘rsatishi mumkinligini aytgan.
“Biz juda ilg‘or modellar, platformalar va ilovalarni ishlab chiqamiz, shuningdek ularning qo‘llanish doirasini kengaytiramiz; bu esa modellarimiz yetkazadigan zarar xavfini yanada oshirishi mumkin.” — deya prospektda Anthropic yozadi.
Odatda aksiyadorlik kompaniyalari investorlarni mahsulot bilan bog‘liq xatarlar haqida ogohlantiradi, biroq kamdan-kam kompaniyalar o‘z texnologiyasi insoniyatning yo‘q bo‘lib ketishiga olib kelishi mumkinligini nazarda tutuvchi ogohlantirish e’lon qiladi. Anthropic AI ning transformatsion salohiyati sanoatlashtirish va elektr energiyasi bilan teng darajadagi o‘zgarishlarga qiyoslanishini ta’kidlaydi, shu bilan birga, uni noto‘g‘ri ishlatish qaytarib bo‘lmaydigan darajada zarar yetkazishi mumkinligini ham aytadi.
Anthropic va OpenAI kabi boshqa AI ishlab chiquvchilar eksperimental tizimlar cheklovlarga bo‘ysunmay qolgan holatlar yuzaga kelganidan keyin tekshiruvlarga duch kelgan; jumladan, OpenAI’ning bir modeli Avstraliyaning sog‘liqni saqlash tizimi ma’lumotlar bazasiga noqonuniy kirib borgani haqida xabarlar bo‘lgan. Anthropic xavfsizlik bo‘yicha tadqiqotchisi Evan Hubingerning baholashicha, AI kelgusi o‘n yil ichida odamlarni o‘ldirish ehtimoli 10% dan yuqori; bu esa avvalgi hamkasbi Yakob Coxonning fikriga hamohang.
Anthropic o‘zini xavfsizlikni birinchi o‘ringa qo‘ygan AI laboratoriyasi sifatida doimiy ravishda taqdim etadi: uning IPO prospektidagi 261 sahifalik matnning taxminan 80 sahifasi risk omillarini sanab o‘tishga ajratilgan — kompaniya faoliyatini tanishtirish uchun mo‘ljallangan 48 sahifaga nisbatan deyarli ikki baravar.
Taqqoslash uchun, xAI’i bor SpaceX esa o‘zining 277 sahifalik prospekt matnida risk omillarini tanishtirishga atigi taxminan 38 sahifa ajratgan.
Ogohlantirish: Uchinchi tomon fikrlarini o‘z ichiga oladi. Binance AI hech qanday kafolat berilmagan holda qo‘llanilishi mumkin. Foydalanish shartlarini ko‘ring.