အကျဉ်းချုပ်
OpenAI သည် AI စူပါဉာဏ်ရည်၏ အန္တရာယ်များအကြောင်း အသိပညာမြှင့်တင်နေပြီး ထိုစိုးရိမ်မှုများကို ကိုင်တွယ်ဖြေရှင်းရန် သီးသန့်အဖွဲ့တစ်ဖွဲ့ကို ဖွဲ့စည်းနေသည်။
ကုမ္ပဏီသည် စူပါဉာဏ်ရည်ကို လူသားတို့၏ တန်ဖိုးများနှင့် ရည်ရွယ်ချက်များနှင့် ကိုက်ညီစေရန်နှင့် အုပ်ချုပ်မှုဆိုင်ရာ အဖွဲ့အစည်းအသစ်များ တည်ထောင်ရန် အလေးပေးပြောကြားသည်။
AGI ကို လူသားတို့၏ ရည်ရွယ်ချက်များနှင့် ကိုက်ညီစေရန်မှာ သိသာထင်ရှားသော အန္တရာယ်များရှိကြောင်းနှင့် လူသားအားလုံး၏ စုပေါင်းကြိုးပမ်းမှု လိုအပ်နိုင်ကြောင်း OpenAI က အသိအမှတ်ပြုထားသည်။
OpenAI ၏ CEO ဖြစ်သူ Sam Altman သည် စက်များက လူသားဉာဏ်ရည်ကို ကျော်လွန်ကာ ထိန်းချုပ်မရဖြစ်လာနိုင်သည့် AI စူပါဉာဏ်ရည်၏ ဖြစ်နိုင်ခြေရှိသော အန္တရာယ်များအကြောင်း အသိပညာမြှင့်တင်ရန် ကမ္ဘာတစ်ဝန်း လှုပ်ရှားမှုတစ်ရပ်ကို စတင်ဆောင်ရွက်နေသည်။
ဤစိုးရိမ်မှုများကို တုံ့ပြန်သည့်အနေဖြင့်၊ ယခုဆယ်စုနှစ်အတွင်း ပေါ်ပေါက်လာနိုင်သည့် စူပါဉာဏ်ရည်နှင့် ဆက်စပ်သော အန္တရာယ်များကို ကိုင်တွယ်ဖြေရှင်းမည့် နည်းလမ်းများ ဖော်ထုတ်ရန် တာဝန်ပေးထားသည့် အထူးအဖွဲ့တစ်ဖွဲ့ ဖွဲ့စည်းလိုက်ကြောင်း OpenAI က မကြာသေးမီက ကြေညာခဲ့သည်။
စူပါဉာဏ်ရည်ကို ထိရောက်စွာ စီမံခန့်ခွဲရန်အတွက် အုပ်ချုပ်မှုဆိုင်ရာ အဖွဲ့အစည်းအသစ်များ တည်ထောင်ခြင်းနှင့် စူပါဉာဏ်ရည်ကို လူသားတို့၏ တန်ဖိုးထားမှုများ၊ ရည်ရွယ်ချက်များနှင့် ကိုက်ညီအောင် လုပ်ဆောင်ရန်ဟူသော အရေးပါသည့် စိန်ခေါ်မှုကို ဖြေရှင်းခြင်းတို့ လိုအပ်ကြောင်း ကုမ္ပဏီက အလေးပေးပြောကြားထားသည်။
AGI (အထွေထွေရည်ရွယ်ချက်သုံး ဉာဏ်ရည်တု) ကို လူသားတို့၏ ရည်မှန်းချက်များနှင့် ကိုက်ညီအောင် လုပ်ဆောင်ခြင်းတွင် လူသားမျိုးနွယ်အတွက် ကြီးမားသော အန္တရာယ်များ ပါဝင်ကြောင်း၊ ပြီးခဲ့သည့်နှစ်က ထုတ်ပြန်ခဲ့သော ဘလော့ဂ်ပို့စ်တွင် ဖော်ပြထားသည့်အတိုင်း လူသားအားလုံး၏ စုပေါင်းကြိုးပမ်းမှု လိုအပ်လာနိုင်ကြောင်း OpenAI က အသိအမှတ်ပြုထားသည်။
“Superalignment” ဟု အမည်ပေးထားသည့် အသစ်ဖွဲ့စည်းလိုက်သော အဖွဲ့တွင် စက်သင်ယူမှုနယ်ပယ်မှ ထိပ်တန်းသုတေသီများနှင့် အင်ဂျင်နီယာများ ပါဝင်သည်။ OpenAI ၏ ပူးတွဲတည်ထောင်သူနှင့် သိပ္ပံပညာဆိုင်ရာ အကြီးအကဲ Ilya Sutskever နှင့် alignment အကြီးအကဲ Jan Leike တို့က ဤကြိုးပမ်းမှုကို ဦးဆောင်လျက်ရှိသည်။
စူပါဉာဏ်ရည် alignment ၏ အဓိကနည်းပညာဆိုင်ရာ စိန်ခေါ်မှုများကို ဖြေရှင်းရန်အတွက် OpenAI သည် ယခုအချိန်အထိ ရရှိထားသော ကွန်ပျူတာတွက်ချက်မှု အရင်းအမြစ်များ၏ 20% ကို alignment ပြဿနာအတွက် သီးသန့်အသုံးပြုရန် ကတိပြုထားသည်။ လေးနှစ်အတွင်း ဤစိန်ခေါ်မှုများကို ဖြေရှင်းနိုင်မည်ဟု ကုမ္ပဏီက မျှော်လင့်ထားသည်။
စူပါဉာဏ်ရည် alignment အဖွဲ့၏ အဓိကရည်မှန်းချက်မှာ လူသားအဆင့်ရှိ အလိုအလျောက် alignment သုတေသီတစ်ဦးကို ဖော်ထုတ်ရန်ဖြစ်သည်။ ယင်းတွင် စူပါဉာဏ်ရည် AI စနစ်များကို ထိရောက်စွာ alignment လုပ်ပေးနိုင်ပြီး မြန်နှုန်းနှင့် တိကျမှုတို့တွင် လူသားများထက် သာလွန်သည့် AI စနစ်များ ဖန်တီးခြင်း ပါဝင်သည်။
ဤအရေးပါသော မှတ်တိုင်ကို ရောက်ရှိရန် အခြား AI စနစ်များကို အကဲဖြတ်ရန် AI စနစ်များကို အသုံးပြုသည့် အတိုင်းအတာချဲ့ထွင်နိုင်သော လေ့ကျင့်ရေးနည်းလမ်းတစ်ခု ဖော်ထုတ်ရေးကို အဖွဲ့က အာရုံစိုက်သွားမည်ဖြစ်သည်။ ရလဒ်အဖြစ် ရရှိလာသော မော်ဒယ်ကို အန္တရာယ်ဖြစ်စေနိုင်သည့် အပြုအမူများကို အလိုအလျောက် ရှာဖွေခြင်းဖြင့် အတည်ပြုစမ်းသပ်မည်ဖြစ်သည်။ မကိုက်ညီသော မော်ဒယ်များကို ရည်ရွယ်ချက်ရှိရှိ လေ့ကျင့်ပေးကာ ၎င်းတို့ကို ရှာဖွေဖော်ထုတ်နိုင်မှုကို တိုင်းတာခြင်းဖြင့် alignment လုပ်ငန်းစဉ်တစ်ခုလုံးကိုလည်း ပြင်းထန်စွာ ဖိအားပေးစမ်းသပ်သွားမည်ဖြစ်သည်။
စူပါဉာဏ်ရည်၏ အန္တရာယ်များကို ကိုင်တွယ်ဖြေရှင်းရန် OpenAI ၏ ကြိုးပမ်းမှုများသည် တာဝန်ယူမှုရှိပြီး လူသားတို့၏ ရည်မှန်းချက်များနှင့် ကိုက်ညီသည့် AI ဖွံ့ဖြိုးတိုးတက်ရေးကို လိုက်စားရာတွင် အရေးပါသော ရှေ့တိုးခြေလှမ်းတစ်ရပ်ဖြစ်သည်။ ထိပ်တန်းသုတေသီများကို စုစည်းကာ ကြီးမားသော ကွန်ပျူတာတွက်ချက်မှု အရင်းအမြစ်များကို အသုံးပြုရန် ကတိပြုခြင်းဖြင့် စူပါဉာဏ်ရည် ပေါ်ပေါက်လာမှုနှင့် ဆက်စပ်နိုင်သည့် အန္တရာယ်များကို ကြိုတင်လျှော့ချရန် ကုမ္ပဏီ၏ ကတိကဝတ်ကို ပြသနေသည်။ ဤရည်မှန်းချက်ကြီးမားသော ခရီးကို စတင်လျှောက်လှမ်းရာတွင် OpenAI သည် AI ခေတ်ကာလအတွင်း လူသားမျိုးနွယ်၏ အနာဂတ်ကို ကာကွယ်စောင့်ရှောက်ရန် ပူးပေါင်းဆောင်ရွက်မှုနှင့် စည်းလုံးညီညွတ်မှုအတွက် စံနမူနာတစ်ရပ် ချမှတ်ပေးနေသည်။