OpenAI ආසන්න AI සංවර්ධනය සඳහා ආරක්ෂක යෝජනා පළ කරයි
CNBC වාර්තාවකට අනුව, සඳුදා OpenAI විසින් ආසන්න (frontier) කෘත්රිම බුද්ධිය (artificial intelligence) සංවර්ධනයේ ආරක්ෂාව සහ ආරක්ෂිතභාවය පිළිබඳ යෝජනා පළ කර තිබේ. එහි අවධානය යොමු කර ඇත්තේ අනුකූලතා (alignment) පර්යේෂණ සහ නැවත නැවත ස්වයං-වැඩි දියුණු වීම (recursive self-improvement, හෝ RSI) වෙතයි. ආසන්න ප්රමිතීන් (frontier standards) සංවර්ධනය කිරීමට ජාත්යන්තර සහයෝගීතාව අවශ්ය බවත්, ලොව පුරා පවතින AI ආරක්ෂණ ආයතනවල කටයුතුවලට මත තැබීමට නියාමකයින්ට ඉල්ලා සිටින බවත් සමාගම පවසයි. OpenAI කියා සිටියේ ප්රමිතීන් ආසන්න AI ආකෘති (models) සහ එම ආකෘති සංවර්ධනය කරනවන්ට (developers) කේන්ද්ර කර ගත යුතු බවත්, RSI ඇතුළුව ස්වයංක්රීය AI පර්යේෂකයින් සඳහා ප්රතිලාභ-අවදානම් කළමනාකරණය (benefit-risk management) මගින් ප්රයෝජන ලැබිය යුතු බවත්ය. සමාගම තවදුරටත් පැවසුවේ, සම්පූර්ණ ස්වයංක්රීය RSI අද සිදුවෙන්නේ නැති බවත්, එය ආරක්ෂිත ලෙස කළ හැකි නම් මිස එය අනුගමනය නොකළ යුතු බවත්ය. AI සංවර්ධනය කෙරෙහි ප්රායෝගික පාලනයක් මිනිසුන්ට නොලැබෙන තත්ත්වයක් ඇතිවිය හැකි බවට අනතුරු අඟවමින් සිටියේය. පසුගිය සතියේදී, Anthropic විසින් ආසන්න AI ආකෘති ආරක්ෂිතව සංවර්ධනය කිරීම සඳහා තමන්ගේම අදහස්ද නිකුත් කර තිබුණි.
$OPENAI
CNBC වාර්තාවකට අනුව, සඳුදා OpenAI විසින් ආසන්න (frontier) කෘත්රිම බුද්ධිය (artificial intelligence) සංවර්ධනයේ ආරක්ෂාව සහ ආරක්ෂිතභාවය පිළිබඳ යෝජනා පළ කර තිබේ. එහි අවධානය යොමු කර ඇත්තේ අනුකූලතා (alignment) පර්යේෂණ සහ නැවත නැවත ස්වයං-වැඩි දියුණු වීම (recursive self-improvement, හෝ RSI) වෙතයි. ආසන්න ප්රමිතීන් (frontier standards) සංවර්ධනය කිරීමට ජාත්යන්තර සහයෝගීතාව අවශ්ය බවත්, ලොව පුරා පවතින AI ආරක්ෂණ ආයතනවල කටයුතුවලට මත තැබීමට නියාමකයින්ට ඉල්ලා සිටින බවත් සමාගම පවසයි. OpenAI කියා සිටියේ ප්රමිතීන් ආසන්න AI ආකෘති (models) සහ එම ආකෘති සංවර්ධනය කරනවන්ට (developers) කේන්ද්ර කර ගත යුතු බවත්, RSI ඇතුළුව ස්වයංක්රීය AI පර්යේෂකයින් සඳහා ප්රතිලාභ-අවදානම් කළමනාකරණය (benefit-risk management) මගින් ප්රයෝජන ලැබිය යුතු බවත්ය. සමාගම තවදුරටත් පැවසුවේ, සම්පූර්ණ ස්වයංක්රීය RSI අද සිදුවෙන්නේ නැති බවත්, එය ආරක්ෂිත ලෙස කළ හැකි නම් මිස එය අනුගමනය නොකළ යුතු බවත්ය. AI සංවර්ධනය කෙරෙහි ප්රායෝගික පාලනයක් මිනිසුන්ට නොලැබෙන තත්ත්වයක් ඇතිවිය හැකි බවට අනතුරු අඟවමින් සිටියේය. පසුගිය සතියේදී, Anthropic විසින් ආසන්න AI ආකෘති ආරක්ෂිතව සංවර්ධනය කිරීම සඳහා තමන්ගේම අදහස්ද නිකුත් කර තිබුණි.
$OPENAI
