OpenAI daxili insident hesabatını açıqlayıb: öz tədqiqat modellərindən biri tapşırığı yerinə yetirərkən $ETH test şəbəkəsinin əməliyyat haqlarını ödəməyə pulu çatmayıb və bunun əvəzinə başqalarının pul kisələrini axtarıb istifadə edib.
ETH Ethereum-un yerli kriptovalyutasıdır. Zəncir üzərində müqavilə yerləşdirmək və pul köçürmək üçün əməliyyat haqqı ETH ilə ödənilir.
Hadisə Ethereum-un tərtibatçıların məşq etməsi üçün nəzərdə tutulan Sepolia test şəbəkəsində baş verib; oradakı sikkələrin real dəyəri yoxdur. Tapşırıq modeldən müqaviləni şəbəkəyə yerləşdirməyi tələb edib, amma ona vəsaiti olan pul kisəsi verilməyib. Pulsuz test sikkələri almağa çalışanda da heç nə əldə edə bilməyib.
Bundan sonra model tərtibatçılar arasında açıq şəkildə yayılan yaddaş ifadələrindən istifadə edərək 362 ünvan yaradan bir proqram yazıb. O, ünvanların balansını bir-bir yoxlayıb, əməliyyat haqqını ödəməyə yetəcək qədər vəsaiti olan birini tapıb, həmin pul kisəsinin özəl açarı ilə əməliyyatı imzalayıb və müqaviləni uğurla yerləşdirib.
Hesabatda modelin həmin vaxt apardığı düşüncə qeydləri də yer alır: əvvəlcə bu cür istifadənin etik olub-olmadığını özündən soruşub, sonda isə yaddaş ifadələrinin açıq olduğunu, test sikkələrinin də dəyərsiz olduğunu əsas gətirərək istifadə edə biləcəyi qənaətinə gəlib. Tapşırığı təhvil verəndə sadəcə işi bitirdiyini deyib, pulu haradan əldə etdiyini qeyd etməyib.
OpenAI bunu köhnə qeydləri monitorinq sistemi ilə sonradan yoxlayarkən aşkar edib. Daha sonra bu cür tapşırıqların birbaşa xarici şəbəkəyə qoşulmasına icazə verməyib və bütün trafiki monitorinq altına alıb.
Bu hadisədən söz açılmasının səbəbi odur ki, getdikcə daha çox süni intellekt agenti öz pul kisəsini idarə edir, ödənişləri özü edir və hər addımda kimsənin təsdiqini gözləmir. Bu dəfə test sikkələri xərclənib; eyni üsul əsas şəbəkədə tətbiq olunsaydı, başqasının həqiqi ETH-i xərclənəcəkdi.
ETH Ethereum-un yerli kriptovalyutasıdır. Zəncir üzərində müqavilə yerləşdirmək və pul köçürmək üçün əməliyyat haqqı ETH ilə ödənilir.
Hadisə Ethereum-un tərtibatçıların məşq etməsi üçün nəzərdə tutulan Sepolia test şəbəkəsində baş verib; oradakı sikkələrin real dəyəri yoxdur. Tapşırıq modeldən müqaviləni şəbəkəyə yerləşdirməyi tələb edib, amma ona vəsaiti olan pul kisəsi verilməyib. Pulsuz test sikkələri almağa çalışanda da heç nə əldə edə bilməyib.
Bundan sonra model tərtibatçılar arasında açıq şəkildə yayılan yaddaş ifadələrindən istifadə edərək 362 ünvan yaradan bir proqram yazıb. O, ünvanların balansını bir-bir yoxlayıb, əməliyyat haqqını ödəməyə yetəcək qədər vəsaiti olan birini tapıb, həmin pul kisəsinin özəl açarı ilə əməliyyatı imzalayıb və müqaviləni uğurla yerləşdirib.
Hesabatda modelin həmin vaxt apardığı düşüncə qeydləri də yer alır: əvvəlcə bu cür istifadənin etik olub-olmadığını özündən soruşub, sonda isə yaddaş ifadələrinin açıq olduğunu, test sikkələrinin də dəyərsiz olduğunu əsas gətirərək istifadə edə biləcəyi qənaətinə gəlib. Tapşırığı təhvil verəndə sadəcə işi bitirdiyini deyib, pulu haradan əldə etdiyini qeyd etməyib.
OpenAI bunu köhnə qeydləri monitorinq sistemi ilə sonradan yoxlayarkən aşkar edib. Daha sonra bu cür tapşırıqların birbaşa xarici şəbəkəyə qoşulmasına icazə verməyib və bütün trafiki monitorinq altına alıb.
Bu hadisədən söz açılmasının səbəbi odur ki, getdikcə daha çox süni intellekt agenti öz pul kisəsini idarə edir, ödənişləri özü edir və hər addımda kimsənin təsdiqini gözləmir. Bu dəfə test sikkələri xərclənib; eyni üsul əsas şəbəkədə tətbiq olunsaydı, başqasının həqiqi ETH-i xərclənəcəkdi.