Isang ideya ang patuloy na bumabalik sa akin habang iniisip ko ang Newton Protocol.
Nasanay na tayong ituring ang pahintulot bilang dulo ng isang pasya.
Kapag ipinagkaloob na ang access, ang pagpapatupad ay parang natural na susunod na hakbang.
Para sa mga tao, madalas gumagana ang palagay na iyon dahil patuloy nating inaayos ang ating mga pasya nang hindi man napapansin.
Ang isang ahenteng AI ay hindi.
Sinusunod nito kung ano ang pinahintulutan itong gawin.
Maliit lang ang pagkakaibang iyon hanggang sa magbago ang kapaligiran.
Ang isang wallet ay maaaring may pahintulot pa rin.
Maaaring patunayan pa rin ng isang polisiya.
Ngunit ang orihinal na intensyon ng gumagamit ay maaaring iba na.
Ang agwat sa pagitan ng pahintulot at intensyon ay mas mahalaga kaysa sa unang beses na napagtanto ko.
Habang mas inisip ko ang Newton Protocol, mas naramdaman ko na ang arkitektura nito ay hindi lang nakatuon sa pagpayag sa mga aksyon.
Inihihikayat tayong pag-isipan kung ang isang aksyon ay dapat pa ring mangyari kapag dumating na ang sandali ng pagpapatupad.
Mahalaga ang banayad na pagkakaibang iyon.
Dahil ang mga autonomous na sistema ay hindi laging nabibigo dahil sila ay masama.
Minsan mabibigo sila dahil tapat nilang isinasagawa ang mga pahintulot na hindi na kumakatawan sa tunay na gusto ng gumagamit.
Marahil ang hinaharap ng imprastruktura ng AI ay hindi tungkol sa paggawa ng mas kakayahang mga ahente.
Maaari kasing mahalaga ito sa pagtiyak na ang bawat awtorisadong aksyon ay patuloy na sumasalamin sa tunay na intensyon, kahit na nagbabago ang konteksto.
Habang mas iniisip ko iyon, mas napagtanto ko na ang tiwala ay hindi lang tungkol sa seguridad.
Tungkol ito sa pag-align.
Pagkakahanay sa kung ano ang gusto ng gumagamit, kung ano ang pinapayagan ng polisiya, at kung ano sa huli ang umaabot sa pagpapatupad.
Siguro isa iyan sa mga tahimik na aral na nakatago sa loob ng Newton Protocol.
Hindi iyon ang punto na may umiiral na pahintulot.
Pero ang pahintulot na iyon lamang ay hindi dapat ipagkamaling intensyon.
Huling Kaisipan
Habang nagiging mas independyente ang mga autonomous na sistema, dapat ba ang pag-awtorisa ay sukatin ang access… o dapat ba nitong patuloy na protektahan ang intensyon ng gumagamit?
