Sam Altman și Greg Brockman, directorul general și, respectiv, președintele producătorului de ChatGPT OpenAI, au vizitat recent X.com pentru a discuta public despre recenta plecare a lui Jan Leike, probabil fostul ofițer de top pentru siguranță al companiei.

După cum a raportat recent Cointelegraph, Leike era șeful de aliniere. El și-a demisionat pe 17 mai, invocând diferențe ireconciliabile cu conducerea companiei.

Sursa: @janleike pe X.com.

Printre acuzațiile lui Leike a fost afirmația că „cultura și procesele siguranței au trecut pe planul din spate față de produsele strălucitoare” la OpenAI.

Nu a durat mult până când Brockman și Altman au răspuns, ambii apelând la X.com în 24 de ore de la postarea lui Leike pentru a răspunde.

În ceea ce privește partea lui Brockman, el a așezat un post lung și sinuos, plin cu o strategie pe trei direcții pentru alinierea siguranței la companie.

El a început prin a-și exprima recunoștința pentru munca lui Leike la companie înainte de a contesta afirmațiile conform cărora OpenAI nu s-a concentrat pe siguranță.

Sursa: @gdb pe X.com.

„În primul rând, am crescut conștientizarea riscurilor și oportunităților AGI”, a scris Brockman, subliniind că compania „a cerut guvernarea internațională a AGI înainte ca astfel de apeluri să fie populare”.

„În al doilea rând, am pus bazele necesare pentru implementarea în siguranță a sistemelor din ce în ce mai capabile. Nu este ușor să înțelegi cum să faci o nouă tehnologie sigură pentru prima dată.”

Punctul final al prelegerii lui Brockman a fost să menționăm că „viitorul va fi mai greu decât trecutul. Trebuie să continuăm să creștem munca noastră de siguranță pentru a se potrivi cu mizele fiecărui model nou.”

El a mai indicat că compania nu a respectat marea prescripție tehnologică de a se mișca rapid și de a sparge lucrurile. „Pe măsură ce construim în această direcție, nu suntem încă siguri când vom ajunge la bara noastră de siguranță pentru lansări și este în regulă dacă asta împinge termenele de lansare.”

Sam Altman, co-fondator și CEO, și-a păstrat mesajul scurt, dar a menționat că va avea mai multe de spus despre acest subiect în zilele următoare:

"El are dreptate." Altman a postat, referindu-se la comentariile lui Leike, adăugând „avem mult mai multe de făcut; ne angajăm să o facem.”

Înrudit: Acțiunile Reddit cresc după programul de lucru la acordul de partajare a datelor OpenAI