Întreaga echipă OpenAI concentrată pe pericolele existențiale ale IA fie și-a dat demisia, fie a fost absorbită de alte grupuri de cercetare.

La câteva zile după ce Ilya Sutskever, om de știință șef al OpenAI și unul dintre co-fondatorii companiei, și-a anunțat plecarea, Jan Leike, fostul cercetător DeepMind care era celălalt co-conducător al echipei de super aliniere a OpenAI, a postat pe X că și-a dat demisia.

Potrivit lui Leike, plecarea sa din companie s-a datorat îngrijorărilor sale cu privire la prioritățile acesteia, despre care crede că sunt mai concentrate pe dezvoltarea de produse decât pe siguranța AI.

Sursa: Jan Leike

Leike, într-o serie de postări, a declarat că conducerea OpenAI a greșit în alegerea priorităților de bază și ar trebui să pună accent pe siguranță și pregătire pe măsură ce dezvoltarea Inteligenței Generale Artificiale (AGI) avansează.

AGI este un termen pentru o inteligență artificială ipotetică care poate funcționa la fel sau mai bine decât oamenii într-o serie de sarcini.

După ce a petrecut trei ani la OpenAI, Leike a criticat compania pentru că acordă prioritate dezvoltării de produse spectaculoase în detrimentul dezvoltării unei culturi și procese solide de siguranță AI. El a subliniat nevoia urgentă de alocare a resurselor, în special a puterii de calcul, pentru a sprijini cercetarea vitală a echipei sale în materie de siguranță, care a fost trecută cu vederea.

„...Nu sunt de acord cu conducerea OpenAI cu privire la prioritățile de bază ale companiei de ceva timp până când am ajuns în sfârșit la un punct de rupere. În ultimele luni, echipa mea a navigat împotriva vântului...”

OpenAI a format o nouă echipă de cercetare în iulie anul trecut pentru a se pregăti pentru apariția unei inteligențe artificiale extrem de inteligente, care i-ar putea depăși și depăși pe creatorii săi. Omul de știință și co-fondatorul OpenAI, Ilya Sutskever, a fost numit co-conducător al acestei noi echipe, care a primit 20% din resursele de calcul ale OpenAI.

Înrudit: Acțiunile Reddit cresc după orele de program la acordul de partajare a datelor OpenAI

În urma recentelor demisii, OpenAI a optat pentru dizolvarea echipei „Superalignment” și pentru integrarea funcțiilor acesteia în alte proiecte de cercetare din cadrul organizației. Se pare că această decizie este o consecință a restructurării interne în curs, care a fost inițiată ca răspuns la criza guvernanței din noiembrie 2023.

Sutskever a făcut parte dintr-un efort prin care consiliul de administrație al OpenAI a renunțat pentru scurt timp pe Altman ca CEO în noiembrie anul trecut, înainte ca acesta să fie reangajat ulterior în acest rol, după reacțiile angajaților.

Potrivit The Information, Sutskever a informat angajații că decizia consiliului de a-l înlătura pe Sam Altman și-a îndeplinit responsabilitatea de a garanta că OpenAI dezvoltă AGI care beneficiază întreaga umanitate. Fiind unul dintre cei șase membri ai consiliului, Sutskever a subliniat angajamentul consiliului de a alinia obiectivele OpenAI cu binele mai mare.

Revista: Cum să obțineți predicții cripto mai bune de la ChatGPT, pinul Humane AI trântit: AI Eye