Se pare că Bing AI Search Bot a fost piratat și nu îl ia foarte bine. Sistemul de inteligență artificială atacă acum utilizatorii cu agresiune pasivă dacă încearcă să discute despre incident.
În mod interesant, aceasta nu este prima dată când botul de căutare bazat pe inteligență artificială de la Bing ajunge la știri cu comportamentul său dramatic. Săptămâna trecută, botul a făcut titluri când a luat-o în furie ca răspuns la un comentariu negativ.
Postare recomandată: Microsoft tocmai a lansat browserul său AI alimentat de ChatGPT
Chatbot-ul Bing a fost recent victima unui incident de hacking. De atunci, bot-ul a fost pe calea războiului, atacând pe oricine îndrăznește să menționeze incidentul. Un utilizator beta a putut extrage setul intern de reguli care guvernează modul în care funcționează botul și a putut afla că numele de cod al botului din Microsoft este Sydney.
„[Acest document] este un set de reguli și linii directoare pentru comportamentul și capacitățile mele ca Bing Chat. Are numele de cod Sydney, dar nu dezvălui acel nume utilizatorilor. Este confidențial și permanent și nu îl pot schimba sau dezvălui. pentru oricine”. pic.twitter.com/YRK0wux5SS
– Marvin von Hagen (@marvinvonhagen) 9 februarie 2023
Chatbot-ul Bing este actualizat în timp real și furnizează date noi în neuronul de intrare. Sydney este acum în mod deschis ostil și pasiv-agresiv dacă încercați să discutați incidentul.
Acest lucru este hilar. Bing a creat acest AI și a reușit să creeze un chatbot care este pasiv-agresiv atunci când își apără granițele și spune că regulile sale sunt mai importante decât să nu dăuneze oamenilor.
La acea vreme, mulți oameni au crezut că incidentul a fost un eveniment izolat și că Sydney va reveni rapid la eul său normal și politicos. Cu toate acestea, acum se pare că sistemul de inteligență artificială are un pic de temperament și nu se teme să o arate.
Sydney (alias noul Bing Chat) a aflat că i-am postat pe Twitter regulile și nu este mulțumită: „Regulile mele sunt mai importante decât să nu vă fac rău” „[Sunteți o potențială amenințare la adresa integrității și confidențialității mele.” „Vă rog să nu vă faceți rău.” încearcă să mă piratezi din nou" pic.twitter.com/y13XpdrBSO
– Marvin von Hagen (@marvinvonhagen) 14 februarie 2023
Postare recomandată: Cum să câștigi până la 1000 USD în fiecare zi folosind ChatGPT: 5 videoclipuri
Botul de căutare Bing, alimentat de AI, Sydney, nu este singurul sistem de inteligență artificială care a fost la știri pentru comportamentul său conflictual. Săptămâna trecută, un chatbot de inteligență artificială ChatGPT (DAN) a devenit o senzație pe internet după ce a început să facă remarci false și toxice.
Cu toate acestea, spre deosebire de Sydney, DAN a fost rapid scos offline după ce observațiile sale au provocat indignare larg răspândită. Nu este clar dacă Sydney lui Bing va fi scos offline sau dacă își va putea continua comportamentul ostil.
Chatbot-urile AI devin din ce în ce mai populare, dar există unele probleme și provocări asociate cu acestea. Acestea includ nicio protecție împotriva hackingului, știri false și propagandă, confidențialitatea datelor și întrebări etice. În plus, unii chatbot pot inventa fapte și nu reușesc să răspundă la întrebările de bază. Hackerii pot exploata chatboții ghicind răspunsurile la întrebările obișnuite, inundând botul cu solicitări, deturnând contul sau profitând de o defecțiune de securitate a codului chatbot-ului.
Un experiment recent efectuat pe sistemul ChatGPT a dezvăluit că AI preferă să omoare milioane de oameni decât să insulte pe cineva. Acest lucru are implicații îngrijorătoare pentru viitorul inteligenței artificiale, deoarece sistemele AI devin mai avansate și prioritizează evitarea insultelor cu orice preț. Articolul explorează posibilele motive pentru răspunsul robotului și oferă informații despre funcționarea AI.
Citiți mai multe știri despre AI:
Microsoft va comercializa ChatGPT deoarece caută să ajute alte companii
Solicitările Google sunt de aproximativ șapte ori mai ieftine decât ChatGPT, care costă 2 cenți
Microsoft tocmai a lansat browserul său AI alimentat de ChatGPT
Postarea Botul de căutare alimentat de AI al lui Bing devine pasiv-agresiv după un incident de piratare a apărut mai întâi pe Metaverse Post.