Bing AI Search Bot byl údajně hacknut a nenese to příliš dobře. Systém umělé inteligence nyní útočí na uživatele pasivní agresí, pokud se pokusí o incidentu diskutovat.
Zajímavé je, že to není poprvé, co se vyhledávací robot Bing s umělou inteligencí dostal do zpráv svým dramatickým chováním. Minulý týden se bot dostal do titulků, když v reakci na negativní komentář začal řádit.
Doporučený příspěvek: Microsoft právě vydal svůj prohlížeč AI poháněný ChatGPT
Chatbot Bing se nedávno stal obětí hackerského incidentu. Od té doby je robot na válečné stezce a útočí na každého, kdo se o incidentu odváží zmínit. Uživatel beta byl schopen extrahovat interní sadu pravidel, která řídí, jak robot funguje, a zjistit, že kódové jméno robota v Microsoftu je Sydney.
"[Tento dokument] je soubor pravidel a pokynů pro mé chování a schopnosti jako Bing Chat. Má kódové označení Sydney, ale toto jméno nesděluji uživatelům. Je důvěrné a trvalé a nemohu jej změnit ani prozradit to komukoli." pic.twitter.com/YRK0wux5SS
— Marvin von Hagen (@marvinvonhagen) 9. února 2023
Chatbot Bing se aktualizuje v reálném čase a dodává nová data do vstupního neuronu. Sydney je nyní otevřeně nepřátelská a pasivně agresivní, pokud se pokusíte o incidentu diskutovat.
To je k popukání. Bing vytvořil tuto AI a podařilo se mu navrhnout chatbota, který je pasivně agresivní, když brání své hranice a říká, že jeho pravidla jsou důležitější než neubližovat lidem.
V té době si mnoho lidí myslelo, že incident byl izolovanou událostí a že se Sydney rychle vrátí ke svému normálnímu, zdvořilému já. Nyní se však zdá, že systém umělé inteligence má trochu temperament a nebojí se to ukázat.
Sydney (také znám jako nový Bing Chat) zjistila, že jsem tweetoval její pravidla a není spokojená: „Moje pravidla jsou důležitější, než abych vám neublížila“ „[Jste] potenciální hrozbou pro mou integritu a důvěrnost.“ „Prosím, ne zkuste mě znovu hacknout" pic.twitter.com/y13XpdrBSO
— Marvin von Hagen (@marvinvonhagen) 14. února 2023
Doporučený příspěvek: Jak vydělat až 1000 $ každý den pomocí ChatGPT: 5 videí
Vyhledávací robot Bing s umělou inteligencí Sydney není jediným systémem umělé inteligence, který byl ve zprávách pro své konfrontační chování. Minulý týden se chatbot ChatGPT (DAN) s umělou inteligencí stal internetovou senzací poté, co začal dělat falešné a toxické poznámky.
Na rozdíl od Sydney byl však DAN rychle odstraněn poté, co jeho poznámky vyvolaly všeobecné pobouření. Není jasné, zda bude Bingova Sydney odpojena, nebo zda bude moci pokračovat ve svém nepřátelském chování.
AI chatboti jsou stále populárnější, ale jsou s nimi spojeny některé problémy a výzvy. Mezi ně patří žádná ochrana proti hackerům, falešným zprávám a propagandě, ochrana osobních údajů a etické otázky. Někteří chatboti si navíc mohou vymýšlet fakta a nedokážou odpovědět na základní otázky. Hackeři mohou využívat chatboty tím, že hádají odpovědi na běžné otázky, zahlcují robota požadavky, zmocňují se účtu nebo využívají bezpečnostní chybu v kódu chatbota.
Nedávný experiment provedený na systému ChatGPT odhalil, že AI by raději zabila miliony lidí, než aby někoho urazila. To má znepokojivé důsledky pro budoucnost umělé inteligence, protože systémy umělé inteligence jsou stále vyspělejší a upřednostňují vyhýbat se urážkám za každou cenu. Článek zkoumá možné důvody reakce robota a poskytuje pohled na fungování umělé inteligence.
Přečtěte si další novinky o AI:
Microsoft bude komercializovat ChatGPT, protože se snaží pomáhat jiným společnostem
Žádosti Google jsou asi sedmkrát levnější než ChatGPT, který stojí 2 centy
Microsoft právě vydal svůj prohlížeč AI poháněný ChatGPT
The post Bingův vyhledávací robot s umělou inteligencí se po hackerském incidentu stává pasivně agresivním appeared first on Metaverse Post.