Nejnovější výzkumný dokument zveřejněný OpenAI ukazuje, že společnost používá novou metodu k trénování modelů umělé inteligence (AI) pro boj s „iluzemi“ umělé inteligence.
Iluze umělé inteligence označuje schopnost modelu umělé inteligence generovat obsah, který není založen na žádných datech z reálného světa, ale je produktem vlastní představivosti modelu. Existují obavy z potenciálních problémů, které takové halucinace mohou představovat, včetně morálních, sociálních a praktických problémů.
K halucinaci umělé inteligence dochází, když chatbot ChatGPT OpenAI nebo konkurent Googlu Bard jednoduše vymýšlejí nepravdivé informace a chovají se, jako by chrlili fakta. Někteří nezávislí experti vyjádřili pochybnosti o účinnosti přístupu OpenAI.