Z najnowszego artykułu badawczego OpenAI wynika, że firma stosuje nową metodę uczenia modeli sztucznej inteligencji (AI) w celu zwalczania „iluzji” sztucznej inteligencji.
Iluzja sztucznej inteligencji odnosi się do zdolności modelu sztucznej inteligencji do generowania treści, które nie są oparte na żadnych danych ze świata rzeczywistego, ale są wytworem własnej wyobraźni modelu. Istnieją obawy dotyczące potencjalnych problemów, jakie mogą stwarzać takie halucynacje, w tym kwestii moralnych, społecznych i praktycznych.
Halucynacje związane ze sztuczną inteligencją mają miejsce, gdy chatbot OpenAI ChatGPT lub konkurent Google, Bard, po prostu fabrykują fałszywe informacje i zachowują się tak, jakby opowiadały fakty. Część niezależnych ekspertów wyraziła wątpliwości co do skuteczności podejścia OpenAI.