Makalah penelitian terbaru yang dirilis oleh OpenAI menunjukkan bahwa perusahaan tersebut menggunakan metode baru untuk melatih model kecerdasan buatan (AI) guna memerangi "ilusi" kecerdasan buatan.
Ilusi AI mengacu pada kemampuan model AI untuk menghasilkan konten yang tidak didasarkan pada data dunia nyata, melainkan produk imajinasi model itu sendiri. Ada kekhawatiran mengenai potensi masalah yang mungkin ditimbulkan oleh halusinasi tersebut, termasuk masalah moral, sosial dan praktis.
Halusinasi kecerdasan buatan terjadi ketika chatbot ChatGPT OpenAI atau pesaing Google Bard hanya mengarang informasi palsu dan berperilaku seolah-olah mereka mengungkapkan fakta. Beberapa pakar independen menyatakan keraguannya terhadap efektivitas pendekatan OpenAI.