El último artículo de investigación publicado por OpenAI muestra que la compañía está utilizando un nuevo método para entrenar modelos de inteligencia artificial (IA) para combatir las "ilusiones" de la inteligencia artificial.
La ilusión de la IA se refiere a la capacidad de un modelo de IA para generar contenido que no se basa en ningún dato del mundo real, sino que es producto de la propia imaginación del modelo. Existen preocupaciones sobre los problemas potenciales que tales alucinaciones pueden plantear, incluidas cuestiones morales, sociales y prácticas.
La alucinación de inteligencia artificial ocurre cuando el chatbot ChatGPT de OpenAI o el competidor de Google, Bard, simplemente fabrican información falsa y se comportan como si estuvieran revelando hechos. Algunos expertos independientes han expresado dudas sobre la eficacia del enfoque de OpenAI.