O último artigo de pesquisa divulgado pela OpenAI mostra que a empresa está usando um novo método para treinar modelos de inteligência artificial (IA) para combater “ilusões” de inteligência artificial.
A ilusão de IA refere-se à capacidade de um modelo de IA de gerar conteúdo que não é baseado em dados do mundo real, mas sim um produto da imaginação do próprio modelo. Existem preocupações sobre os problemas potenciais que tais alucinações podem representar, incluindo questões morais, sociais e práticas.
A alucinação da inteligência artificial ocorre quando o chatbot ChatGPT da OpenAI ou o concorrente do Google, Bard, estão simplesmente fabricando informações falsas e se comportando como se estivessem divulgando fatos. Alguns especialistas independentes expressaram dúvidas sobre a eficácia da abordagem da OpenAI.