L’ultimo documento di ricerca pubblicato da OpenAI mostra che la società sta utilizzando un nuovo metodo per addestrare modelli di intelligenza artificiale (AI) per combattere le “illusioni” dell’intelligenza artificiale.
L’illusione dell’intelligenza artificiale si riferisce alla capacità di un modello di intelligenza artificiale di generare contenuti che non si basano su dati del mondo reale ma sono invece un prodotto dell’immaginazione del modello. Ci sono preoccupazioni sui potenziali problemi che tali allucinazioni possono porre, comprese questioni morali, sociali e pratiche.
L'allucinazione dell'intelligenza artificiale si verifica quando il chatbot ChatGPT di OpenAI o il concorrente di Google Bard stanno semplicemente fabbricando informazioni false e si comportano come se stessero raccontando fatti. Alcuni esperti indipendenti hanno espresso dubbi sull'efficacia dell'approccio di OpenAI.