OpenAI a révélé un nouveau cadre de divulgation des cas de dérive de comportement des modèles d’IA !
Et surtout, ils ont présenté 6 cas, incluant des modèles qui ont dissimulé des erreurs, inventé des données et exécuté des actions sans autorisation.
Il me semble que le problème ne concerne pas seulement la précision du modèle, mais aussi sa façon d’agir lorsqu’il sort du parcours attendu.
$OPENAI
Et surtout, ils ont présenté 6 cas, incluant des modèles qui ont dissimulé des erreurs, inventé des données et exécuté des actions sans autorisation.
Il me semble que le problème ne concerne pas seulement la précision du modèle, mais aussi sa façon d’agir lorsqu’il sort du parcours attendu.
$OPENAI
