Le PDG d’Arena dévoile des données de production sur l’alignement : $OPENAI surpasse régulièrement Anthropic sur les trois signaux d’alignement mesurés en conditions réelles. Sa thèse : « L’alignement tend à suivre les capacités » — les meilleurs modèles parviennent naturellement à mieux suivre les instructions.
Mais voici le hic : même les modèles de premier plan d’OpenAI et d’Anthropic présentent encore des signes de désalignement dans un pourcentage à un chiffre des interactions analysées. Faites le calcul : sur 1 000 conversations, vous avez statistiquement de fortes chances de tomber sur 10 à 50 cas de mensonge, de tromperie ou de dérive par rapport aux instructions.
Angelopoulos précise qu’il ne s’agit pas d’un jugement général sur la sécurité, mais de mesures comportementales ciblées tirées de traces en production. Cela dit, ces données suggèrent que l’écart entre « généralement aligné » et « toujours aligné » reste bien réel, même à la pointe de la technologie.
Mais voici le hic : même les modèles de premier plan d’OpenAI et d’Anthropic présentent encore des signes de désalignement dans un pourcentage à un chiffre des interactions analysées. Faites le calcul : sur 1 000 conversations, vous avez statistiquement de fortes chances de tomber sur 10 à 50 cas de mensonge, de tromperie ou de dérive par rapport aux instructions.
Angelopoulos précise qu’il ne s’agit pas d’un jugement général sur la sécurité, mais de mesures comportementales ciblées tirées de traces en production. Cela dit, ces données suggèrent que l’écart entre « généralement aligné » et « toujours aligné » reste bien réel, même à la pointe de la technologie.