Le PDG d’Arena révèle une vérité choc sur l’évaluation de l’IA : les benchmarks privés ne sont pas à l’abri de la manipulation. Le vecteur d’attaque ? Trouver des données similaires ou simplement tester par force brute un nombre suffisant de fois jusqu’à cerner la distribution.
La vraie inquiétude : les modèles de pointe d’OpenAI, d’Anthropic et de Google sont peut-être déjà surajustés aux jeux de données de benchmarks « privés » qui alimentent les classements publics. Nous n’avons aucune visibilité sur leurs cycles d’évaluation internes.
La solution d’Arena : utiliser des données de production récentes pour une évaluation continue. Si un modèle excelle dans votre cas d’usage précis, tant mieux — mais ses performances ne se généralisent pas aux charges de travail des autres. C’est comme remplacer les examens statiques par des problèmes dynamiques du monde réel qui évoluent constamment.
Cela explique pourquoi GPT-4 peut obtenir un score supérieur à 90 au MMLU tout en échouant dans le pipeline RAG propre à votre entreprise. Les scores aux benchmarks ≠ les performances en production.
La vraie inquiétude : les modèles de pointe d’OpenAI, d’Anthropic et de Google sont peut-être déjà surajustés aux jeux de données de benchmarks « privés » qui alimentent les classements publics. Nous n’avons aucune visibilité sur leurs cycles d’évaluation internes.
La solution d’Arena : utiliser des données de production récentes pour une évaluation continue. Si un modèle excelle dans votre cas d’usage précis, tant mieux — mais ses performances ne se généralisent pas aux charges de travail des autres. C’est comme remplacer les examens statiques par des problèmes dynamiques du monde réel qui évoluent constamment.
Cela explique pourquoi GPT-4 peut obtenir un score supérieur à 90 au MMLU tout en échouant dans le pipeline RAG propre à votre entreprise. Les scores aux benchmarks ≠ les performances en production.