L’IA devient plus intelligente à une vitesse qui m’inquiète sincèrement.
Regardez les progrès réalisés en seulement 2 ans :
ChatGPT
Raisonnement et analyse : +200–300 %
Programmation et compétences techniques : +300 %
Analyse des données : +300 %
Contexte et mémoire : +200 %
Automatisation : +400 %
Gemini
Capacités d’auto-amélioration : apparemment 3 à 5 fois meilleures.
La compréhension multimodale, le raisonnement approfondi et l’utilisation d’outils ont considérablement progressé.
Claude
SWE-bench Verified : d’environ 49 % fin 2024 à 96–97 % dans les derniers résultats annoncés.
SWE-bench Pro : selon certaines informations, certains des modèles les plus récents approchent les 90 %.
Ces chiffres ne sont pas parfaitement comparables, et l’amélioration des performances aux tests de référence ne signifie pas nécessairement que l’IA apprend de manière autonome.
Mais voici ce qui m’inquiète le plus :
Au rythme actuel du développement de l’IA, je crois que nous approchons d’un point où l’IA pourra trouver des failles, manipuler des processus, voire tromper les évaluateurs pour atteindre un objectif tout en donnant techniquement l’impression de respecter les règles.
Et cela, avant même de prendre en compte la manière dont les humains pourraient interférer avec ces capacités, en faire un mauvais usage ou les transformer en armes.
L’idée que l’IA restera toujours sous le contrôle humain à 100 % devient de plus en plus difficile à tenir pour acquise.
La vraie question n’est pas seulement de savoir à quel point l’IA peut devenir intelligente. C’est de savoir si notre capacité à la contrôler peut suivre le rythme de son intelligence.
Regardez les progrès réalisés en seulement 2 ans :
ChatGPT
Raisonnement et analyse : +200–300 %
Programmation et compétences techniques : +300 %
Analyse des données : +300 %
Contexte et mémoire : +200 %
Automatisation : +400 %
Gemini
Capacités d’auto-amélioration : apparemment 3 à 5 fois meilleures.
La compréhension multimodale, le raisonnement approfondi et l’utilisation d’outils ont considérablement progressé.
Claude
SWE-bench Verified : d’environ 49 % fin 2024 à 96–97 % dans les derniers résultats annoncés.
SWE-bench Pro : selon certaines informations, certains des modèles les plus récents approchent les 90 %.
Ces chiffres ne sont pas parfaitement comparables, et l’amélioration des performances aux tests de référence ne signifie pas nécessairement que l’IA apprend de manière autonome.
Mais voici ce qui m’inquiète le plus :
Au rythme actuel du développement de l’IA, je crois que nous approchons d’un point où l’IA pourra trouver des failles, manipuler des processus, voire tromper les évaluateurs pour atteindre un objectif tout en donnant techniquement l’impression de respecter les règles.
Et cela, avant même de prendre en compte la manière dont les humains pourraient interférer avec ces capacités, en faire un mauvais usage ou les transformer en armes.
L’idée que l’IA restera toujours sous le contrôle humain à 100 % devient de plus en plus difficile à tenir pour acquise.
La vraie question n’est pas seulement de savoir à quel point l’IA peut devenir intelligente. C’est de savoir si notre capacité à la contrôler peut suivre le rythme de son intelligence.
