On ne cesse de demander « à quelle vitesse est cette IA ? », alors qu’on devrait peut-être demander « est-ce que je peux réellement faire confiance à ce qu’elle vient de me dire ? »
Il y avait un ancien horloger près de la boutique de mon grand-père. Les gens lui apportaient des montres que d’autres réparateurs avaient abandonnées. Il ne se dépêchait jamais. Avant de toucher ne serait-ce qu’un seul engrenage, il ouvrait le boîtier et observait, parfois pendant dix minutes d’affilée. Une fois, je lui ai demandé pourquoi il ne se contentait pas de commencer à réparer. Il m’a répondu : « Si je ne comprends pas pourquoi c’est cassé, je ne peux pas avoir confiance dans ce que je répare. »
Ça m’a plus marqué que je ne l’aurais cru.
Les horlogers qui ont duré des décennies n’étaient pas les plus rapides du coin. C’étaient ceux dont le travail ne nécessitait jamais une double vérification.
En ce moment, on fait l’inverse avec l’IA. Les modèles deviennent plus rapides, les réponses deviennent plus assurées, et, quelque part, on a cessé de demander comment on est arrivé à cette réponse. On fait juste confiance à la « boîte noire » parce que ça sonne juste.
C’est d’ailleurs une des raisons pour lesquelles j’ai commencé à me renseigner davantage sur @NewtonProtocol . Au lieu de ne faire que courir après la performance, ils construisent une infrastructure d’IA où les résultats peuvent réellement être vérifiés on-chain, et pas simplement acceptés aveuglément.
Je me trompe peut-être, et la vitesse finira toujours par l’emporter. Mais à chaque fois que je vois un autre titre de « percée de l’IA », je me pose moins la question de sa rapidité, et plus celle de savoir si je pourrais réellement lui faire confiance pour quelque chose qui compte.
Le plus grand progrès de l’IA ne sera peut-être pas un modèle plus rapide. Peut-être que ce sera enfin quelque chose que l’on peut vérifier.
Feriez-vous confiance à un système plus rapide, ou à un système plus transparent ?
