#AnthropicCEORCallsForAISlowdown
Ce qui a attiré mon attention, ce n’était pas vraiment le fait que Dario Amodei dise que l’IA devrait ralentir.
C’est pour cela que cette conversation a lieu maintenant.
L’IA n’améliore plus seulement sa capacité à répondre à des questions ou à écrire du code.
Elle commence à aider les chercheurs à construire les systèmes qui viendront après.
Cela signifie que le progrès pourrait commencer à avancer beaucoup plus vite que ce que les gens imaginent.
Et honnêtement, je pense que c’est la partie que beaucoup de gens passent à côté.
La crainte ne tient pas simplement au fait que l’IA devient plus performante.
La question est de savoir si nous pouvons encore correctement tester et comprendre ces systèmes avant que la prochaine version, plus puissante, ne soit déjà là.
Donc quand les gens entendent « IA lente », je ne pense pas que cela signifie nécessairement arrêter l’IA.
Cela signifie peut-être qu’on ne devrait pas traiter chaque nouvelle avancée de capacités comme une course où l’unique chose qui compte est d’être le premier.
Il faut du temps pour tester les choses.
À présent, il faut laisser des personnes indépendantes les examiner.
Il est temps de découvrir ce qui peut réellement mal tourner, avant que des millions de personnes ne les utilisent déjà.
En venant de la crypto, ça ressemble étrangement à quelque chose que l’on a déjà vu.
On a vu à quel point la technologie peut évoluer rapidement quand les constructeurs, le capital et l’engouement vont tous dans la même direction.
Tout peut sembler solide pendant que les choses montent.
Puis survient un événement inattendu, et soudain vous découvrez ce qui a vraiment été construit correctement et ce qui reposait surtout sur la confiance.
L’IA pourrait éventuellement avoir sa propre version de ce moment.
Et je trouve aussi intéressant le point de vue du marché.
Ralentir la frontière ne signifie pas nécessairement ralentir l’IA en tant qu’industrie.
Cela pourrait simplement déplacer davantage l’attention vers des aspects qui n’ont pas été le principal centre de gravité pendant la course pour construire le prochain plus gros modèle.
Sécurité.
Surveillance.
Confidentialité.
Vérification.
Infrastructure.
Essentiellement, tout ce qui est nécessaire quand l’IA commence à faire plus que simplement nous aider à écrire des e-mails ou à répondre à des questions.
Peut-être que le prochain goulot d’étranglement majeur ne concerne pas les puces ni la puissance de calcul.
Peut-être qu’il s’agit de la confiance.
Comment sait-on que ces systèmes de plus en plus autonomes font bien ce qu’ils sont censés faire ?
Comment repérer les problèmes assez tôt ?
Et est-ce que la supervision humaine peut vraiment suivre, si la technologie elle-même commence à accélérer le processus pour bâtir une technologie encore meilleure ?
Pour moi, c’est surtout une conversation plus intéressante.
La question n’est peut-être plus de savoir si l’IA va continuer à avancer plus vite.
C’est probablement le cas.
La vraie question est de savoir si nous pourrons encore comprendre et contrôler ce que nous construisons pendant qu’il le fait.
