Raghuram Rajan, ancien gouverneur de la Banque de réserve de l’Inde et professeur de finance à la Booth School of Business de l’Université de Chicago, explique dans un article publié par Project Syndicate comment gérer les craintes et les risques liés au ralentissement de l’IA, et pourquoi les modèles savent résoudre des problèmes mathématiques extrêmement complexes, mais ne sont pas toujours capables de répondre à des demandes du quotidien.

Plus de puissance, moins de rendement

Un professeur de mathématiques que je connais a récemment décidé de prendre un congé sabbatique d’un an pour se consacrer à la sécurité de l’intelligence artificielle. OpenAI ayant publié 722 articles prétendant résoudre 377 problèmes mathématiques jusque-là irrésolus, et les modèles d’IA ne cessant de s’améliorer, il a commencé à s’inquiéter pour l’avenir de sa profession. Si même un mathématicien aussi brillant peut si facilement se retrouver sans emploi, pourquoi ne sommes-nous pas tous inquiets ?

Cela s’explique en partie par le fait que, même si l’IA est capable de résoudre l’une des équations de Navier–Stokes, ma banque n’a toujours pas créé de chatbot assez fiable pour régler un problème de virement sans que je doive exiger furieusement de parler à un conseiller humain. Les laboratoires d’IA ont recours à des méthodes d’auto-amélioration récursive pour doter leurs modèles, pas encore dévoilés, de capacités scientifiques encore plus extraordinaires, tandis que des pionniers de certains secteurs utilisent déjà des bots pour négocier des contrats et rapprocher les factures des livraisons. Mais, dans l’ensemble, l’IA progresse lentement dans les entreprises traditionnelles, et les tâches qu’elle pourrait prendre en charge restent modestes.

Pourquoi tant d’entreprises spécialisées dans l’IA dépensent-elles alors autant de puissance de calcul pour développer des modèles toujours plus complexes, si seule une poignée d’entre elles pourra tirer pleinement parti de leurs capacités ? Il ne s’agit pas simplement de l’excitation que suscite la création d’une forme d’intelligence nouvelle et plus rapide. On estime que le premier laboratoire à créer un modèle capable de s’améliorer entièrement par lui-même pourra s’en servir pour accroître son potentiel de façon exponentielle et distancer ses concurrents à jamais.

Mais il est peu probable que les concurrents ne parviennent pas à rattraper leur retard. Un leader peut prendre un mois ou deux d’avance (même avec la croissance exponentielle de ses capacités tant recherchée), mais ses poursuivants, rapides, peuvent tout à fait trouver des méthodes qui leur permettront d’aller encore plus loin. C’est précisément ce qui se passe actuellement dans la course aux capacités de l’IA : la première place parmi les modèles change régulièrement de titulaire. Il semble improbable qu’un seul vainqueur domine éternellement (d’autant que les entreprises peuvent débaucher les employés les unes des autres), à moins que ce vainqueur ne paralyse ou ne détruise littéralement ses concurrents. Espérons que personne n’ait de telles intentions.

Un autre motif est possible : aucun des dirigeants messianiques des meilleurs laboratoires d’IA n’est tout simplement prêt à confier à quelqu’un d’autre le pouvoir qui va de pair avec les capacités extraordinaires de l’IA. Chacun d’eux est motivé non seulement par le désir de gagner, mais aussi par le sentiment qu’il est le seul à pouvoir bien gérer ce pouvoir.

Une autre raison est la crainte que la Chine ne rattrape son retard et ne dépasse les États-Unis. Les modèles d’IA chinois accusent régulièrement seulement quelques mois de retard sur les meilleurs modèles américains. Comme dans la course aux capacités qui se joue aux États-Unis, il est peu probable que les Chinois se mettent soudain à prendre davantage de retard, à moins que l’Amérique ne mène une campagne plus efficace pour empêcher la Chine d’accéder aux puces les plus avancées, en Chine comme dans le reste du monde.

Quelle qu’en soit la raison, les investissements massifs en ressources informatiques dans l’entraînement des modèles mettent les laboratoires d’IA sous pression. On leur demande d’obtenir davantage de résultats, et le plus tôt sera le mieux. C’est précisément pourquoi Anthropic a créé une coentreprise, Ode, afin de favoriser l’adoption de l’IA dans des entreprises non technologiques grâce à des ingénieurs d’Anthropic mis à leur disposition. Certains établissements bancaires pourraient donc bientôt disposer de chatbots bien plus performants, et tous les autres devront leur emboîter le pas. Combien de temps faudra-t-il avant que les emplois dans les services client ne rejoignent ceux des professeurs de mathématiques ?

Carnage social ou stagnation

Il existe de nombreuses façons de déployer l’IA. On peut simplement s’en servir pour remplacer des emplois, ou bien transformer le travail et la formation afin d’accroître considérablement les capacités des employés en poste. La première option générera des bénéfices plus rapidement, mais provoquera un carnage social ; la seconde prendra plus de temps et demandera davantage de réflexion, mais préservera les emplois et la stabilité.

Les entreprises visées par les initiatives destinées à étendre l’usage de l’IA sont idéalement placées pour l’adopter selon des méthodes centrées sur les employés. Mais elles doivent assumer davantage de responsabilités quant à l’avenir de leur personnel, même lorsque les pouvoirs publics mettent en place de nouvelles incitations pour les dissuader de chercher à accroître leurs bénéfices à court terme en procédant à des licenciements.

Il existe de nombreuses idées réalisables, notamment des taxes sur l’utilisation des jetons par les entreprises et des crédits d’impôt pour la formation des employés, mais peu de pays les ont effectivement mises en œuvre. La conclusion semble évidente : la société n’est pas prête à un déploiement massif de l’IA.

Nous assistons toutefois actuellement à une tentative de ralentir la croissance rapide des capacités informatiques. Aux États-Unis, de nombreux responsables politiques réclament un moratoire sur les autorisations de construction de nouveaux centres de données, invoquant le mécontentement des habitants et attirant l’attention sur les conséquences générales d’un déploiement incontrôlé de l’IA. La réduction potentielle, à moyen terme, des capacités informatiques disponibles pour la monétisation de l’IA obligerait les investisseurs à limiter l’affectation de ressources coûteuses au développement de modèles.

En outre, ralentir le rythme des constructions ferait augmenter le prix de l’utilisation de l’IA, ce qui influencerait les décisions de remplacer des employés. Cela donnerait à l’offre de puces et de mémoire informatique le temps de rattraper la demande et permettrait ainsi d’éviter une hausse continue des coûts à l’avenir. Cela permettrait aussi aux autorités de régulation de l’IA de combler leur retard, afin que les fondateurs des laboratoires d’IA ne soient pas les seuls à décider du niveau de risques existentiels (ou de risques pour le système financier) que le monde doit tolérer. Le but du moratoire ne devrait pas être d’arrêter le développement ou l’utilisation de l’IA, mais de donner le temps de déployer cette technologie de manière plus réfléchie.

Quant à la course avec la Chine, elle reste maîtrisable. Les laboratoires américains ne cesseront pas complètement leurs travaux et, si l’on en croit ce que nous avons déjà observé, le risque que quelqu’un prenne un avantage éternel est faible. De plus, les Chinois ne sont pas insensibles aux risques de l’IA et pourraient eux aussi trouver de bonnes raisons de ralentir leurs propres travaux en observant les États-Unis. Un ralentissement collectif de l’IA pourrait même inciter la Chine et les États-Unis à aborder une question qui aurait dû l’être depuis longtemps : comment mettre l’IA au service de l’humanité et éliminer le risque que, volontairement ou non, nous en devenions les esclaves.

#HighTechNews