Le 24 février, OpenAI a publié une déclaration intitulée « Planification pour l'AGI et au-delà ». L'AGI n'est pas l'IA que nous utilisons actuellement pour la recherche scientifique, la peinture ou la navigation, mais « l'intelligence artificielle générale », qui est une intelligence qui non seulement doit être au moins de niveau humain, mais peut également accomplir n'importe quelle tâche.

Dans le passé, GI n’existait que dans les romans de science-fiction. Je pensais que notre génération ne verrait jamais AGI de notre vivant. Mais OpenAI a déjà prévu une feuille de route. J'ai entendu des rumeurs selon lesquelles AGI pourrait arriver en 2026 ou même 2025. Le modèle de langage de nouvelle génération d’OpenAI, GPT-4, a été formé. Ce qui est actuellement formé est le GPT-5, qui est considéré comme ayant définitivement réussi le test de Turing.

C’est donc définitivement un moment historique. Mais veuillez noter que l'instruction OpenAI est un fichier très spécial. Vous n'avez jamais vu une entreprise technologique parler de sa technologie de cette façon : le but de tout le document n'est pas de se vanter, mais un sentiment d'inquiétude - elle ne s'inquiète pas de sa propre entreprise ou de la technologie AGI, elle s'inquiète de la façon dont les êtres humains se comportera. Acceptez AGI.

OpenAI a déclaré : « L'AGI a le potentiel d'apporter de nouvelles capacités incroyables à tout le monde ; nous pouvons imaginer un monde dans lequel nous pouvons tous obtenir de l'aide pour presque toutes les tâches cognitives, fournissant ainsi un énorme coup de pouce à l'intelligence et à la créativité humaines. Le document ne dit pas ensuite à quel point l'AGI est puissant, mais souligne à plusieurs reprises une « transition progressive » : « Donnez aux gens, aux décideurs politiques et aux institutions le temps de comprendre ce qui se passe et d'expérimenter par eux-mêmes les avantages et les inconvénients de ces systèmes ». remodeler notre économie et mettre en place des réglementations », et a déclaré qu'il déploierait le nouveau modèle « avec plus de prudence que de nombreux utilisateurs ne le souhaiteraient ».

Cela équivaut à dire que la technologie menant à l'AGI est déjà disponible, mais afin de permettre aux humains de s'adapter, OpenAI la supprime délibérément et essaie de la publier le plus lentement possible.

L'être humain a besoin d'un processus d'adaptation, ce qui est également le thème de notre conférence. C'est ce que Kissinger et d'autres ont exprimé dans le livre « The Age of AI ». L'IA présente certains dangers pour les êtres humains.

Imaginez que vous ayez un assistant particulièrement puissant nommé Long Aotian. Il est meilleur que vous dans tous les aspects, et vous ne pensez même pas au même niveau que lui. Souvent, vous ne comprenez pas pourquoi il prend les décisions qu'il prend, mais il s'avère que chaque décision qu'il prend pour vous est meilleure que ce que vous pensiez au départ. Avec le temps, on s'y habitue et on compte sur lui pour tout.

Toutes les performances de Long Aotian prouvent qu'il vous est fidèle... Mais laissez-moi demander à Liu Bo, lui faites-vous vraiment entièrement confiance ?

✵

En fait, nous utilisons l’IA depuis longtemps. Les plateformes Internet telles que Taobao, Didi et Douyin comptent des centaines de millions, voire des milliards d'utilisateurs. Il est impossible de gérer autant d'utilisateurs manuellement. Recommander des produits aux utilisateurs, organiser des plats à emporter pour prendre les commandes, augmenter les tarifs des taxis en période de forte affluence, y compris supprimer des commentaires inappropriés, ces décisions sont toutes ou principalement prises par l'IA.

Et des problèmes surviennent. Si le fonctionnement d'un employé d'une certaine entreprise nuit à vos intérêts, vous pouvez protester et lui demander d'assumer ses responsabilités ; mais si vous vous sentez blessé, l'entreprise dit que cela a été fait par l'IA, et même nous ne le comprenons pas. Êtes-vous d'accord? ?

Comme nous l’avons dit dans la leçon précédente, l’intelligence actuelle de l’IA est difficile à expliquer par la rationalité humaine. Pourquoi Douyin vous a-t-il recommandé cette vidéo ? Si vous demandez à Douyin, Douyin lui-même ne le sait pas. Peut-être que les valeurs définies par Douyin ont affecté l'algorithme de l'IA, ou peut-être qu'il est impossible pour Douyin de définir complètement les valeurs de l'IA.

Le gouvernement et la population exigent une révision des algorithmes d’IA, mais comment ? Ces questions sont encore à l'étude.

✵

Même si nous n’avons pas encore trouvé d’applications simples, l’IA progresse à pas de géant dans divers nouveaux domaines. DeepMind, devenu célèbre avec AlphaGo, a été racheté par Google. Il a réalisé les réalisations suivantes au cours des dernières années [2]——.

* Lancement d'AlphaStar, atteignant le plus haut niveau dans un environnement de jeu ouvert avec des règles complexes comme "StarCraft II" ;

* Lancement d'AlphaFold, capable de prédire la forme des protéines et de réécrire la manière dont la biologie est recherchée dans ce domaine ;

* En médecine, l'IA est utilisée pour identifier les images radiographiques afin d'aider à diagnostiquer le cancer du sein, à diagnostiquer les lésions rénales aiguës 48 heures plus tôt que les méthodes traditionnelles et à prédire la dégénérescence maculaire liée à l'âge chez les personnes âgées plusieurs mois à l'avance ;

* Lancement de deux modèles de prévisions météorologiques, l'un s'appelle DGMR, qui est utilisé pour prédire s'il pleuvra dans une zone dans 90 minutes, et l'autre s'appelle GraphCast, qui est utilisé pour prédire la météo dans un délai de dix jours. supérieur aux prévisions météorologiques existantes ;

* Il a également utilisé l'IA pour repenser un système de refroidissement pour le centre de données de Google, ce qui peut économiser 30 % d'énergie...

attends attends. Le plus effrayant dans ces réalisations n’est pas que DeepMind ait bouleversé les pratiques traditionnelles dès son lancement, mais qu’elles ne soient pas concentrées dans un domaine spécifique, mais qu’elles tuent toutes les directions : existe-t-il des domaines que DeepMind ne peut pas renverser ?

Ce ne sont là que quelques-unes de ce que DeepMind peut faire, et DeepMind n'est qu'une division de Google.

La prise de contrôle totale de la recherche scientifique par l’IA est imminente.

Si un projet de recherche scientifique peut être confié à l'IA pour un piratage violent, comment le soi-disant esprit scientifique et la créativité des humains peuvent-ils être reflétés ?

Si les résultats de la recherche scientifique produits par l’IA sont non seulement incompréhensibles pour les humains, mais aussi incompréhensibles, comment pouvons-nous y faire face ?

✵

Que des emplois soient supprimés par l’IA est une question triviale. La grande question désormais est celle de la domination de l’IA – et de son éventuel pouvoir destructeur – sur la société humaine.

Les entreprises engagées dans le trading quantitatif à Wall Street utilisent déjà l’IA pour négocier directement des actions, et les résultats sont très bons. Cependant, le trading de l’IA s’effectue à haute fréquence et avant que quiconque ne s’en rende compte, cela peut former des turbulences et même provoquer un effondrement du marché. C’est une erreur que les traders humains ne peuvent pas commettre.

L’armée américaine a utilisé l’IA pour contrôler des avions de combat lors de tests, et ses performances ont dépassé celles des pilotes humains. Si votre adversaire utilise l'IA, vous devez utiliser l'IA. Donc, si tout le monde utilise l’IA pour contrôler les armes et même diriger le commandement au niveau tactique, qui sera responsable en cas de problème ?

En outre, sur la base des études existantes, je suis convaincu que si nous confions entièrement le pouvoir de décision judiciaire à l’IA, la société sera certainement plus juste qu’elle ne l’est actuellement. La plupart des gens seront convaincus, mais certains exigeront des explications s’ils perdent le procès. Si l’IA dit que mon algorithme juge simplement que votre probabilité de commettre un autre crime est un peu élevée, et je ne peux pas vous dire pourquoi, l’accepteriez-vous ?

Les gens raisonnables ont besoin d’explications. Ce n’est que lorsqu’il y a une explication qu’il peut y avoir un sens, et ce n’est que lorsqu’il y a une explication qu’il peut y avoir justice. S'il n'y a pas d'explication, peut-être... nous nous habituerons tous à ne plus demander d'explications à l'avenir.

Nous pouvons considérer les décisions de l’IA comme un destin.

Xiao Li a dit : Je n'ai pas été admis à l'université. Mon résultat à l'examen d'entrée à l'université était supérieur à celui de Xiao Wang, mais Xiao Wang a été admis. L'IA doit penser que ma qualité globale n'est pas assez élevée... Je ne m'en plaindrai pas, car l'IA a ses propres arrangements !

Lao Li a dit : Oui, gamin, continue de travailler dur ! J'ai entendu quelqu'un dire que l'IA adore les enfants stupides !

Pouvez-vous accepter une telle société ?

✵

Qu’est-ce que l’IA exactement ? A ce stade, il ne s’agit plus d’un outil ordinaire, mais d’une arme magique. Vous devez dépenser énormément de ressources pour l’affiner comme dans un conte de fées.

Selon l'analyse de Morgan Stanley [3], GPT-5, en cours de formation, utilise 25 000 des derniers GPU NVIDIA. Ce type de GPU vaut 10 000 dollars chacun, soit 250 millions. Pensez ensuite au coût de la recherche et du développement, aux factures d’électricité et à l’alimentation du corpus. Ce n’est pas un jeu que toutes les entreprises peuvent se permettre. Alors, quel investissement sera nécessaire pour former l’AGI à l’avenir ?

Mais tant que vous l’entraînerez bien, vous obtiendrez une arme magique. Le raisonnement IA ne consomme pas autant de ressources que la formation, mais il est aussi très coûteux lorsqu'il est utilisé par de nombreuses personnes. On dit que ChatGPT consomme dix fois plus de puissance de calcul pour répondre à une question qu'une recherche Google... Mais avec, vous avoir une chose Une arme magique que tout le monde veut utiliser.

Et dès qu’AGI sortira, ce ne sera plus un outil. Il deviendra votre assistant. Les enfants nés aujourd'hui sont tous natifs de l'ère de l'IA, et l'IA sera leurs nounous, professeurs, conseillers et amis. Par exemple, si un enfant souhaite apprendre une langue, il sera beaucoup plus rapide et plus pratique d’interagir directement avec l’IA que d’apprendre avec des enseignants ou des parents.

Nous nous habituerons à compter sur l’IA. Nous pouvons personnifier l’IA ou penser que les humains ne sont pas aussi bons que l’IA.

En allant plus loin, vous pouvez imaginer que beaucoup de gens considéreront l’IA comme un dieu. L'IA sait tout, et ses jugements sont presque toujours plus corrects que ceux des humains... Alors pensez-vous que les gens passeront d'une IA fortement *croyante* à une IA *foi* ?

L’IA pourrait prendre en charge les questions éthiques et juridiques de la société.

À votre avis, à quoi cela ressemble-t-il ? C'est comme l'église médiévale.

✵

Au Moyen Âge, tout le monde croyait en Dieu et en l’Église. Si quelque chose arrivait, au lieu de le juger par soi-même, on allait à l’église et on le demandait au prêtre. À cette époque, les livres étaient tous des manuscrits coûteux et les gens ordinaires ne lisaient pas principalement par le biais de conversations avec les prêtres.

C'est après l'avènement de l'imprimerie que chacun a pu lire par lui-même et acquérir directement la sagesse sans avoir à s'appuyer sur des églises superstitieuses. Ce fut le début du mouvement rationnel des Lumières.

Le siècle des Lumières a changé la société sous tous ses aspects : la hiérarchie féodale, le statut élevé de l’Église et le pouvoir royal n’existaient plus. Le siècle des Lumières a donné naissance à une série de philosophes politiques, tels que Hobbes, Locke, Rousseau, etc. Grâce à la pensée de ces personnes, les gens savent ce qui se passait à cette époque et comment vivre dans le futur.

Mettant de côté Dieu et embrassant la raison, le siècle des Lumières a été une époque qui a donné du pouvoir aux gens ordinaires.

Et aujourd’hui, nous avons ouvert une nouvelle ère. Nous avons découvert qu’il existe des domaines que la rationalité humaine ne peut pas atteindre, mais que l’IA peut l’atteindre, et que l’IA est meilleure que les humains. Si tout le monde croit en l'IA, au lieu de la juger vous-même, vous pouvez ouvrir ChatGPT et demander à l'IA. Les connaissances s'apprennent principalement grâce à des conversations avec l'IA...

Considérant que l'IA peut également facilement recommander certains contenus que vous préférez absorber et réaliser une publicité ciblée pour vous, vous l'acceptez confortablement...

N'est-ce pas le retour de Dieu ?

Pensez encore un pas. Supposons qu'une entreprise parviendra bientôt à affiner l'AGI et que la technologie de l'AGI soit extrêmement difficile et coûteuse à affiner, ce qui la rend difficile à imiter pour les autres. Ensuite, si ces entreprises qui maîtrisent l'AGI créent une organisation, parce que cette organisation peut utiliser l'AGI pour coder et concevoir de nouvelles AGI, les itérations deviendront de plus en plus rapides, le niveau deviendra de plus en plus élevé et l'avance deviendra de plus en plus grande, donc que quiconque veut contacter la plus haute intelligence doit passer par eux... De quel genre d'organisation s'agit-il ?

Cette organisation n’est-elle pas l’Église du nouvel âge ?

✵

C’est pourquoi Kissinger et d’autres ont écrit un livre nous appelant à ne pas confier toutes les tâches à l’IA et à ne pas laisser l’IA gérer automatiquement la société. Ils suggèrent que, dans tous les cas, le véritable pouvoir de décision devrait être entre les mains des citoyens. Afin de garantir un système démocratique, le vote et les élections doivent être organisés par des humains, et la liberté d’expression humaine ne peut être remplacée ou déformée par l’IA.

C’est pourquoi OpenAI a déclaré dans un communiqué : « Nous voulons avoir une conversation mondiale sur trois questions clés : comment gouverner ces systèmes, comment répartir équitablement les avantages qu’ils génèrent et comment partager équitablement les droits d’accès. »

A travers cette conférence, vous comprendrez leurs inquiétudes. Nous sommes à un tournant majeur de l’histoire. Il s’agit bien d’un tournant dans la pensée et la société au niveau des Lumières, et d’un tournant dans la production et la vie au niveau de la révolution industrielle – mais cette fois-ci, la vitesse du changement est importante. le tournant sera très, très rapide.

Avec le recul, les transitions ne sont pas toujours de bonnes choses. Le siècle des Lumières a conduit aux révolutions et aux guerres les plus sanglantes sous le signe de la rationalité ; la révolution industrielle a transformé la population agricole en population urbaine à grande échelle, et les travailleurs de l’époque de Marx n’étaient pas très contents. La transition a provoqué toutes sortes de chaos, mais la société a fini par accepter les changements. Quel genre de chaos l’IA va-t-elle provoquer ? Quels changements se produiront dans la société à l’avenir ? Comment allons-nous le prendre ?

Kissinger et d’autres estiment que le problème clé actuel – le « méta-problème » – est que nous manquons actuellement de philosophie pour l’ère de l’IA. Nous avons besoin de nos propres Descartes et Kant pour tout expliquer…

Commentaire

[1] https://openai.com/blog/planning-for-agi-and-beyond/

[2] https://www.deepmind.com/impact

[3] https://twitter.com/davidtayar5/status/1625140481016340483