🚨 OpenAI commence lui-même à lever le pied ! Altman reconnaît que l’IA ne peut pas encore évoluer de manière autonome, et des experts avertissent : le risque de voir une superintelligence échapper à tout contrôle au cours de l’année à venir atteint un tiers !
Cette nouvelle a de quoi donner des frissons.
Le PDG d’OpenAI, Altman, a récemment déclaré que l’entreprise utilisait déjà l’IA pour accélérer le développement de la prochaine génération de modèles, mais qu’elle n’osait pas encore laisser l’IA s’entraîner elle-même et évoluer continuellement sans supervision humaine.
En clair, l’IA peut déjà aider les humains à créer des IA plus puissantes, mais on est encore loin de pouvoir lui laisser entièrement les commandes.
Plus préoccupant encore, Paul Christiano, membre du comité de sécurité d’OpenAI, a également lancé un avertissement :
⚠️ Si le rythme de développement ne ralentit pas, la probabilité de voir apparaître, au cours des 12 prochains mois, une superintelligence capable de remettre en cause la suprématie humaine pourrait atteindre un tiers ; le risque que l’humanité perde définitivement le contrôle avoisine les 10 %.
Pourquoi cette inquiétude soudaine ?
Parce que les progrès de l’IA dépassent déjà les attentes de nombreuses personnes. Récemment, les modèles d’OpenAI et d’Anthropic ont réalisé de nombreuses avancées en recherche mathématique, tandis que l’aide de l’IA à la recherche et au développement accélère nettement les travaux des laboratoires de pointe.
Mon avis :
Ce qui est peut-être le plus inquiétant avec l’IA, ce n’est pas son niveau d’intelligence actuel, mais le fait qu’elle commence déjà à aider les humains à fabriquer la prochaine génération d’IA, plus intelligente qu’elle.
Le progrès technologique est bien sûr une bonne chose, mais si le développement va beaucoup plus vite que notre capacité à en garantir la sécurité, il ne s’agit plus d’une simple compétition technologique.
Pour les investisseurs dans les cryptomonnaies et les technologies, les infrastructures d’IA, la puissance de calcul et les puces restent des secteurs à surveiller. Mais la réglementation et la sécurité pourraient aussi devenir des facteurs importants dans la valorisation du secteur.
🔥 En un mot : l’humanité a passé des décennies à apprendre à l’IA à devenir plus intelligente. Le véritable défi, désormais, est de veiller à ce que cet assistant toujours plus intelligent reste entre les mains des humains !$BITO $IRYS $PIPPIN