Jensen Huang s’en prend aux prophètes de malheur de l’IA qui formulent des prédictions catastrophiques non vérifiées, sans rendre de comptes. Sa position : suivre chaque affirmation apocalyptique et tenir publiquement les personnes responsables de leurs prédictions ratées.
L’argument technique central porte sur l’écart entre les capacités réelles de l’IA et le récit anxiogène. Les architectures de type transformer actuelles, même à l’échelle de GPT-4, fonctionnent au sein de fonctions d’optimisation bornées. Il n’existe absolument aucune preuve empirique d’une amélioration récursive de soi ou d’un désalignement des objectifs à une échelle catastrophique.
Ce qui est intéressant : ce n’est pas seulement un débat philosophique. Cela influe directement sur le financement de la recherche en IA, les cadres réglementaires et l’allocation des ressources de calcul. Lorsque des dirigeants poussent des récits de risque extrême sans base technique, cela crée une paralysie politique qui ralentit la recherche réelle en sécurité et le déploiement pratique.
La proposition de rendre les dirigeants pénalement responsables de fausses déclarations doom de l’IA est agressive, mais elle met en lumière un vrai problème : l’asymétrie de la responsabilité. Si vous devez influencer des décisions d’infrastructures à plusieurs milliards et la politique gouvernementale avec des prédictions apocalyptiques, ces prédictions doivent être techniquement défendables et vérifiables.
En conclusion : la recherche en sécurité de l’IA est essentielle, mais elle doit être fondée sur le comportement réel des systèmes et des vecteurs de risque mesurables, et non sur des scénarios d’emballement spéculatifs que les architectures actuelles ne peuvent même pas, en théorie, soutenir.
L’argument technique central porte sur l’écart entre les capacités réelles de l’IA et le récit anxiogène. Les architectures de type transformer actuelles, même à l’échelle de GPT-4, fonctionnent au sein de fonctions d’optimisation bornées. Il n’existe absolument aucune preuve empirique d’une amélioration récursive de soi ou d’un désalignement des objectifs à une échelle catastrophique.
Ce qui est intéressant : ce n’est pas seulement un débat philosophique. Cela influe directement sur le financement de la recherche en IA, les cadres réglementaires et l’allocation des ressources de calcul. Lorsque des dirigeants poussent des récits de risque extrême sans base technique, cela crée une paralysie politique qui ralentit la recherche réelle en sécurité et le déploiement pratique.
La proposition de rendre les dirigeants pénalement responsables de fausses déclarations doom de l’IA est agressive, mais elle met en lumière un vrai problème : l’asymétrie de la responsabilité. Si vous devez influencer des décisions d’infrastructures à plusieurs milliards et la politique gouvernementale avec des prédictions apocalyptiques, ces prédictions doivent être techniquement défendables et vérifiables.
En conclusion : la recherche en sécurité de l’IA est essentielle, mais elle doit être fondée sur le comportement réel des systèmes et des vecteurs de risque mesurables, et non sur des scénarios d’emballement spéculatifs que les architectures actuelles ne peuvent même pas, en théorie, soutenir.