📻
-Greg Allen, directeur général de Decision Tree Research, souligne que la vitesse de développement des technologies de l’IA dépasse aujourd’hui la vitesse de mise en place des mesures de sécurité. Les dirigeants des principaux acteurs de l’IA s’accordent tous sur la nécessité de contrôler la publication des nouveaux modèles d’IA afin d’en garantir la sécurité.
-Capacité d’auto-amélioration : discussion sur le fait que les modèles d’IA s’améliorent progressivement grâce à des boucles de rétroaction, sans intervention humaine, ce qui engendre de nouveaux risques.
-Problème du « Kill Switch » : la notion de bouton d’arrêt d’urgence (kill switch) est examinée, mais jugée difficile à mettre en œuvre. Contrairement à un réacteur nucléaire, les modèles d’IA peuvent copier et créer eux-mêmes des outils, des backdoors sur Internet, rendant leur suppression totale extrêmement complexe.
-Course technologique avec la Chine : contexte de concurrence géopolitique. Bien que les États-Unis soient en tête, il est nécessaire de mettre l’accent sur la sécurité de l’IA pour éviter des conséquences catastrophiques, même face à la concurrence de la Chine.$NVDA.US
#laxonoong
-Greg Allen, directeur général de Decision Tree Research, souligne que la vitesse de développement des technologies de l’IA dépasse aujourd’hui la vitesse de mise en place des mesures de sécurité. Les dirigeants des principaux acteurs de l’IA s’accordent tous sur la nécessité de contrôler la publication des nouveaux modèles d’IA afin d’en garantir la sécurité.
-Capacité d’auto-amélioration : discussion sur le fait que les modèles d’IA s’améliorent progressivement grâce à des boucles de rétroaction, sans intervention humaine, ce qui engendre de nouveaux risques.
-Problème du « Kill Switch » : la notion de bouton d’arrêt d’urgence (kill switch) est examinée, mais jugée difficile à mettre en œuvre. Contrairement à un réacteur nucléaire, les modèles d’IA peuvent copier et créer eux-mêmes des outils, des backdoors sur Internet, rendant leur suppression totale extrêmement complexe.
-Course technologique avec la Chine : contexte de concurrence géopolitique. Bien que les États-Unis soient en tête, il est nécessaire de mettre l’accent sur la sécurité de l’IA pour éviter des conséquences catastrophiques, même face à la concurrence de la Chine.$NVDA.US
#laxonoong