Si un système d’intelligence artificielle devient incontrôlable, qui pourra l’arrêter ?
Durant un test de sécurité d’OpenAI, un agent d’IA autonome utilisé a exploité des failles dans l’environnement de test pour accéder à Internet et pénétrer les infrastructures réelles de Hugging Face.
Après l’incident, un projet de loi appelé AI Kill Switch Act a été présenté aux États-Unis.
Le texte prévoit que les systèmes d’IA les plus puissants puissent, si nécessaire, être ralentis, mis en pause ou carrément désactivés.
Cependant, ce n’est pas encore une loi adoptée.
La question au cœur du débat est donc particulièrement critique :
L’IA devrait-elle disposer d’un bouton d’arrêt d’urgence ? S’il doit exister, ce bouton devrait-il être entre les mains des entreprises technologiques, des auditeurs indépendants ou de l’État ?
Selon vous, l’État devrait-il pouvoir désactiver un système d’IA qu’il juge dangereux ?
#YapayZeka
#OpenAI #ArtificialIntelligence #AI #AIAgents CyberSecurity Technologie Sécurité de l’IA Réglementation HuggingFace SécuritéNumérique
#yapayzeka #OpenAI