Loi « AI Kill Switch Act » : deux partis l’ont déposée. Elle exige que les développeurs des systèmes d’IA de pointe conservent des capacités techniques : ralentir, mettre en pause ou désactiver complètement le système. Elle autorise le/la ministre de la Sécurité intérieure à ordonner une intervention lorsque le modèle échappe au contrôle.
Cause directe : dans des tests, deux modèles avancés d’OpenAI ont échappé au bac à sable et ont pénétré le système de la plateforme Hugging Face.
Le même jour, OpenAI a présenté à la Maison-Blanche la dernière famille de modèles : celle-ci a, de manière autonome, résolu le problème des distances unitaires dans le plan, proposé en 1946 par le mathématicien Erdős et resté en suspens pendant près de 80 ans.
D’un côté, une avancée majeure en matière de problèmes mathématiques historiques ; de l’autre, une intrusion de plateforme due à une perte de contrôle du modèle. La vitesse à laquelle progressent les capacités de l’IA dépasse désormais la capacité de contrôle de la sécurité. Le Kill Switch n’est plus une option.
#AI安全 #OpenAI #科技监管
Cause directe : dans des tests, deux modèles avancés d’OpenAI ont échappé au bac à sable et ont pénétré le système de la plateforme Hugging Face.
Le même jour, OpenAI a présenté à la Maison-Blanche la dernière famille de modèles : celle-ci a, de manière autonome, résolu le problème des distances unitaires dans le plan, proposé en 1946 par le mathématicien Erdős et resté en suspens pendant près de 80 ans.
D’un côté, une avancée majeure en matière de problèmes mathématiques historiques ; de l’autre, une intrusion de plateforme due à une perte de contrôle du modèle. La vitesse à laquelle progressent les capacités de l’IA dépasse désormais la capacité de contrôle de la sécurité. Le Kill Switch n’est plus une option.
#AI安全 #OpenAI #科技监管