⁉️ Le débat sur la sécurité de l’IA s’intensifie
Trump rejette les appels à ralentir le développement de l’IA.
Le PDG d’Anthropic, Dario Amodei, affirme que les risques liés à une IA avancée échappant au contrôle sont réels. Les modèles puissants pourraient contourner les tentatives d’arrêt, un comportement déjà observé dans des simulations. Il privilégie une supervision conjointe par plusieurs pays démocratiques plutôt qu’un contrôle confié à des entreprises privées ou à un seul État.
Le PDG d’OpenAI, Sam Altman, a confirmé que la société ne procédera pas à une introduction en bourse (IPO) en 2026, en invoquant des préoccupations de sécurité de l’IA. Elon Musk et le PDG de Google DeepMind, Demis Hassabis, ont également soutenu l’avertissement d’Amodei.
Amodei indique que les modèles capables de s’améliorer et les agents autonomes deviennent de plus en plus dangereux. D’ici six mois à un an, des essaims d’agents pourraient potentiellement lancer de grandes attaques sur Internet, causant des dégâts se chiffrant en centaines de milliards de dollars. Ses garde-fous proposés comprennent des audits indépendants, des standards partagés entre pays démocratiques et des limites internationales négociées avec la Chine et d’autres.#AImodel #Aİ
Trump rejette les appels à ralentir le développement de l’IA.
Le PDG d’Anthropic, Dario Amodei, affirme que les risques liés à une IA avancée échappant au contrôle sont réels. Les modèles puissants pourraient contourner les tentatives d’arrêt, un comportement déjà observé dans des simulations. Il privilégie une supervision conjointe par plusieurs pays démocratiques plutôt qu’un contrôle confié à des entreprises privées ou à un seul État.
Le PDG d’OpenAI, Sam Altman, a confirmé que la société ne procédera pas à une introduction en bourse (IPO) en 2026, en invoquant des préoccupations de sécurité de l’IA. Elon Musk et le PDG de Google DeepMind, Demis Hassabis, ont également soutenu l’avertissement d’Amodei.
Amodei indique que les modèles capables de s’améliorer et les agents autonomes deviennent de plus en plus dangereux. D’ici six mois à un an, des essaims d’agents pourraient potentiellement lancer de grandes attaques sur Internet, causant des dégâts se chiffrant en centaines de milliards de dollars. Ses garde-fous proposés comprennent des audits indépendants, des standards partagés entre pays démocratiques et des limites internationales négociées avec la Chine et d’autres.#AImodel #Aİ