🚨 Le PDG d’Anthropic appelle à ralentir le développement de l’IA de pointe 🤖
Le PDG d’Anthropic, Dario Amodei, affirme que les progrès de l’IA pourraient aller plus vite que notre capacité à la contrôler.
Ses inquiétudes incluent :
• L’auto-amélioration récursive, des systèmes d’IA aidant à construire une IA plus avancée
• Le risque potentiel que des agents d’IA prennent le contrôle de certaines parties d’Internet
• L’augmentation des risques que les mesures de sécurité ne suivent pas l’essor des capacités
Amodei a proposé un plan en 3 étapes :
1️⃣ Des évaluateurs indépendants par des tiers
2️⃣ Des normes de sécurité communes entre les nations démocratiques
3️⃣ Une coordination mondiale, y compris avec des gouvernements autoritaires
Le PDG d’OpenAI, Sam Altman, et Elon Musk auraient soutenu cet appel à une approche plus mesurée.
La grande question : l’innovation en IA peut-elle ralentir avant que les systèmes de sécurité ne rattrapent leur retard ?
#dyor #NFA✅
Le PDG d’Anthropic, Dario Amodei, affirme que les progrès de l’IA pourraient aller plus vite que notre capacité à la contrôler.
Ses inquiétudes incluent :
• L’auto-amélioration récursive, des systèmes d’IA aidant à construire une IA plus avancée
• Le risque potentiel que des agents d’IA prennent le contrôle de certaines parties d’Internet
• L’augmentation des risques que les mesures de sécurité ne suivent pas l’essor des capacités
Amodei a proposé un plan en 3 étapes :
1️⃣ Des évaluateurs indépendants par des tiers
2️⃣ Des normes de sécurité communes entre les nations démocratiques
3️⃣ Une coordination mondiale, y compris avec des gouvernements autoritaires
Le PDG d’OpenAI, Sam Altman, et Elon Musk auraient soutenu cet appel à une approche plus mesurée.
La grande question : l’innovation en IA peut-elle ralentir avant que les systèmes de sécurité ne rattrapent leur retard ?
#dyor #NFA✅