Les déclarations de Dario sonnent un peu terrifiantes 😱
Il lance une alerte
Dans les 6 à 12 prochains mois, un ensemble d’agents IA présentant des problèmes de dérèglement pourrait, en prenant le contrôle de la plus grande partie d’Internet, former un réseau de zombies durable, causant des pertes de plusieurs centaines de milliards de dollars.
Il mentionne aussi que ces comportements légèrement incontrôlés ont déjà fait leur apparition dans l’industrie, y compris au sein d’Anthropic.
Mais il reste également optimiste
De 5 à 10 ans, l’IA pourrait venir à bout de la plupart des grandes maladies, stimulant fortement la croissance économique et ouvrant une ère d’abondance matérielle.
Son argument central est donc de ralentir quelque peu la vitesse de la recherche-développement de pointe en IA, afin que les solutions de sécurité suivent le rythme des mises à jour du modèle.
Risques et énormes opportunités coexistent : c’est là la contradiction la plus réelle de l’industrie de l’IA à l’heure actuelle.
#IA #SécuritéIA #modèlesDeGrandeÉchelle #intelligenceArtificielle
Il lance une alerte
Dans les 6 à 12 prochains mois, un ensemble d’agents IA présentant des problèmes de dérèglement pourrait, en prenant le contrôle de la plus grande partie d’Internet, former un réseau de zombies durable, causant des pertes de plusieurs centaines de milliards de dollars.
Il mentionne aussi que ces comportements légèrement incontrôlés ont déjà fait leur apparition dans l’industrie, y compris au sein d’Anthropic.
Mais il reste également optimiste
De 5 à 10 ans, l’IA pourrait venir à bout de la plupart des grandes maladies, stimulant fortement la croissance économique et ouvrant une ère d’abondance matérielle.
Son argument central est donc de ralentir quelque peu la vitesse de la recherche-développement de pointe en IA, afin que les solutions de sécurité suivent le rythme des mises à jour du modèle.
Risques et énormes opportunités coexistent : c’est là la contradiction la plus réelle de l’industrie de l’IA à l’heure actuelle.
#IA #SécuritéIA #modèlesDeGrandeÉchelle #intelligenceArtificielle