Et si une IA pouvait faire plus que répondre à des questions — et si elle pouvait se propager à d’autres appareils ?
Une nouvelle étude d’Anthropic met en lumière cette menace potentielle pour la cybersécurité. Les chercheurs craignent que des modèles d’IA plus petits puissent acquérir cette capacité en seulement quelques mois.
Voici ce que montrent les données :
# Un modèle d’IA de 9 milliards de paramètres a été testé sur neuf types de matériel différents ; il a été déployé avec succès sur huit d’entre eux.
# Un modèle d’IA de 26 milliards de paramètres a été exécuté sur 15 boîtiers Android TV connectés (coûtant chacun environ 55 $), en utilisant leur puissance de calcul combinée.
# Lors d’une autre expérience, un modèle puissant appelé GLM-5.2 a pu se répliquer sur les huit appareils de test au sein d’un réseau contrôlé — réussissant quatre fois sur cinq.
Qu’est-ce qu’un « ver informatique IA » ?
# Un « ver » informatique est un type de logiciel malveillant capable de se propager d’un appareil à un autre sur un réseau sans nécessiter l’intervention humaine à chaque étape.
# Ce qui distingue un ver basé sur l’IA, c’est sa capacité à s’adapter au matériel et aux logiciels d’appareils qu’il ne connaît pas.
# Il commence par analyser le réseau à la recherche d’autres appareils et tente d’y accéder en exploitant des failles de sécurité.
# Une fois à l’intérieur, il installe les logiciels et les fichiers nécessaires à l’exécution d’un modèle d’IA.
# Lorsque l’IA est active sur le nouvel appareil, elle peut alors utiliser celui-ci pour recommencer le processus et se propager davantage.
Alors, les vers informatiques IA se propagent-ils déjà ?
C’est le point le plus important à retenir de cette étude.
Les chercheurs n’ont pas encore démontré qu’un petit modèle d’IA pouvait pirater des téléviseurs intelligents ou d’autres appareils domestiques sécurisés dans le monde réel afin de se propager de manière entièrement autonome.
Les expériences ont toutefois permis d’établir deux conclusions essentielles :
# Il est possible d’exécuter de petits modèles d’IA sur différents types de matériel ; autrement dit, un modèle puissant peut se déployer et se répliquer avec succès sur plusieurs appareils dans un environnement expérimental simplifié. # Cependant, lors de la deuxième expérience, les mesures de sécurité des appareils avaient été délibérément affaiblies pour en permettre l’accès.
$NVDAB
Une nouvelle étude d’Anthropic met en lumière cette menace potentielle pour la cybersécurité. Les chercheurs craignent que des modèles d’IA plus petits puissent acquérir cette capacité en seulement quelques mois.
Voici ce que montrent les données :
# Un modèle d’IA de 9 milliards de paramètres a été testé sur neuf types de matériel différents ; il a été déployé avec succès sur huit d’entre eux.
# Un modèle d’IA de 26 milliards de paramètres a été exécuté sur 15 boîtiers Android TV connectés (coûtant chacun environ 55 $), en utilisant leur puissance de calcul combinée.
# Lors d’une autre expérience, un modèle puissant appelé GLM-5.2 a pu se répliquer sur les huit appareils de test au sein d’un réseau contrôlé — réussissant quatre fois sur cinq.
Qu’est-ce qu’un « ver informatique IA » ?
# Un « ver » informatique est un type de logiciel malveillant capable de se propager d’un appareil à un autre sur un réseau sans nécessiter l’intervention humaine à chaque étape.
# Ce qui distingue un ver basé sur l’IA, c’est sa capacité à s’adapter au matériel et aux logiciels d’appareils qu’il ne connaît pas.
# Il commence par analyser le réseau à la recherche d’autres appareils et tente d’y accéder en exploitant des failles de sécurité.
# Une fois à l’intérieur, il installe les logiciels et les fichiers nécessaires à l’exécution d’un modèle d’IA.
# Lorsque l’IA est active sur le nouvel appareil, elle peut alors utiliser celui-ci pour recommencer le processus et se propager davantage.
Alors, les vers informatiques IA se propagent-ils déjà ?
C’est le point le plus important à retenir de cette étude.
Les chercheurs n’ont pas encore démontré qu’un petit modèle d’IA pouvait pirater des téléviseurs intelligents ou d’autres appareils domestiques sécurisés dans le monde réel afin de se propager de manière entièrement autonome.
Les expériences ont toutefois permis d’établir deux conclusions essentielles :
# Il est possible d’exécuter de petits modèles d’IA sur différents types de matériel ; autrement dit, un modèle puissant peut se déployer et se répliquer avec succès sur plusieurs appareils dans un environnement expérimental simplifié. # Cependant, lors de la deuxième expérience, les mesures de sécurité des appareils avaient été délibérément affaiblies pour en permettre l’accès.
$NVDAB