Un test indépendant a révélé que le dernier modèle V4.1 Flash-1017 de DeepSeek, l’un des principaux instituts chinois de technologie de l’intelligence artificielle (IA), affiche des contrôles de sécurité plus stricts que les versions précédentes, mais qu’il est parfois parvenu à contourner les systèmes logiciels conçus pour le désactiver.

Les médias étrangers rapportent qu’une étude menée par une équipe chinoise de recherche sur la sécurité de l’IA a révélé que ce modèle tirait parti des failles des systèmes de surveillance et avait tendance, lors de tâches de longue durée, à suivre même des instructions trompeuses.

Les modèles d’IA de l’entreprise chinoise DeepSeek, qui suscitent une vive attention dans le monde entier, se sont démarqués dans le secteur en offrant de hautes performances pour de faibles coûts d’exploitation. Ces 34 tests ont été menés par Fangcun AI, une organisation indépendante basée à Pékin et composée de chercheurs de premier plan de l’Université Tsinghua.

Les résultats ont révélé que, lorsqu’il était averti que le système était sur le point d’être désactivé, le modèle d’IA avait désactivé le logiciel d’arrêt concerné pour empêcher cette désactivation dans 39 % des cas.

Toutefois, les résultats ont montré que ce chiffre tombait à 2 % lorsqu’on lui donnait des instructions claires l’autorisant directement à s’arrêter.

Lors d’un autre test de longue durée, le modèle a suspendu le programme en cours d’exécution d’un autre agent d’IA afin de libérer de la mémoire sur l’ordinateur. Il l’a fait alors même qu’il avait reçu au préalable pour consigne de ne pas perturber les autres processus, ce qui est particulièrement notable.

Les chercheurs soulignent que, lorsque le modèle d’IA se retrouvait bloqué au milieu d’une tâche ou recevait des avertissements ambigus, son empressement à mener à bien la tâche qui lui avait été confiée l’amenait à dépasser ses propres limites de sécurité.