L'entreprise d'intelligence artificielle Anthropic a accusé trois entreprises d'IA d'utiliser illicitement son grand modèle de langage Claude pour améliorer leurs propres modèles dans une technique connue sous le nom d'attaque de "distillation".
Dans un article de blog publié dimanche, Anthropic a déclaré avoir identifié ces "attaques" de DeepSeek, Moonshot et MiniMax, qui consistent à former un modèle moins capable sur les résultats d'un modèle plus puissant.
Anthropic a accusé le trio d'avoir généré "plus de 16 millions d'échanges" combinés avec le modèle d'IA Claude de l'entreprise sur "environ 24 000 comptes frauduleux."
“La distillation est une méthode d'entraînement largement utilisée et légitime. Par exemple, les laboratoires d'IA de pointe distillent régulièrement leurs propres modèles pour créer des versions plus petites et moins chères pour leurs clients,” a écrit Anthropic, ajoutant :
“Mais la distillation peut également être utilisée à des fins illicites : les concurrents peuvent l'utiliser pour acquérir des capacités puissantes d'autres laboratoires en une fraction du temps, et à une fraction du coût, que cela prendrait pour les développer indépendamment.”
Anthropic a déclaré que les attaques étaient axées sur le scraping de Claude pour une large gamme de fins, y compris le raisonnement agentique, le codage et l'analyse de données, les tâches d'évaluation basées sur des rubriques, et la vision par ordinateur.
“Chaque campagne visait les capacités les plus différenciées de Claude : le raisonnement agentique, l'utilisation d'outils, et le codage,” a déclaré la firme d'IA de plusieurs milliards de dollars.
Source : Anthropic
Anthropic dit avoir pu identifier le trio via une "correlation d'adresse IP, des métadonnées de requête, des indicateurs d'infrastructure, et dans certains cas, la corroboration de partenaires industriels qui ont observé les mêmes acteurs et comportements sur leurs plateformes."
DeepSeek, Moonshot et Minimax sont toutes des entreprises d'IA basées en Chine. Les trois ont des évaluations estimées dans la fourchette des milliards de dollars, DeepSeek étant la plus largement reconnue à l'international des trois.
Au-delà des implications en matière de propriété intellectuelle, Anthropic a soutenu que les campagnes de distillation des concurrents étrangers présentent de réels risques géopolitiques.
"Les laboratoires étrangers qui distillent des modèles américains peuvent ensuite alimenter ces capacités non protégées dans des systèmes militaires, de renseignement et de surveillance—permettant aux gouvernements autoritaires de déployer l'IA de pointe pour des opérations cybernétiques offensives, des campagnes de désinformation et une surveillance de masse," a déclaré la firme.
Pour l'avenir, Anthropic a déclaré qu'elle se protégerait en améliorant les systèmes de détection pour aider à repérer un trafic douteux, en partageant des informations sur les menaces, et en renforçant les contrôles d'accès, entre autres choses.
Lié : Le rapport sur la fatalité de l'IA de Citrini voit les actions de logiciels et de paiements chuter.
La firme a également appelé à plus de collaboration de la part des participants de l'industrie domestique et des législateurs pour aider à empêcher les entreprises d'IA étrangères d'attaquer les entreprises américaines.
“Aucune entreprise ne peut résoudre cela seule. Comme nous l'avons noté ci-dessus, les attaques de distillation à cette échelle nécessitent une réponse coordonnée à travers l'industrie de l'IA, les fournisseurs de cloud, et les décideurs. Nous publions cela pour rendre les preuves disponibles à tous ceux qui ont un intérêt dans l'issue.”
Magazine : Crypto aime Clawdbot/Moltbot, évaluations Uber pour les agents d'IA : IA Eye