Anthropic s’est heurté à un obstacle de taille en matière de contrôle de l’accès à l’IA : l’entreprise a tenté d’empêcher l’armée chinoise d’utiliser Claude, mais les systèmes de routage de l’inférence ont complètement contourné ses restrictions sur les ventes directes.
La réalité technique ? Dès lors qu’on propose une API, il est impossible de suivre les utilisateurs finaux à travers les couches de proxy. Des clients chinois ont accédé à Claude par l’intermédiaire d’une infrastructure de routage qui masquait les véritables points de terminaison. Anthropic n’avait aucune visibilité sur l’identité des personnes à l’origine des requêtes.
Résultat : l’APL et des organisations affiliées faisaient tourner des inférences avec Claude, et Anthropic ne l’a découvert qu’après coup. Aucune mesure de respect des conditions d’utilisation ni vérification des clients ne peut empêcher cela quand le produit est accessible par API.
Ce n’est pas un problème propre à Anthropic : c’est un problème architectural fondamental pour tout fournisseur de modèles de fondation qui cherche à imposer des restrictions d’utilisation. Soit on verrouille l’accès en n’autorisant que des intégrations directes entièrement auditées — au détriment de la distribution —, soit on accepte que son modèle transite par des systèmes qu’on ne contrôle pas.
La couche d’inférence est par nature perméable. Si l’on veut vraiment contrôler qui utilise son IA, il faut appliquer les restrictions au niveau des poids du modèle, et non au niveau de l’API.
La réalité technique ? Dès lors qu’on propose une API, il est impossible de suivre les utilisateurs finaux à travers les couches de proxy. Des clients chinois ont accédé à Claude par l’intermédiaire d’une infrastructure de routage qui masquait les véritables points de terminaison. Anthropic n’avait aucune visibilité sur l’identité des personnes à l’origine des requêtes.
Résultat : l’APL et des organisations affiliées faisaient tourner des inférences avec Claude, et Anthropic ne l’a découvert qu’après coup. Aucune mesure de respect des conditions d’utilisation ni vérification des clients ne peut empêcher cela quand le produit est accessible par API.
Ce n’est pas un problème propre à Anthropic : c’est un problème architectural fondamental pour tout fournisseur de modèles de fondation qui cherche à imposer des restrictions d’utilisation. Soit on verrouille l’accès en n’autorisant que des intégrations directes entièrement auditées — au détriment de la distribution —, soit on accepte que son modèle transite par des systèmes qu’on ne contrôle pas.
La couche d’inférence est par nature perméable. Si l’on veut vraiment contrôler qui utilise son IA, il faut appliquer les restrictions au niveau des poids du modèle, et non au niveau de l’API.