Anthropic affirme avoir réduit d’environ 90 à 99 % les données extraites de Claude lors d’attaques par distillation. Je les félicite pour cette réussite.
Cela confirme le point que j’ai défendu il y a quelques mois (All-In, épisode 282) : Anthropic, et non le gouvernement, était le mieux placé pour empêcher la distillation de ses propres modèles. Une fois le mal fait, une intervention gouvernementale a posteriori a peu de valeur.
À l’époque, à Washington, une forte pression s’exerçait pour restreindre les modèles ouverts au nom de la propriété intellectuelle. La menace semblait suffisamment sérieuse pour que 50 entreprises — dont Nvidia, Microsoft, Meta, IBM, Palantir et Dell — publient une lettre ouverte en faveur des modèles à poids ouverts. Jensen Huang l’a relayée dans son tout premier message sur X. Près de 200 start-up ont envoyé une lettre similaire.
J’ai soutenu que restreindre les modèles ouverts risquait de supprimer l’incitation pour les entreprises développant des modèles fermés à résoudre elles-mêmes le problème — et pourrait récompenser leur négligence en étouffant la concurrence, tandis qu’elles continueraient à tirer des revenus de la distillation. L’administration n’a pas imposé ces restrictions.
Nous en voyons maintenant le résultat. Anthropic a investi dans des moyens de défense, et ceux-ci ont fonctionné. Tout défi technique ne justifie pas de se précipiter à Washington pour réclamer une nouvelle réglementation.
Cela confirme le point que j’ai défendu il y a quelques mois (All-In, épisode 282) : Anthropic, et non le gouvernement, était le mieux placé pour empêcher la distillation de ses propres modèles. Une fois le mal fait, une intervention gouvernementale a posteriori a peu de valeur.
À l’époque, à Washington, une forte pression s’exerçait pour restreindre les modèles ouverts au nom de la propriété intellectuelle. La menace semblait suffisamment sérieuse pour que 50 entreprises — dont Nvidia, Microsoft, Meta, IBM, Palantir et Dell — publient une lettre ouverte en faveur des modèles à poids ouverts. Jensen Huang l’a relayée dans son tout premier message sur X. Près de 200 start-up ont envoyé une lettre similaire.
J’ai soutenu que restreindre les modèles ouverts risquait de supprimer l’incitation pour les entreprises développant des modèles fermés à résoudre elles-mêmes le problème — et pourrait récompenser leur négligence en étouffant la concurrence, tandis qu’elles continueraient à tirer des revenus de la distillation. L’administration n’a pas imposé ces restrictions.
Nous en voyons maintenant le résultat. Anthropic a investi dans des moyens de défense, et ceux-ci ont fonctionné. Tout défi technique ne justifie pas de se précipiter à Washington pour réclamer une nouvelle réglementation.