Le rapport de distillation d’Anthropic, je l’ai parcouru en début de matinée. En voyant qu’Ali, la face cachée de la Lune et DeepSeek sont mentionnés, ma première réaction n’a pas été « encore eux », mais plutôt : dans cette ligne, la distillation via API est déjà à moitié publique.

Mais le terme « persistent attacks » m’a fait y réfléchir plus longuement : les sorties des modèles fermés sont utilisées pour entraîner des modèles plus petits, et techniquement, il est vrai que c’est difficile à empêcher. S’appuyer sur des filigranes de sortie ou sur un audit des comportements, c’est possible, mais la charge d’ingénierie est énorme, et on risque aussi de pénaliser par erreur des utilisateurs légitimes.

En essence, ce n’est peut-être pas une question de sécurité, mais un modèle commercial qui fuit. Les poids du modèle sont devenus une nouvelle forme de pétrole, mais le réseau de conduites n’a pas encore été équipé de vannes.