Le cofondateur de Castle Island Ventures, Nic Carter, a commenté l’appel du PDG d’Anthropic, Dario Amodei, à ralentir le développement de l’IA de pointe. D’après ChainCatcher, Carter a déclaré que la proposition fait sens si l’objectif est d’élargir l’écart entre le public et la véritable frontière, et si les concurrents sont disposés à coopérer.

Carter a déclaré que le principal risque commercial d’Anthropic est la commoditisation des modèles, alimentée par la distillation, plutôt que par des préoccupations de sécurité. Il a ajouté que les incitations à la sécurité et au profit s’alignent lorsqu’on limite l’accès public aux modèles de pointe, puisque la meilleure utilisation des jetons de pointe est la recherche interne et la capture de la propriété intellectuelle en aval, plutôt que les ventes d’API publiques.

Carter a également déclaré qu’une restriction unilatérale ne peut pas résoudre le dilemme du prisonnier et que des restrictions coordonnées nécessiteraient des exemptions antitrust ou une réglementation. Il a noté qu’Anthropic a un accès limité à des modèles comme Mythos Preview, réservé à un petit nombre de partenaires, tandis qu’Amodei a appelé le gouvernement américain à accorder des exemptions limitées pour les discussions liées à la sécurité, afin que les entreprises puissent définir volontairement des normes.