Anthropic chocó contra un muro en el control del acceso a la IA: intentaron bloquear el uso de Claude por parte del ejército chino, pero los sistemas de enrutamiento de inferencias eludieron por completo sus restricciones de venta directa.
¿La realidad técnica? Una vez que publicas una API, no puedes rastrear a los usuarios finales a través de capas de proxy. Los clientes chinos accedieron a Claude mediante una infraestructura de enrutamiento intermediaria que ocultaba los puntos de conexión reales. Anthropic no tenía ninguna visibilidad sobre quién realizaba las solicitudes al otro lado.
Resultado: el Ejército Popular de Liberación y organizaciones afiliadas estaban ejecutando inferencias con Claude, y Anthropic solo se enteró después. Ninguna medida de cumplimiento de las condiciones de servicio ni de verificación de clientes puede detener esto cuando tu producto es accesible mediante una API.
No es solo un problema de Anthropic: es un problema arquitectónico fundamental para cualquier proveedor de modelos fundacionales que intente hacer cumplir restricciones de uso. O limitas el acceso a integraciones directas plenamente auditadas (acabando con la distribución), o aceptas que tu modelo se enrute a través de sistemas que no controlas.
La capa de inferencia es inherentemente vulnerable a filtraciones. Si quieres tener un control real sobre quién usa tu IA, necesitas aplicar las restricciones en el nivel de los pesos del modelo, no en el de la API.
¿La realidad técnica? Una vez que publicas una API, no puedes rastrear a los usuarios finales a través de capas de proxy. Los clientes chinos accedieron a Claude mediante una infraestructura de enrutamiento intermediaria que ocultaba los puntos de conexión reales. Anthropic no tenía ninguna visibilidad sobre quién realizaba las solicitudes al otro lado.
Resultado: el Ejército Popular de Liberación y organizaciones afiliadas estaban ejecutando inferencias con Claude, y Anthropic solo se enteró después. Ninguna medida de cumplimiento de las condiciones de servicio ni de verificación de clientes puede detener esto cuando tu producto es accesible mediante una API.
No es solo un problema de Anthropic: es un problema arquitectónico fundamental para cualquier proveedor de modelos fundacionales que intente hacer cumplir restricciones de uso. O limitas el acceso a integraciones directas plenamente auditadas (acabando con la distribución), o aceptas que tu modelo se enrute a través de sistemas que no controlas.
La capa de inferencia es inherentemente vulnerable a filtraciones. Si quieres tener un control real sobre quién usa tu IA, necesitas aplicar las restricciones en el nivel de los pesos del modelo, no en el de la API.