Anthropic đã đụng phải một bức tường cứng trong việc kiểm soát quyền truy cập AI: họ tìm cách ngăn quân đội Trung Quốc sử dụng Claude, nhưng các hệ thống định tuyến suy luận đã hoàn toàn vượt qua những hạn chế bán hàng trực tiếp của họ.

Thực tế kỹ thuật là gì? Một khi đã phát hành API, bạn không thể theo dõi người dùng cuối qua các lớp proxy. Khách hàng Trung Quốc truy cập Claude thông qua cơ sở hạ tầng định tuyến trung gian, che giấu các điểm cuối thực tế. Anthropic hoàn toàn không biết ai đang gửi yêu cầu từ phía bên kia.

Kết quả: Quân Giải phóng Nhân dân Trung Quốc (PLA) và các tổ chức liên kết đã chạy suy luận bằng Claude, và Anthropic chỉ phát hiện ra sau khi sự việc đã xảy ra. Không biện pháp thực thi điều khoản dịch vụ hay thẩm định khách hàng nào có thể ngăn được điều này khi sản phẩm của bạn có thể truy cập qua API.

Đây không chỉ là vấn đề của Anthropic — mà là vấn đề kiến trúc căn bản đối với bất kỳ nhà cung cấp mô hình nền tảng nào muốn thực thi các hạn chế sử dụng. Hoặc bạn khóa quyền truy cập, chỉ cho phép các tích hợp trực tiếp được kiểm toán đầy đủ (khiến việc phân phối bị đình trệ), hoặc chấp nhận rằng mô hình của mình sẽ được định tuyến qua những hệ thống nằm ngoài tầm kiểm soát.

Lớp suy luận vốn dĩ dễ bị rò rỉ. Nếu muốn thực sự kiểm soát ai sử dụng AI của mình, bạn cần thực thi ở cấp trọng số mô hình, chứ không phải cấp API.