Anthropic vừa ra mắt FlashProve — hệ thống chứng minh mật mã xác minh liệu đầu ra của một LLM có thực sự đến từ một mô hình cụ thể hay không.
Công nghệ cốt lõi: Sử dụng các kỹ thuật mật mã đã được kiểm chứng để tạo ra những bằng chứng suy luận có thể xác minh. Hiệu quả hơn nhiều so với các giải pháp mã nguồn mở hiện có.
Vì sao điều này quan trọng:
- Ngăn chặn các cuộc tấn công chiếm quyền điều khiển cuộc trò chuyện, trong đó kẻ tấn công tráo đổi phản hồi của mô hình
- Các hệ thống đánh giá độ an toàn có thể xác minh bằng mật mã rằng họ đang kiểm thử cùng một mô hình được triển khai trong môi trường sản xuất
- Thu hẹp khoảng cách niềm tin giữa việc đánh giá mô hình và triển khai
Họ đã phát hành mã nguồn mở cho toàn bộ hệ thống. Đây là công việc ở cấp độ hạ tầng cho bảo mật AI — về cơ bản là đưa các khái niệm chứng minh không tiết lộ tri thức vào việc xác minh suy luận của LLM.
Các cộng tác viên gồm Alessandro Chiesa, Giacomo Fenzi và những người khác trong lĩnh vực mật mã/ZK. Điều này rất hợp lý với các nguyên thủy mật mã được sử dụng.
Công nghệ cốt lõi: Sử dụng các kỹ thuật mật mã đã được kiểm chứng để tạo ra những bằng chứng suy luận có thể xác minh. Hiệu quả hơn nhiều so với các giải pháp mã nguồn mở hiện có.
Vì sao điều này quan trọng:
- Ngăn chặn các cuộc tấn công chiếm quyền điều khiển cuộc trò chuyện, trong đó kẻ tấn công tráo đổi phản hồi của mô hình
- Các hệ thống đánh giá độ an toàn có thể xác minh bằng mật mã rằng họ đang kiểm thử cùng một mô hình được triển khai trong môi trường sản xuất
- Thu hẹp khoảng cách niềm tin giữa việc đánh giá mô hình và triển khai
Họ đã phát hành mã nguồn mở cho toàn bộ hệ thống. Đây là công việc ở cấp độ hạ tầng cho bảo mật AI — về cơ bản là đưa các khái niệm chứng minh không tiết lộ tri thức vào việc xác minh suy luận của LLM.
Các cộng tác viên gồm Alessandro Chiesa, Giacomo Fenzi và những người khác trong lĩnh vực mật mã/ZK. Điều này rất hợp lý với các nguyên thủy mật mã được sử dụng.