#opg $OPG
Tôi từng đánh giá AI có thể kiểm chứng bằng một quy tắc lười biếng:
Bằng chứng mạnh nhất phải là bằng chứng tốt nhất.
Sau đó tôi nhìn cách @OpenGradient xử lý các khối lượng công việc khác nhau và nhận ra quy tắc đó sẽ khiến AI gần như không thể sử dụng.
Một cuộc trò chuyện bình thường trên chat.opengradient.ai cần có quyền riêng tư, cần có bằng chứng rằng mã đã được chấp thuận xử lý đúng yêu cầu, và cần có câu trả lời nhanh đủ để “cảm thấy giống như chat”. Một TEE phù hợp cho công việc này vì nó cung cấp xác thực dựa trên phần cứng mà không bắt người dùng phải chờ đợi lâu để tạo ra các bằng chứng nặng nề.
ZKML giải quyết một bài toán khó hơn.
Nó có thể chứng minh một cách toán học rằng một mô hình cụ thể đã tạo ra một kết quả cụ thể. Mức độ chắc chắn đó là hợp lý khi đầu ra của ML có thể kích hoạt việc thanh lý, chuyển tiền, hoặc thay đổi một quyết định trên chuỗi.
Nhưng việc tạo ra bằng chứng đó có thể tốn nhiều lần chi phí tính toán hơn.
Đặt ZKML sau mọi câu chữ từ một LLM và “trợ lý an toàn” sẽ trở thành một phòng chờ tốn kém.
Ngoài ra còn có chữ ký. Chúng có thể cho biết nút nào trả về kết quả và liệu nó có bị chỉnh sửa hay không, nhưng chúng không chứng minh rằng việc thực thi bản thân là đúng. Điều đó có thể vẫn đủ cho các thí nghiệm hoặc các tác vụ ít rủi ro.
Thứ làm tôi “ngộ ra” là: đây không phải là các phiên bản mạnh hơn và yếu hơn của cùng một công cụ.
Chúng bảo vệ chống lại những kiểu lỗi khác nhau.
Điểm mạnh của OpenGradient là cho phép việc kiểm chứng khớp với hậu quả của câu trả lời, ngay cả khi trộn các phương pháp khác nhau trong một quy trình có các mức độ rủi ro khác nhau.
Câu hỏi không phải, “Tại sao không phải mọi thứ đều dùng bằng chứng mạnh nhất?”
Mà là, “Sẽ mất đi điều gì thực sự nếu câu trả lời cụ thể này bị sai?”
Điều đó giống như một nền tảng thực tế hơn nhiều cho $OPG.
Tôi từng đánh giá AI có thể kiểm chứng bằng một quy tắc lười biếng:
Bằng chứng mạnh nhất phải là bằng chứng tốt nhất.
Sau đó tôi nhìn cách @OpenGradient xử lý các khối lượng công việc khác nhau và nhận ra quy tắc đó sẽ khiến AI gần như không thể sử dụng.
Một cuộc trò chuyện bình thường trên chat.opengradient.ai cần có quyền riêng tư, cần có bằng chứng rằng mã đã được chấp thuận xử lý đúng yêu cầu, và cần có câu trả lời nhanh đủ để “cảm thấy giống như chat”. Một TEE phù hợp cho công việc này vì nó cung cấp xác thực dựa trên phần cứng mà không bắt người dùng phải chờ đợi lâu để tạo ra các bằng chứng nặng nề.
ZKML giải quyết một bài toán khó hơn.
Nó có thể chứng minh một cách toán học rằng một mô hình cụ thể đã tạo ra một kết quả cụ thể. Mức độ chắc chắn đó là hợp lý khi đầu ra của ML có thể kích hoạt việc thanh lý, chuyển tiền, hoặc thay đổi một quyết định trên chuỗi.
Nhưng việc tạo ra bằng chứng đó có thể tốn nhiều lần chi phí tính toán hơn.
Đặt ZKML sau mọi câu chữ từ một LLM và “trợ lý an toàn” sẽ trở thành một phòng chờ tốn kém.
Ngoài ra còn có chữ ký. Chúng có thể cho biết nút nào trả về kết quả và liệu nó có bị chỉnh sửa hay không, nhưng chúng không chứng minh rằng việc thực thi bản thân là đúng. Điều đó có thể vẫn đủ cho các thí nghiệm hoặc các tác vụ ít rủi ro.
Thứ làm tôi “ngộ ra” là: đây không phải là các phiên bản mạnh hơn và yếu hơn của cùng một công cụ.
Chúng bảo vệ chống lại những kiểu lỗi khác nhau.
Điểm mạnh của OpenGradient là cho phép việc kiểm chứng khớp với hậu quả của câu trả lời, ngay cả khi trộn các phương pháp khác nhau trong một quy trình có các mức độ rủi ro khác nhau.
Câu hỏi không phải, “Tại sao không phải mọi thứ đều dùng bằng chứng mạnh nhất?”
Mà là, “Sẽ mất đi điều gì thực sự nếu câu trả lời cụ thể này bị sai?”
Điều đó giống như một nền tảng thực tế hơn nhiều cho $OPG.