#opg $OPG Hôm qua tôi muốn dùng ChatGPT để phân tích một báo cáo tài chính. Tôi dán vào hai đoạn văn, rồi một cửa sổ bật lên nói nội dung có liên quan đến thông tin nhạy cảm và khuyên tôi đừng gửi. Tôi cũng hơi ngớ người, rồi rút lại.
Chuyện này làm tôi rất khó chịu. Tôi dùng AI để làm việc, nhưng lại phải lo dữ liệu bị nền tảng đem đi huấn luyện hoặc bị rò rỉ. Nói thẳng ra thì công cụ này có thu tiền của bạn, nhưng bạn không thể nào tin hoàn toàn.
Sau đó tôi lật lại tài liệu của OpenGradient. Họ thiết kế một cơ chế xác thực bằng TEE. Khi bạn gửi prompt cho mô hình, phần đó được mã hóa ngay trong trình duyệt, rồi đi ra ngoài qua trung chuyển Oblivious HTTP. Điểm trung chuyển có thể thấy IP của bạn nhưng không thấy nội dung. Còn cổng phía dưới có thể thấy nội dung đã mã hóa nhưng không biết bạn là ai. Cuối cùng, trong phần cứng TEE, hệ thống sẽ giải mã và chạy. Toàn bộ quá trình tạo ra bằng chứng từ xa (remote proof). Bạn có thể tự kiểm chứng mà không cần tin bất kỳ bên nào.
Tôi cũng xem kỹ thiết kế cổng thanh toán x402 của họ. Mỗi lần yêu cầu suy luận sẽ chạy qua vi thanh toán (micro-payment), $OPG được tính theo số lần gọi. Bạn muốn dùng mô hình nào thì trả theo giá của mô hình đó—không phải kiểu đăng ký theo tháng, dùng hay không vẫn phải trả. Với những người thỉnh thoảng mới dùng AI như tôi, phương thức trả theo nhu cầu thực ra sẽ đáng giá hơn.
So với giải pháp truyền thống: nếu bạn gọi API của GPT hoặc Claude, mỗi hóa đơn đều gắn trực tiếp với danh tính của bạn và nội dung bạn đã gọi. Nền tảng nếu muốn tra cứu thì có thể biết bạn hỏi gì và lúc nào, và có thể lật lại lịch sử. Còn bộ giải pháp của OpenGradient tách hẳn danh tính và nội dung. Gateway nhận được là yêu cầu đã mã hóa, nên không biết có ai đang hỏi. Nó chỉ biết có một khoản thanh toán $OPG để thực hiện suy luận.
$ETH
Cái bánh (Big Dough) giải quyết vấn đề chuyển giao giá trị không cần tin bên trung gian. Còn Ethereum giải quyết vấn đề thực thi mã không cần tin bên thứ ba. OpenGradient đang làm điều tương tự cho AI suy luận: cũng không cần tin nhà cung cấp dịch vụ. Bạn không cần tin rằng họ sẽ không lén xem prompt của bạn, vì kiến trúc kỹ thuật hoàn toàn không để lại chỗ cho việc đó.
$BTC
Tất nhiên, tôi cũng phải nói thẳng một câu: bản thân TEE phụ thuộc vào tính bảo mật phần cứng do các nhà sản xuất chip cung cấp. Nếu Intel hoặc AMD công bố lỗ hổng ở SGX, thì mô hình tin cậy sẽ bị ảnh hưởng. Dù xác suất rất thấp, nhưng rủi ro về mặt lý thuyết vẫn tồn tại. Ngoài ra, hiệu quả hỗ trợ của vi thanh toán x402 cho các yêu cầu nhỏ tần suất cao cũng cần thêm lưu lượng thực tế để xác nhận. Tôi sẽ chờ họ chạy vài tháng rồi xem các phần này hoạt động thế nào trong tải thực tế. @OpenGradient
Chuyện này làm tôi rất khó chịu. Tôi dùng AI để làm việc, nhưng lại phải lo dữ liệu bị nền tảng đem đi huấn luyện hoặc bị rò rỉ. Nói thẳng ra thì công cụ này có thu tiền của bạn, nhưng bạn không thể nào tin hoàn toàn.
Sau đó tôi lật lại tài liệu của OpenGradient. Họ thiết kế một cơ chế xác thực bằng TEE. Khi bạn gửi prompt cho mô hình, phần đó được mã hóa ngay trong trình duyệt, rồi đi ra ngoài qua trung chuyển Oblivious HTTP. Điểm trung chuyển có thể thấy IP của bạn nhưng không thấy nội dung. Còn cổng phía dưới có thể thấy nội dung đã mã hóa nhưng không biết bạn là ai. Cuối cùng, trong phần cứng TEE, hệ thống sẽ giải mã và chạy. Toàn bộ quá trình tạo ra bằng chứng từ xa (remote proof). Bạn có thể tự kiểm chứng mà không cần tin bất kỳ bên nào.
Tôi cũng xem kỹ thiết kế cổng thanh toán x402 của họ. Mỗi lần yêu cầu suy luận sẽ chạy qua vi thanh toán (micro-payment), $OPG được tính theo số lần gọi. Bạn muốn dùng mô hình nào thì trả theo giá của mô hình đó—không phải kiểu đăng ký theo tháng, dùng hay không vẫn phải trả. Với những người thỉnh thoảng mới dùng AI như tôi, phương thức trả theo nhu cầu thực ra sẽ đáng giá hơn.
So với giải pháp truyền thống: nếu bạn gọi API của GPT hoặc Claude, mỗi hóa đơn đều gắn trực tiếp với danh tính của bạn và nội dung bạn đã gọi. Nền tảng nếu muốn tra cứu thì có thể biết bạn hỏi gì và lúc nào, và có thể lật lại lịch sử. Còn bộ giải pháp của OpenGradient tách hẳn danh tính và nội dung. Gateway nhận được là yêu cầu đã mã hóa, nên không biết có ai đang hỏi. Nó chỉ biết có một khoản thanh toán $OPG để thực hiện suy luận.
$ETH
Cái bánh (Big Dough) giải quyết vấn đề chuyển giao giá trị không cần tin bên trung gian. Còn Ethereum giải quyết vấn đề thực thi mã không cần tin bên thứ ba. OpenGradient đang làm điều tương tự cho AI suy luận: cũng không cần tin nhà cung cấp dịch vụ. Bạn không cần tin rằng họ sẽ không lén xem prompt của bạn, vì kiến trúc kỹ thuật hoàn toàn không để lại chỗ cho việc đó.
$BTC
Tất nhiên, tôi cũng phải nói thẳng một câu: bản thân TEE phụ thuộc vào tính bảo mật phần cứng do các nhà sản xuất chip cung cấp. Nếu Intel hoặc AMD công bố lỗ hổng ở SGX, thì mô hình tin cậy sẽ bị ảnh hưởng. Dù xác suất rất thấp, nhưng rủi ro về mặt lý thuyết vẫn tồn tại. Ngoài ra, hiệu quả hỗ trợ của vi thanh toán x402 cho các yêu cầu nhỏ tần suất cao cũng cần thêm lưu lượng thực tế để xác nhận. Tôi sẽ chờ họ chạy vài tháng rồi xem các phần này hoạt động thế nào trong tải thực tế. @OpenGradient