Hoàn thành nhiệm vụ. Đổ một ít nước. Một điều vẫn còn đọng lại trong tâm trí tôi.
@OpenGradient $OPG #OPG tự dựng lên như một nền tảng cho trí tuệ đáng tin cậy — mọi suy diễn đều có thể xác minh, mọi mô hình đều có thể kiểm toán, toàn bộ hệ thống được thiết kế xung quanh việc xây dựng AI mà bạn thực sự có thể tin cậy. Cái lời chào hàng này có vẻ khác sau khi tôi tìm hiểu tài liệu của Model Hub.
Hub hoàn toàn không có quyền truy cập. Tài liệu nêu rõ: bất kỳ ai cũng có thể tải lên một mô hình mà không có người gác cổng và không có hàng phê duyệt, ngay lập tức có sẵn để suy diễn qua mạng lưới. Hơn 2,000 mô hình từ hơn 100 nhà phát triển đã được triển khai. Và phần thực thi thực sự hoạt động — xác thực TEE hoặc zkML xác nhận rằng một mô hình cụ thể đã được tải lên chạy trên các đầu vào cụ thể và tạo ra một đầu ra cụ thể, tất cả đều được xác minh tại sự đồng thuận trước khi thanh toán. Mạng lưới đã giải phóng 4.2 triệu khối và 1.85 triệu giao dịch với hơn 500,000 bằng chứng mã hóa hỗ trợ điều đó.
Chờ đã — nhưng. Bằng chứng xác nhận rằng mô hình đã chạy trung thực. Nó không nói gì về việc liệu mô hình đó có được xây dựng tốt, không thiên lệch, an toàn, hoặc đáng tin cậy ngay từ đầu hay không. Một mô hình được đào tạo kém được tải lên mà không có quyền truy cập, chạy bên trong TEE, tạo ra một đầu ra hoàn toàn được xác nhận nhưng có thể có chất lượng thấp. Việc thực thi được xác minh. Trí tuệ thì không.
Tôi đã đọc đi đọc lại trang Model Hub với hy vọng tìm thấy một lớp kiểm duyệt mà tôi đã bỏ lỡ. Không có cái nào, theo thiết kế.
Vậy "trí tuệ đáng tin cậy" thực sự có nghĩa là gì khi đảm bảo tin cậy áp dụng cho việc thực thi bất cứ điều gì mà bất kỳ ai tải lên, chứ không phải cho chất lượng hoặc nguồn gốc của những gì đã được tải lên?
@OpenGradient $OPG #OPG tự dựng lên như một nền tảng cho trí tuệ đáng tin cậy — mọi suy diễn đều có thể xác minh, mọi mô hình đều có thể kiểm toán, toàn bộ hệ thống được thiết kế xung quanh việc xây dựng AI mà bạn thực sự có thể tin cậy. Cái lời chào hàng này có vẻ khác sau khi tôi tìm hiểu tài liệu của Model Hub.
Hub hoàn toàn không có quyền truy cập. Tài liệu nêu rõ: bất kỳ ai cũng có thể tải lên một mô hình mà không có người gác cổng và không có hàng phê duyệt, ngay lập tức có sẵn để suy diễn qua mạng lưới. Hơn 2,000 mô hình từ hơn 100 nhà phát triển đã được triển khai. Và phần thực thi thực sự hoạt động — xác thực TEE hoặc zkML xác nhận rằng một mô hình cụ thể đã được tải lên chạy trên các đầu vào cụ thể và tạo ra một đầu ra cụ thể, tất cả đều được xác minh tại sự đồng thuận trước khi thanh toán. Mạng lưới đã giải phóng 4.2 triệu khối và 1.85 triệu giao dịch với hơn 500,000 bằng chứng mã hóa hỗ trợ điều đó.
Chờ đã — nhưng. Bằng chứng xác nhận rằng mô hình đã chạy trung thực. Nó không nói gì về việc liệu mô hình đó có được xây dựng tốt, không thiên lệch, an toàn, hoặc đáng tin cậy ngay từ đầu hay không. Một mô hình được đào tạo kém được tải lên mà không có quyền truy cập, chạy bên trong TEE, tạo ra một đầu ra hoàn toàn được xác nhận nhưng có thể có chất lượng thấp. Việc thực thi được xác minh. Trí tuệ thì không.
Tôi đã đọc đi đọc lại trang Model Hub với hy vọng tìm thấy một lớp kiểm duyệt mà tôi đã bỏ lỡ. Không có cái nào, theo thiết kế.
Vậy "trí tuệ đáng tin cậy" thực sự có nghĩa là gì khi đảm bảo tin cậy áp dụng cho việc thực thi bất cứ điều gì mà bất kỳ ai tải lên, chứ không phải cho chất lượng hoặc nguồn gốc của những gì đã được tải lên?
