OpenGradient đã khiến tôi suy nghĩ lại về những gì chúng ta nên mong đợi từ AI.
Trong nhiều năm, tôi đã giả định rằng tương lai của AI sẽ được định nghĩa bởi những mô hình thông minh hơn và những câu trả lời tốt hơn. Nhưng sau khi dựa vào AI cho các quyết định hàng ngày từ việc lên kế hoạch cho chuyến đi đến việc chọn nhà hàng, tôi đã nhận thấy một điều không thoải mái.
Điều mà tôi không thể giải thích là tại sao chúng lại tốt.
Các hệ thống AI hiện đại được tối ưu hóa cho câu trả lời, không phải sự hiểu biết. Chúng nén một lượng lớn thông tin thành các đầu ra rõ ràng, thuyết phục trong khi ẩn giấu quá trình lý luận phía sau chúng. Mối quan tâm không chỉ là liệu AI có thể sai hay không. Mà là chúng ta dần mất đi khả năng nhìn thấy cách mà kiến thức được hình thành.
Kiến thức không biến mất khi máy móc giúp chúng ta suy nghĩ. Nó biến mất khi chúng ta mất khả năng kiểm tra, đặt câu hỏi và xác thực lý luận phía sau các kết luận của chúng.
Đó là lý do tại sao sự tập trung của OpenGradient vào việc suy luận có thể xác minh nổi bật.
Thay vì chỉ đơn giản làm cho các mô hình thông minh hơn, OpenGradient tập trung vào việc làm cho suy luận minh bạch và có thể xác minh độc lập.
Suy luận là thành phần quan trọng nhất và ít rõ ràng nhất của các hệ thống AI. Ngày nay, người dùng chủ yếu tin tưởng rằng các mô hình được thực hiện đúng cách và rằng đầu ra thực sự phản ánh quy trình đã nêu. Niềm tin đó phụ thuộc vào các tổ chức và cơ sở hạ tầng tập trung mà người dùng không thể kiểm tra.
OpenGradient khám phá một cách tiếp cận khác bằng cách kết hợp suy luận có thể xác minh với cơ sở hạ tầng phi tập trung.
Thay vì dựa vào một nhà cung cấp duy nhất để thực hiện và xác thực khối lượng công việc AI, cơ sở hạ tầng phi tập trung phân phối tính toán giữa các người tham gia độc lập trong khi tạo ra các chứng minh mật mã rằng suy luận đã diễn ra như đã tuyên bố.
Điều này biến đổi đầu ra AI từ những câu trả lời cô lập thành những sự kiện có thể truy xuất mà có thể được kiểm toán, so sánh và thách thức.
Niềm tin chuyển từ danh tiếng của các nhà cung cấp mô hình sang tính toàn vẹn và minh bạch của chính việc thực hiện.
Trong thời đại AI, xã hội không mất đi kiến thức vì máy móc trả lời câu hỏi cho con người.
Vẫn đang theo dõi opengradient.
#OPG @OpenGradient $OPG
Trong nhiều năm, tôi đã giả định rằng tương lai của AI sẽ được định nghĩa bởi những mô hình thông minh hơn và những câu trả lời tốt hơn. Nhưng sau khi dựa vào AI cho các quyết định hàng ngày từ việc lên kế hoạch cho chuyến đi đến việc chọn nhà hàng, tôi đã nhận thấy một điều không thoải mái.
Điều mà tôi không thể giải thích là tại sao chúng lại tốt.
Các hệ thống AI hiện đại được tối ưu hóa cho câu trả lời, không phải sự hiểu biết. Chúng nén một lượng lớn thông tin thành các đầu ra rõ ràng, thuyết phục trong khi ẩn giấu quá trình lý luận phía sau chúng. Mối quan tâm không chỉ là liệu AI có thể sai hay không. Mà là chúng ta dần mất đi khả năng nhìn thấy cách mà kiến thức được hình thành.
Kiến thức không biến mất khi máy móc giúp chúng ta suy nghĩ. Nó biến mất khi chúng ta mất khả năng kiểm tra, đặt câu hỏi và xác thực lý luận phía sau các kết luận của chúng.
Đó là lý do tại sao sự tập trung của OpenGradient vào việc suy luận có thể xác minh nổi bật.
Thay vì chỉ đơn giản làm cho các mô hình thông minh hơn, OpenGradient tập trung vào việc làm cho suy luận minh bạch và có thể xác minh độc lập.
Suy luận là thành phần quan trọng nhất và ít rõ ràng nhất của các hệ thống AI. Ngày nay, người dùng chủ yếu tin tưởng rằng các mô hình được thực hiện đúng cách và rằng đầu ra thực sự phản ánh quy trình đã nêu. Niềm tin đó phụ thuộc vào các tổ chức và cơ sở hạ tầng tập trung mà người dùng không thể kiểm tra.
OpenGradient khám phá một cách tiếp cận khác bằng cách kết hợp suy luận có thể xác minh với cơ sở hạ tầng phi tập trung.
Thay vì dựa vào một nhà cung cấp duy nhất để thực hiện và xác thực khối lượng công việc AI, cơ sở hạ tầng phi tập trung phân phối tính toán giữa các người tham gia độc lập trong khi tạo ra các chứng minh mật mã rằng suy luận đã diễn ra như đã tuyên bố.
Điều này biến đổi đầu ra AI từ những câu trả lời cô lập thành những sự kiện có thể truy xuất mà có thể được kiểm toán, so sánh và thách thức.
Niềm tin chuyển từ danh tiếng của các nhà cung cấp mô hình sang tính toàn vẹn và minh bạch của chính việc thực hiện.
Trong thời đại AI, xã hội không mất đi kiến thức vì máy móc trả lời câu hỏi cho con người.
Vẫn đang theo dõi opengradient.
#OPG @OpenGradient $OPG
