Các hệ thống AI bắt đầu đưa ra quyết định dựa trên những ký ức dài hạn, sở thích, mục tiêu và ngữ cảnh cá nhân của chúng ta; vậy làm sao chúng ta có thể tin tưởng rằng thông tin$OPG
Đăng
--
Devil9
·
--
Bạn có cảm thấy rằng phần lớn những gì chúng ta biết về AI đến từ việc nghe người khác nói về nó không?
Bạn có lẽ đã nghe rất nhiều về kích thước mô hình, khả năng lập luận và hiệu năng. Hôm nay, tôi muốn chia sẻ một suy nghĩ khác.
Nếu các hệ thống AI trong tương lai bắt đầu đưa ra quyết định dựa trên ký ức dài hạn, sở thích, mục tiêu và bối cảnh cá nhân của chúng ta, thì làm sao chúng ta có thể tin rằng thông tin mà chúng đang sử dụng là thực sự chính xác?
Câu hỏi này nảy ra trong lúc tôi tìm hiểu các dự án như MemSync.
Họ tập trung giải quyết một trong những thách thức lớn của AI: sự phân mảnh bộ nhớ.
Luận điểm của họ là AI không chỉ nên hiểu câu hỏi được đặt ra hôm nay. Nó cũng cần hiểu danh tính dài hạn của người dùng (Bộ nhớ ngữ nghĩa) cũng như các hoạt động hiện tại, mục tiêu và các dự án đang diễn ra (Bộ nhớ theo từng sự kiện).
Cách tiếp cận này có thể khiến AI trở nên cá nhân hóa và hữu ích hơn theo thời gian.
Nhưng đó cũng là lúc một thách thức khác bắt đầu.
Khi AI ngày càng phụ thuộc vào bộ nhớ, việc xác minh có thể còn quan trọng hơn chính bộ nhớ.
Nếu một tác nhân AI sử dụng bối cảnh quá khứ của tôi để đưa ra quyết định:
Ký ức đó có xác thực được không?Nó có bị thay đổi không?
Quy trình lập luận có thể được xác minh độc lập không?
Đó là lý do cách tiếp cận của OpenGradient khiến tôi chú ý.
Nhiều dự án AI tập trung vào việc làm cho AI trở nên thông minh hơn. Tuy nhiên, OpenGradient lại đang hướng tới hạ tầng AI có thể được xác minh, nơi việc tính toán, suy luận và các đầu ra của AI có thể được xác minh độc lập, thay vì chỉ đơn giản được tin tưởng.
Theo quan điểm của tôi, MemSync và OpenGradient đại diện cho những lớp khác nhau của cùng một tương lai trong “ngăn xếp” AI. #OPG @OpenGradient
MemSync giúp AI nhớ tốt hơn.
OpenGradient giúp đảm bảo rằng những gì AI ghi nhớ và sử dụng có thể được tin cậy.
Có lẽ AI tốt nhất trong tương lai sẽ không phải là AI có thể nhớ mọi thứ.
Mà có thể là AI có thể chứng minh cả bộ nhớ lẫn lý do (lập luận) của nó. #OPG $OPG @OpenGradient
Theo bạn, điều gì sẽ quan trọng hơn đối với việc AI được áp dụng rộng rãi trong dài hạn—Bộ nhớ tốt hơn hay Trí tuệ có thể được xác minh?$HEI $SLX
Bạn có lẽ đã nghe rất nhiều về kích thước mô hình, khả năng lập luận và hiệu năng. Hôm nay, tôi muốn chia sẻ một suy nghĩ khác.
Nếu các hệ thống AI trong tương lai bắt đầu đưa ra quyết định dựa trên ký ức dài hạn, sở thích, mục tiêu và bối cảnh cá nhân của chúng ta, thì làm sao chúng ta có thể tin rằng thông tin mà chúng đang sử dụng là thực sự chính xác?
Câu hỏi này nảy ra trong lúc tôi tìm hiểu các dự án như MemSync.
Họ tập trung giải quyết một trong những thách thức lớn của AI: sự phân mảnh bộ nhớ.
Luận điểm của họ là AI không chỉ nên hiểu câu hỏi được đặt ra hôm nay. Nó cũng cần hiểu danh tính dài hạn của người dùng (Bộ nhớ ngữ nghĩa) cũng như các hoạt động hiện tại, mục tiêu và các dự án đang diễn ra (Bộ nhớ theo từng sự kiện).
Cách tiếp cận này có thể khiến AI trở nên cá nhân hóa và hữu ích hơn theo thời gian.
Nhưng đó cũng là lúc một thách thức khác bắt đầu.
Khi AI ngày càng phụ thuộc vào bộ nhớ, việc xác minh có thể còn quan trọng hơn chính bộ nhớ.
Nếu một tác nhân AI sử dụng bối cảnh quá khứ của tôi để đưa ra quyết định:
Ký ức đó có xác thực được không?Nó có bị thay đổi không?
Quy trình lập luận có thể được xác minh độc lập không?
Đó là lý do cách tiếp cận của OpenGradient khiến tôi chú ý.
Nhiều dự án AI tập trung vào việc làm cho AI trở nên thông minh hơn. Tuy nhiên, OpenGradient lại đang hướng tới hạ tầng AI có thể được xác minh, nơi việc tính toán, suy luận và các đầu ra của AI có thể được xác minh độc lập, thay vì chỉ đơn giản được tin tưởng.
Theo quan điểm của tôi, MemSync và OpenGradient đại diện cho những lớp khác nhau của cùng một tương lai trong “ngăn xếp” AI. #OPG @OpenGradient
MemSync giúp AI nhớ tốt hơn.
OpenGradient giúp đảm bảo rằng những gì AI ghi nhớ và sử dụng có thể được tin cậy.
Có lẽ AI tốt nhất trong tương lai sẽ không phải là AI có thể nhớ mọi thứ.
Mà có thể là AI có thể chứng minh cả bộ nhớ lẫn lý do (lập luận) của nó. #OPG $OPG @OpenGradient
Theo bạn, điều gì sẽ quan trọng hơn đối với việc AI được áp dụng rộng rãi trong dài hạn—Bộ nhớ tốt hơn hay Trí tuệ có thể được xác minh?$HEI $SLX
Tuyên bố miễn trừ trách nhiệm: Nội dung bao gồm cả quan điểm của bên thứ ba, không phải lời khuyên. Có thể sử dụng nội dung do Binance Ai đưa ra nhưng không được đảm bảo. Xem Điều khoản & Điều kiện.