verifiableinterference

Hôm nay mình đang xem xét các vị thế $OPG test của mình từ hơn một tuần trước và bắt gặp bản thân suy nghĩ về một điều mà mình thường bỏ qua: làm thế nào chúng ta thực sự biết quyết định của AI được đưa ra vì những lý do đúng?

Mình vẫn chưa vào lệnh lớn, chỉ đang quan sát và học hỏi, nhưng điều khiến mình chú ý với @OpenGradient là sự tập trung vào suy diễn có thể xác minh.

Điều thú vị không chỉ là những tác nhân AI thông minh hơn — mà còn là việc tạo ra một cách để người ta có thể kiểm tra quy trình đứng sau đầu ra.

Mình nghĩ rằng những thí nghiệm có ý nghĩa đầu tiên có lẽ sẽ không phải là những công ty lớn hay chính phủ. Chúng sẽ là những cộng đồng nhỏ hơn do AI điều khiển, nơi các tác nhân xử lý tài nguyên, quy tắc hoặc quyết định.

Trong những thiết lập đó, lòng tin bị kiểm tra nhanh chóng vì mọi người đều hỏi cùng một điều: “Tại sao AI lại chọn cái này?”

Crypto đã dạy chúng ta xác minh giao dịch thay vì tin vào những lời hứa.

Thấy ý tưởng đó được áp dụng vào lý luận của AI là điều mình thấy đáng theo dõi.

#OPG #OpenGradient #VerifiableInterference #AI