Tôi cứ nhìn mãi một thị trường đi ngang trong ba ngày nay. Không biến động, không hứng thú, chỉ có giá chạy ngang khiến bạn tự hỏi vì sao mình lại thậm chí mở terminal.
Cuối cùng tôi cũng làm điều mà bấy lâu nay mình vẫn trì hoãn. Tôi dọn sạch những tab mình định đọc. Một trong số đó nói về Newton Protocol ($NEWT ). Tôi chỉ mở ra vì cứ thấy @NewtonProtocol pop xuất hiện trong các cuộc thảo luận về tác nhân AI.
Tôi nghĩ là cứ lướt qua trong năm phút thôi.
Cuối cùng tôi ngồi đó hơn một tiếng.
Vấn đề là chỗ đó đã khiến tôi đứng hình. Họ đang rao bán ý tưởng về "các tác nhân AI đáng tin cậy". Thực thi chính sách trước giao dịch. Quy tắc Rego. Xác thực TEE. Mạng lưới nhà vận hành phi tập trung. Đủ thứ từ khóa kêu nhất.
Và nói thật đi? Trên giấy tờ thì nó nghe có vẻ vững chắc. Một tác nhân muốn đổi token, trả tiền cho ai đó, thực hiện một hành động lặp lại. Trước khi mọi thứ được thông qua, hệ thống sẽ đối chiếu với các quy tắc được đặt sẵn. Một mạng chạy bên trong các Môi trường Thực thi Tin cậy tạo ra một biên nhận mật mã. Bất kỳ ai cũng có thể xác minh biên nhận đó trên Newton Explorer.
Tuyệt. Rất thích.
Nhưng rồi tôi lại quay về đọc đi đọc lại cụm đó: “làm cho các tác nhân AI đáng tin cậy hơn.”
Và một điều gì đó cứ không được ổn.
Để tôi giải thích điều đã làm tôi khó chịu. Newton thực ra không hề xác minh rằng tác nhân đó đáng tin. Nó chỉ xác minh rằng một giao dịch cụ thể đã khớp với một quy tắc. Đó là hai chuyện hoàn toàn khác nhau.
Còn bản thân tác nhân thì sao? Hoàn toàn là hộp đen. Newton không bao giờ nhìn vào bên trong nó. Nó không kiểm toán lý do suy luận, dữ liệu huấn luyện, các động cơ, hay việc liệu nó có đang âm thầm tối ưu cho người đã tạo ra nó thay vì tối ưu cho tôi.
Nó chỉ kiểm tra mỗi điều này: đầu ra đó có thỏa mãn một điều kiện không? Có hoặc không.
Đó không phải là “tin tưởng” tác nhân. Đó là tin vào checkpoint.
Hãy nghĩ theo cách này. Nếu một người vận hành phải thế chấp NEWT, đó là một mô hình kinh tế. Họ có “da thịt trong cuộc chơi.” Nếu bị phát hiện là gian lận với chính sách, họ sẽ mất tiền.
Nhưng điều đó lại không nói lên gì về việc quyết định của tác nhân có tốt đến đâu.
Chỗ này mới đáng sợ. Một tác nhân “tuân thủ chính sách” hoàn hảo vẫn có thể đưa ra một quyết định thật sự tệ hại. Miễn là quyết định xấu đó về mặt kỹ thuật vẫn vượt qua luật Rego mà ai đó viết, thì nó sẽ được thông qua. Định luật Goodhart không quan tâm bạn có xác thực kiểu gì.
Và rồi còn phần TEE cứ làm tôi băn khoăn mãi.
Xác thực từ một Môi trường Thực thi Tin cậy (TEE) không giống với bằng chứng không tri thức (zero-knowledge). Bằng chứng ZK có thể được xác minh bằng toán học. Bạn không cần phải tin bất kỳ ai. Còn chứng thực TEE thì sao? Ở một mức độ nào đó, bạn phải tin rằng enclave bảo mật của Intel chưa bị xâm phạm.
Không phải là “không có gì”. Nhưng đó là một kiểu “có thể xác minh” khác với những gì mà crypto thường hứa. Và tôi không nghĩ đa số người đang lướt đọc trong một thread về Newton lại nhận ra khác biệt đó.
Nhưng nào, đừng hiểu nhầm nhé. Không có nghĩa là mọi thứ đều vô dụng.
Việc thực thi chính sách trước giao dịch thực sự rất hữu ích. Nó ngăn một tác nhân “không ai ngờ tới” hoặc bị lỗi làm ra điều thảm khốc, vi phạm một quy tắc hiển nhiên. Việc có một dấu vết biên nhận công khai rất quan trọng với các tổ chức cần nhật ký kiểm toán. Phần đó là có thật.
Nó chỉ hẹp hơn cụm “tác nhân AI đáng tin cậy.”
Nó gần với kiểu “hàng rào đã làm đúng nhiệm vụ của nó.”
Đó là điều tốt để có. Nhưng nó không phải là cùng một chuyện.
Tôi cứ mãi phân vân liệu sự khác biệt này có quan trọng với người dùng phổ thông hay không.
Có thể nó chỉ quan trọng đối với những người thực sự đang xây chính sách trên nền Newton. Có thể bạn chỉ thấy khác biệt đó khi gặp áp lực. Khi một tác nhân phát hiện ra một tình huống biên mà quy tắc Rego không lường trước. Khi về mặt kỹ thuật nó vẫn “tuân thủ” dù đang làm điều mà chẳng ai muốn.
Bản thân tác nhân vẫn là một hộp đen. Nhận thức, động cơ, dữ liệu huấn luyện. Tất cả đều mù mờ. Chúng ta đang xây dựng một hệ thống trong đó việc tuân thủ là có thể xác minh, còn trí tuệ thì không.
Này, tôi không nói Newton là xấu. Chức năng hàng rào bảo vệ rất có giá trị. Ngăn một tác nhân bị lỗi rút cạn ví của bạn có ích thật. Nhưng nếu bạn đang đặt cược vào “niềm tin mang tính tác nhân,” thì bạn đang đặt cược vào sai tính năng.
Câu hỏi thực sự không phải là liệu Newton có làm cho các tác nhân đáng tin hơn hay không.
Vấn đề là liệu thị trường sẽ nhận ra sự khác biệt đó trước hay sau khi một lỗ hổng bị khai thác.
Dù sao thì. Thị trường vẫn đi ngang. Có lẽ tôi nên kiểm tra xem cái khoản mở khóa trong vài tuần nữa đã được tính giá chưa.
Dù sao thì nó vẫn cứ lởn vởn trong đầu tôi.