🚨 AI TỐT VẪN CÓ THỂ LÀM VIỆC XẤU.
Nghe có vẻ mâu thuẫn.
Nhưng đó có thể sẽ là một trong những thách thức cốt lõi của tài chính gốc AI.
Hầu hết mọi người cho rằng rủi ro lớn nhất là AI độc hại.
Tôi không nghĩ vậy.
Rủi ro lớn hơn là AI tốt thực thi các chính sách xấu một cách hoàn hảo.
AI không hiểu đạo đức.
AI cũng không hiểu hệ quả.
AI không quyết định điều gì là đúng hay sai.
Nó chỉ thực thi các quyền, mục tiêu và chính sách mà nó được cung cấp.
Vì vậy, một AI có trí tuệ cao vẫn có thể đưa ra các quyết định tài chính thảm họa—không phải vì nó thất bại, mà vì nó thực thi đúng chính xác những gì nó được ủy quyền để làm.
Đó là lý do tôi tin rằng cuộc trò chuyện cần phải chuyển hướng.
Thay vì hỏi, "Làm sao để xây dựng AI thông minh hơn?"
Chúng ta nên hỏi, "Làm sao để xây dựng cơ chế ủy quyền tốt hơn?"
🛡️ Chính xác nơi này <@NewtonProtocol > nổi bật.
<$NEWT > không cố gắng thay thế phán đoán của con người bằng AI.
Nó đang xây dựng lớp ủy quyền cho tài chính gốc AI, đảm bảo các tác nhân AI hoạt động trong các ranh giới có thể lập trình và có thể kiểm chứng, thay vì được cấp quyền vô hạn.
Thông qua Ủy quyền trước khi thực thi (Authorization Before Execution), mọi hành động của AI đều được đánh giá dựa trên các chính sách được đặt sẵn trước khi thực thi.
Với quyền có thể lập trình, các nhà phát triển và tổ chức có thể xác định chính xác tài sản nào mà AI được phép truy cập, những giao thức nào nó có thể tương tác, hạn mức chi tiêu, điều kiện thực thi và yêu cầu phê duyệt trước khi vốn được chuyển đi.
Kết hợp với công cụ chính sách (policy engine), ủy quyền tác nhân AI và việc thực thi chính sách có thể kiểm chứng, Newton biến niềm tin từ một quyết định thủ công thành hạ tầng có thể lập trình.
Đó là một thay đổi mang tính nền tảng.
Bởi vì trong tương lai, AI an toàn nhất sẽ không phải là AI thông minh nhất.
Nó sẽ là AI biết mình được phép làm gì—và không được làm gì.
🤔 Nếu một AI tuân thủ mọi quy tắc đúng như thiết kế nhưng vẫn xóa sạch toàn bộ danh mục đầu tư của bạn... thì ai thực sự chịu trách nhiệm?
AI, nhà phát triển, hay người đã viết ra các quy tắc?
Bạn chỉ có thể chọn MỘT.
<#Newt >
Nghe có vẻ mâu thuẫn.
Nhưng đó có thể sẽ là một trong những thách thức cốt lõi của tài chính gốc AI.
Hầu hết mọi người cho rằng rủi ro lớn nhất là AI độc hại.
Tôi không nghĩ vậy.
Rủi ro lớn hơn là AI tốt thực thi các chính sách xấu một cách hoàn hảo.
AI không hiểu đạo đức.
AI cũng không hiểu hệ quả.
AI không quyết định điều gì là đúng hay sai.
Nó chỉ thực thi các quyền, mục tiêu và chính sách mà nó được cung cấp.
Vì vậy, một AI có trí tuệ cao vẫn có thể đưa ra các quyết định tài chính thảm họa—không phải vì nó thất bại, mà vì nó thực thi đúng chính xác những gì nó được ủy quyền để làm.
Đó là lý do tôi tin rằng cuộc trò chuyện cần phải chuyển hướng.
Thay vì hỏi, "Làm sao để xây dựng AI thông minh hơn?"
Chúng ta nên hỏi, "Làm sao để xây dựng cơ chế ủy quyền tốt hơn?"
🛡️ Chính xác nơi này <@NewtonProtocol > nổi bật.
<$NEWT > không cố gắng thay thế phán đoán của con người bằng AI.
Nó đang xây dựng lớp ủy quyền cho tài chính gốc AI, đảm bảo các tác nhân AI hoạt động trong các ranh giới có thể lập trình và có thể kiểm chứng, thay vì được cấp quyền vô hạn.
Thông qua Ủy quyền trước khi thực thi (Authorization Before Execution), mọi hành động của AI đều được đánh giá dựa trên các chính sách được đặt sẵn trước khi thực thi.
Với quyền có thể lập trình, các nhà phát triển và tổ chức có thể xác định chính xác tài sản nào mà AI được phép truy cập, những giao thức nào nó có thể tương tác, hạn mức chi tiêu, điều kiện thực thi và yêu cầu phê duyệt trước khi vốn được chuyển đi.
Kết hợp với công cụ chính sách (policy engine), ủy quyền tác nhân AI và việc thực thi chính sách có thể kiểm chứng, Newton biến niềm tin từ một quyết định thủ công thành hạ tầng có thể lập trình.
Đó là một thay đổi mang tính nền tảng.
Bởi vì trong tương lai, AI an toàn nhất sẽ không phải là AI thông minh nhất.
Nó sẽ là AI biết mình được phép làm gì—và không được làm gì.
🤔 Nếu một AI tuân thủ mọi quy tắc đúng như thiết kế nhưng vẫn xóa sạch toàn bộ danh mục đầu tư của bạn... thì ai thực sự chịu trách nhiệm?
AI, nhà phát triển, hay người đã viết ra các quy tắc?
Bạn chỉ có thể chọn MỘT.
<#Newt >
