Điều tôi nhận thấy là mọi người đều háo hức về các tác nhân AI, nhưng rất ít người hỏi rằng điều gì sẽ xảy ra khi chúng đưa ra một quyết định sai.
Nếu một AI chỉ trả lời câu hỏi, kết quả tệ nhất thường là một câu trả lời sai. Nhưng một khi cùng một AI đó có thể gửi tiền hoặc tương tác với các hợp đồng thông minh, thì mức độ rủi ro sẽ hoàn toàn khác. Chỉ một sai lầm thôi cũng có thể khiến mất thật tiền.
Chính vì vậy Newton Protocol gây ấn tượng với tôi.
Nó không cố gắng làm cho AI trông thông minh hơn. Thay vào đó, nó tập trung vào việc đảm bảo rằng một AI chỉ làm những gì mà nó thực sự được phép làm. Trước khi một hành động được hoàn tất, sẽ có các quy tắc giúp quyết định liệu hành động đó có nên được thực hiện hay không. Cách tiếp cận này giống như thực tế hơn nhiều so với việc chỉ đơn giản là trao cho AI thêm quyền tự do.
Tôi cũng nghĩ đây là cách tốt hơn để xây dựng cho lâu dài. Các quy tắc và yêu cầu thay đổi liên tục, đặc biệt trong lĩnh vực tài chính. Có một hệ thống có thể thích ứng mà không phải xây dựng lại mọi thứ sẽ hợp lý hơn nhiều so với việc khóa mọi quyết định trong mã nguồn mãi mãi.
Với tôi, tương lai của AI sẽ không được quyết định bởi tác nhân nào thông minh nhất. Nó sẽ được quyết định bởi những hệ thống mà mọi người có thể tin tưởng để tạo ra giá trị thực.
@NewtonProtocol $NEWT #Newt
Nếu một AI chỉ trả lời câu hỏi, kết quả tệ nhất thường là một câu trả lời sai. Nhưng một khi cùng một AI đó có thể gửi tiền hoặc tương tác với các hợp đồng thông minh, thì mức độ rủi ro sẽ hoàn toàn khác. Chỉ một sai lầm thôi cũng có thể khiến mất thật tiền.
Chính vì vậy Newton Protocol gây ấn tượng với tôi.
Nó không cố gắng làm cho AI trông thông minh hơn. Thay vào đó, nó tập trung vào việc đảm bảo rằng một AI chỉ làm những gì mà nó thực sự được phép làm. Trước khi một hành động được hoàn tất, sẽ có các quy tắc giúp quyết định liệu hành động đó có nên được thực hiện hay không. Cách tiếp cận này giống như thực tế hơn nhiều so với việc chỉ đơn giản là trao cho AI thêm quyền tự do.
Tôi cũng nghĩ đây là cách tốt hơn để xây dựng cho lâu dài. Các quy tắc và yêu cầu thay đổi liên tục, đặc biệt trong lĩnh vực tài chính. Có một hệ thống có thể thích ứng mà không phải xây dựng lại mọi thứ sẽ hợp lý hơn nhiều so với việc khóa mọi quyết định trong mã nguồn mãi mãi.
Với tôi, tương lai của AI sẽ không được quyết định bởi tác nhân nào thông minh nhất. Nó sẽ được quyết định bởi những hệ thống mà mọi người có thể tin tưởng để tạo ra giá trị thực.
@NewtonProtocol $NEWT #Newt
