@NewtonProtocol Càng dành nhiều thời gian để tìm hiểu các dự án AI, tôi càng nghĩ rằng chúng ta đã đặt sai câu hỏi.
Ai cũng muốn biết một tác nhân AI có thể trở nên “giỏi” đến mức nào. Nhưng tôi cứ tự hỏi điều gì sẽ xảy ra khi tác nhân đó được tin tưởng để di chuyển tiền thật.
Đó là một thách thức hoàn toàn khác.
Khi đọc về
@NewtonProtocol , thứ gây chú ý không phải là bản thân AI. Mà là ý tưởng rằng một AI không nên có quyền tự do vô hạn chỉ vì nó thông minh. Nó phải hoạt động trong khuôn khổ các quy tắc mà người dùng đặt ra trước đó, với mọi hành động đều để lại dấu vết có thể được kiểm tra sau.
Cách nghĩ đó giống như một hướng thực tế hơn để nhìn về tài chính tự động.
Tôi đã thấy rất nhiều dự án tập trung làm cho AI nhanh hơn hoặc mạnh hơn. Có rất ít dự án dành thời gian để suy nghĩ về trách nhiệm giải trình. Nhưng nếu về sau AI quản lý ví, danh mục đầu tư hoặc các hoạt động ngân quỹ, việc biết vì sao nó đưa ra quyết định và liệu nó có ở trong giới hạn của mình hay không có thể còn quan trọng hơn chính quyết định đó.
Tôi vẫn theo dõi lĩnh vực này với tinh thần cởi mở, nhưng sự thay đổi góc nhìn đó đã đọng lại trong tôi. Có lẽ giai đoạn tiếp theo của AI sẽ không được định nghĩa bởi những tác nhân “thông minh hơn”. Nó có thể được định nghĩa bởi hạ tầng giúp những tác nhân đó đủ đáng tin để có thể trao niềm tin.
@NewtonProtocol #Neat $NEWT