@NewtonProtocol Tôi nhận thấy điều gì đó khi đọc qua nhiều cuộc trò chuyện khác nhau về AI trong vài ngày qua.
Ai cũng có vẻ say mê với việc các tác nhân tự chủ rồi sẽ có thể làm được những gì. Chúng sẽ giao dịch không có cảm xúc. Chúng sẽ quản lý danh mục đầu tư suốt ngày đêm. Chúng sẽ thương lượng với các tác nhân khác, tối ưu hóa vốn và thực hiện giao dịch nhanh hơn bất kỳ con người nào có thể.
Cuộc thảo luận gần như luôn kết thúc ở đó.
Nhưng tôi không thể ngừng nghĩ về chuyện khác.
Ai là người quyết định một tác nhân tự chủ nên từ chối làm gì?
Câu hỏi đó lại có vẻ surprisingly vắng mặt trong cuộc trò chuyện.
Trong nhiều năm, phần mềm đã cư xử đúng như con người hướng dẫn nó cư xử. AI thay đổi mối quan hệ đó. Thay vì tuân theo một chuỗi lệnh cố định, một tác nhân liên tục diễn giải các tình huống, cân nhắc xác suất và quyết định đâu là hành động mà nó tin là tốt nhất.
Đó là một bước nhảy đáng kinh ngạc về năng lực.
Nó cũng là một trách nhiệm hoàn toàn khác.
Trong thị trường tài chính, từ chối hành động đôi khi lại có giá trị tương đương như hành động. Các nhà đầu tư sẽ học điều này theo thời gian. Mọi cơ hội đều đi kèm chi phí cơ hội. Mọi giao dịch đều đưa ra rủi ro mới. Đôi khi việc bảo toàn vốn không phải là tìm ra giao dịch hoàn hảo—mà là nhận ra rằng thị trường không còn phù hợp với những điều kiện bạn ban đầu dự định.
Kỷ luật như vậy rất khó ngay cả với những người đã có kinh nghiệm.
Vì vậy tôi bắt đầu tự hỏi: các hệ thống tự động sẽ phát triển như thế nào?
Câu trả lời hiển nhiên là xây dựng các mô hình thông minh hơn.
Tôi không chắc liệu như vậy đã đủ.
Dù một AI có thông minh đến đâu, nó vẫn hoạt động trong một môi trường luôn thay đổi. Các khối mới được tạo ra sau mỗi vài giây. Tính thanh khoản di chuyển giữa các giao thức. Các đề xuất quản trị thay đổi động lực. Tâm lý thị trường biến chuyển từ rất lâu trước khi dữ liệu lịch sử kịp giải thích vì sao.
Một tác nhân có thể đưa ra một quyết định hoàn toàn hợp lý dựa trên thông tin có sẵn tại một thời điểm cụ thể.
Vấn đề là thực tại không dừng lại trong khi quyết định đang trên đường đi tới giai đoạn thực thi.
Nhận ra điều đó đã làm thay đổi cách tôi nhìn về Newton Protocol.
Ban đầu, tôi cho rằng đó là một dự án khác tập trung vào việc làm cho AI hữu ích hơn bên trong Web3. Đã có rất nhiều đội ngũ đang làm việc cho thách thức đó.
Thứ thu hút sự chú ý của tôi, thay vào đó, là một điều gì đó âm thầm hơn nhiều.
Newton Protocol dành thời gian suy nghĩ về khoảng cách giữa quyết định và thực thi.
Không phải vì AI thiếu trí tuệ.
Vì thế giới từ chối đứng yên.
Càng suy ngẫm về ý tưởng đó, nó càng khiến tôi nhớ rằng các công nghệ khác cũng đã trưởng thành như thế nào.
Internet không trở nên đáng tin chỉ vì các kết nối trở nên nhanh hơn. Nó trở nên đáng tin vì danh tính, mã hóa và xác thực đã phát triển song hành với tốc độ.
Blockchain cũng đi theo một lộ trình tương tự. Ban đầu, câu chuyện xoay quanh phi tập trung hóa. Theo thời gian, sự chú ý chuyển sang quản trị, bảo mật, khả năng tương tác và phối hợp. Công nghệ trở nên có giá trị hơn vì hạ tầng xung quanh trở nên đáng tin cậy hơn.
AI cảm giác như đang tiến gần đến cùng một bước chuyển.
Có lẽ bước đột phá tiếp theo sẽ không đến từ một mô hình khác chỉ tốt hơn một chút về khả năng suy luận.
Có lẽ nó sẽ đến từ hạ tầng có thể hiểu khi nào chỉ suy luận là không đủ.
Với tôi, đó là một bài toán còn thú vị hơn nhiều.
Vì tài chính tự động rốt cuộc không phải là dạy máy móc cách đưa ra quyết định.
Nó là để đảm bảo những quyết định đó tiếp tục tôn trọng đúng ý định của những người đã tin tưởng vào cỗ máy ngay từ đầu.
Có lẽ vì vậy mà tôi cứ quay lại với Newton Protocol.
Không phải vì nó đang cố gắng xây dựng một AI thông minh hơn.
Nhưng vì nó đang đặt một câu hỏi mà tôi chưa thấy đủ nhiều người thảo luận.
Trong một thế giới mà các hệ thống tự động cuối cùng sẽ có quyền tự do di chuyển giá trị thực, có lẽ đổi mới quan trọng nhất sẽ không phải là trao thêm quyền hạn cho AI.
Nó sẽ là thứ quyết định quyền lực đó nên kết thúc ở đâu.