Càng nghĩ về tự động hóa, tôi càng tin rằng lời hứa lớn nhất của nó không phải là tiết kiệm thời gian cho con người.
Thời gian lúc nào cũng dễ đo lường.
Ý định vẫn chưa.
Mọi hệ thống tài chính mà chúng ta đã xây dựng đều giả định điều gì đó đơn giản: nếu một hành động được ủy quyền đúng cách, nó sẽ diễn ra. Đó là một giả định hợp lý khi con người vẫn ở gần mọi quyết định. Chúng ta bấm nút. Chúng ta xem lại giao dịch. Chúng ta chấp nhận hệ quả.
AI lặng lẽ thay đổi mối quan hệ đó.
Người đưa ra quyết định và thời điểm quyết định đó được thực hiện không còn cần phải tồn tại cùng lúc.
Ban đầu, điều đó giống như một tiến bộ.
Rồi một suy nghĩ khác xuất hiện.
Có lẽ thách thức lớn nhất không phải là dạy AI cách đưa ra quyết định tốt hơn.
Có lẽ là đảm bảo rằng quyết định của hôm qua vẫn phản ánh ý định của ngày mai.
Ý định của con người không hề tĩnh tại.
Chúng ta thay đổi suy nghĩ.
Thị trường thay đổi.
Rủi ro xuất hiện.
Thông tin tưởng như đã đầy đủ hôm qua có thể hôm nay lại cảm thấy nguy hiểm là chưa đủ.
Tuy vậy, tự động hóa lại có xu hướng cứ tiếp tục tiến lên nếu không có ai đó nói rõ rằng hãy dừng lại.
Điều đó khiến tôi tự hỏi liệu tương lai của tự động hóa tài chính có phụ thuộc ít hơn vào việc làm cho AI thông minh hơn, và phụ thuộc nhiều hơn vào việc làm cho ý định của con người dễ được lưu giữ khi hoàn cảnh thay đổi hay không.
Chính lúc đó Newton Protocol bắt đầu khiến tôi thấy thú vị.
Không phải vì nó hứa hẹn tự động hóa hoàn hảo.
Nhưng vì nó đưa ra ý tưởng rằng các hành động quan trọng có thể được đánh giá dựa trên các chính sách trước khi chúng xảy ra, thay vì giả định rằng mọi hành động hợp lệ về mặt kỹ thuật đều tự động nên được tiến hành.
Sự khác biệt có vẻ nhỏ.
Về mặt triết học, điều đó không phải là vậy.
Người ta hỏi liệu một hành động có thể xảy ra hay không.
Câu còn lại hỏi liệu nó vẫn nên như vậy hay không.
Những điều đó không phải là cùng một câu hỏi.
Và tôi tự hỏi liệu chúng ta đã dành quá nhiều thời gian để loại bỏ ma sát khỏi tài chính số đến mức bắt đầu coi mọi sự chậm trễ là một vấn đề.
Đôi khi việc dừng lại không phải là kém hiệu quả.
Đôi khi đó là cơ hội cuối cùng để nhận ra rằng thế giới đã thay đổi kể từ khi quyết định ban đầu được đưa ra.
Công nghệ thường tôn vinh tốc độ vì tốc độ rất dễ chứng minh.
Khả năng phán đoán thì khó hơn.
Bạn không thể đo lường trí tuệ như cách bạn đo thông lượng giao dịch.
Bạn thường chỉ nhận ra giá trị của nó sau khi sự vắng mặt của nó trở nên tốn kém.
Có lẽ đó là lý do tại sao tự động hóa dựa trên sự cho phép lại có vẻ quan trọng hơn so với điều mà thoạt đầu nó cho thấy.
Nó không làm con người biến mất khỏi quá trình ra quyết định.
Nó tạo ra một cách để ý định ban đầu của họ vẫn hiện diện, ngay cả khi bản thân họ không còn hiện diện nữa.
Liệu nó có trở thành thiết yếu hay chỉ còn là một ý tưởng ngách phụ thuộc vào một điều vượt xa mã hóa học.
Nó phụ thuộc vào việc liệu AI tự chủ có trở nên đủ mạnh đến mức mọi người bắt đầu lo lắng ít hơn về việc nó có thể làm gì, và nhiều hơn về việc nó sẽ tiếp tục làm gì sau khi họ không còn để ý nữa.
Có lẽ tương lai của niềm tin sẽ không được xây dựng dựa trên việc làm cho AI suy nghĩ giống con người hơn.
Nó có thể được xây dựng dựa trên việc đảm bảo rằng AI không bao giờ quên ý nghĩa mà con người ban đầu đã gửi gắm.
Bạn nghĩ sao? Khi AI ngày càng trở nên tự chủ hơn, việc gìn giữ ý định của con người có quan trọng hơn việc cải thiện trí tuệ của AI bản thân hay không?