Vài ngày trước, tôi đã xem một máy thanh toán tự động tính nhầm cho một khách hàng khác hàng hóa của người khác. Ban đầu không ai tranh cãi với cái máy, vì ai cũng cho rằng tự động hóa chắc chắn là đúng. Cuối cùng, một nhân viên đã sửa sai, nhưng điều đó gợi cho tôi nhớ đến một điều tôi vẫn liên tục nhận thấy trong lĩnh vực crypto.
Chúng tôi dành rất nhiều thời gian để tự hỏi liệu tự động hóa có thể làm được nhiều hơn hay không.
Chúng tôi lại ít thời gian hơn để tìm hiểu xem ai là người chịu trách nhiệm khi tự động hóa làm sai điều gì đó.
Câu hỏi đó trở nên thú vị hơn rất nhiều khi tôi tìm hiểu về @NewtonProtocol . Tôi đã kỳ vọng sẽ có thêm một cuộc thảo luận về các tác nhân AI, các chiến lược tự động và việc thực thi nhanh hơn. Thay vào đó, tôi lại thấy mình đang suy nghĩ về trách nhiệm giải trình.
Với tôi, đây là một chủ đề lớn hơn nhiều so với bản thân tự động hóa.
Tự động hóa rất dễ ngưỡng mộ khi mọi thứ hoạt động hoàn hảo. Phần khó bắt đầu khi thị trường biến động, các luồng dữ liệu gặp lỗi, hoặc một tác nhân AI đưa ra quyết định tệ khiến tiền thật bị mất.
Trong tài chính truyền thống, các sai lầm thường có ai đó đứng sau. Quản lý danh mục trả lời khách hàng. Ngân hàng trả lời cơ quan quản lý. Một công ty trả lời cổ đông.
Crypto thường loại bỏ lớp con người đó.
Điều đó tạo ra hiệu quả, nhưng cũng có thể tạo ra khoảng cách giữa hành động và hệ quả.
Hãy tưởng tượng việc thuê một tài xế giao hàng.
Nếu họ biết mình chịu trách nhiệm cho mọi gói hàng, họ lái xe cẩn thận. Nếu họ biết sẽ không ai nhận ra họ sau một sai lầm, thì động lực của họ thay đổi ngay lập tức.
Tự động hóa vận hành theo cách gần như tương tự.
Bản thân công nghệ không hề trung thực hay không trung thực. Nó chỉ làm theo các động lực.
Vì vậy, tôi cho rằng trách nhiệm giải trình xứng đáng được chú ý nhiều hơn tốc độ tự động hóa.
Nhiều cuộc thảo luận về crypto tập trung vào việc các tác nhân AI thông minh sẽ trở thành như thế nào. Tôi nghĩ câu hỏi quan trọng hơn là liệu các tác nhân đó có hoạt động trong các hệ thống nơi hành vi xấu thực sự có hệ quả hay không.
Không có hệ quả, tự động hóa chỉ làm tăng quy mô của những sai lầm.
Một quy trình bị hỏng có thể biến thành hàng nghìn giao dịch bị hỏng trong vài phút.
Chúng ta đã thấy những phiên bản nhỏ hơn của điều đó trong toàn bộ hệ sinh thái crypto.
Các bot giao dịch đã vô tình khuếch đại các cú sụp flash crash.
Các hệ thống thanh lý được cấu hình kém đã gây ra những khoản lỗ không cần thiết.
Lỗi của Oracle đã khiến các giao thức phản ứng với thông tin sai.
Không có vấn đề nào trong số đó xảy ra vì tự động hóa vốn dĩ là xấu.
Chúng đã xảy ra vì các hệ thống tự động thực hiện đúng những gì chúng được thiết kế để làm—dù các chỉ dẫn đó tạo ra kết quả tệ hại.
Sự khác biệt đó quan trọng.
Người ta thường tưởng tượng AI là thứ có khả năng phán đoán độc lập.
Hầu hết các hệ thống tự động thực ra rất máy móc.
Hãy đưa cho chúng những quy tắc chưa hoàn hảo, và chúng sẽ thực thi hoàn hảo những quyết định chưa hoàn hảo.
Điều đó nhắc tôi về điều hướng GPS.
Hầu hết các tài xế đã từng trải nghiệm việc GPS dẫn họ vào một con đường không thể đi, hoặc vào tình trạng giao thông bất ngờ.
GPS không hề cố gắng đưa ra các quyết định tệ.
Nó chỉ làm theo thông tin sẵn có.
Những người lái xe giỏi nhận ra khi nào họ nên ngừng tin vào tự động hóa.
Những kẻ lái xe kém vẫn tiếp tục vì “máy tính nói vậy.”
Crypto gặp phải một thách thức tương tự.
Khi các tác nhân AI trở nên có khả năng quản lý tài sản, thực hiện giao dịch, tương tác xuyên nhiều chuỗi và đưa ra quyết định tài chính, người dùng có thể bắt đầu tin tưởng chúng mà không hiểu rõ các giới hạn của chúng.
Điều đó tạo ra một ảo tưởng nguy hiểm.
Tự động hóa có thể giảm công sức.
Nó không thể loại bỏ trách nhiệm.
Một khía cạnh của @NewtonProtocol thu hút sự chú ý của tôi là nỗ lực của nó nhằm suy nghĩ vượt ra khỏi chỉ tự động hóa thuần túy bằng cách giới thiệu các cơ chế nhằm đồng bộ hóa động lực giữa các nhà vận hành và các hành động được thực hiện thay mặt người dùng.
Liệu mọi lần triển khai có thành công hay không là điều chỉ có việc áp dụng thực tế mới chứng minh được.
Các whitepaper hiếm khi tiết lộ cách các hệ thống vận hành dưới áp lực.
Thị trường làm.
Đó là lý do tôi vẫn quan tâm một cách thận trọng chứ chưa hoàn toàn bị thuyết phục.
Trách nhiệm giải trình thực sự được kiểm nghiệm trong lúc thất bại, không phải trong những video demo thành công.
Giả sử, trong tương lai, một tác nhân AI quản lý một danh mục đầu tư.
Nó tự động cân bằng lại tài sản, nhận các phần thưởng staking, chuyển thanh khoản giữa các giao thức và tìm kiếm cơ hội tạo lợi suất.
Mọi thứ trông đều ấn tượng.
Rồi một sự kiện thị trường duy nhất tạo ra các điều kiện bất ngờ.
AI làm theo logic đã được lập trình và mất một lượng vốn đáng kể.
Ai chịu trách nhiệm?
Người dùng?
Nhà phát triển?
Nhà vận hành?
Giao thức?
Nếu không có câu trả lời rõ ràng, tự động hóa sẽ trở nên khó tin ở quy mô lớn.
Giờ hãy tưởng tượng một kịch bản khác.
Một doanh nghiệp phi tập trung thuê các tác nhân AI để xử lý thanh toán cho nhà cung cấp, bảng lương và quản lý ngân khố.
Hệ thống tiết kiệm được hàng giờ mỗi tuần.
Nhưng một bản cập nhật phần mềm bị lỗi có thể gửi các khoản thanh toán đến địa chỉ sai.
Hiệu quả đạt được trong vài tháng biến mất trong vài phút.
Một lần nữa, trách nhiệm giải trình trở nên có giá trị hơn bản thân tự động hóa.
Vì vậy, tôi tin rằng hạ tầng quan trọng hơn những màn trình diễn AI bắt mắt.
Ngành công nghiệp crypto thường ca ngợi những gì tự động hóa có thể thực hiện.
Tôi nghĩ chúng ta cũng nên vui mừng tương tự đối với các hệ thống tạo ra hệ quả khi tự động hóa vận hành thiếu trách nhiệm.
Nếu không, chúng ta sẽ rủi ro xây dựng những hệ thống siêu nhanh chỉ để khiến những sai lầm tốn kém xảy ra nhanh hơn.
Còn một yếu tố tâm lý khác xứng đáng được chú ý.
Con người tự nhiên tin vào những cỗ máy trông có vẻ thông minh.
Chúng ta giả định phần mềm là khách quan.
Chúng ta giả định rằng các thuật toán loại bỏ thiên kiến.
Không một giả định nào luôn đúng.
Các thuật toán kế thừa các giả định từ những người thiết kế chúng.
AI kế thừa các hạn chế từ dữ liệu huấn luyện của nó.
Tự động hóa kế thừa các rủi ro từ hạ tầng xung quanh nó.
Không có công nghệ nào trong số đó tồn tại độc lập.
Đó là lý do tại sao trách nhiệm giải trình không thể chỉ được bổ sung sau này như một tính năng tùy chọn.
Nó phải tồn tại ngay từ đầu.
Nếu không, thì mọi cải tiến trong tự động hóa cũng sẽ làm tăng tốc độ mà các vấn đề lan rộng.
Nhìn về tương lai, tôi có thể hình dung các tác nhân AI trở thành những người tham gia bình thường trong tài chính phi tập trung.
Chúng có thể thương lượng giao dịch, tối ưu thanh khoản, quản lý các gói đăng ký, thực thi các chỉ dẫn quản trị và phối hợp trên nhiều blockchain.
Tương lai đó dường như ngày càng hợp lý.
Nhưng tôi không nghĩ người dùng sẽ tin tưởng các tác nhân tự động chỉ vì chúng thông minh.
Người ta sẽ tin vào chúng khi họ biết rằng nếu có chuyện sai xảy ra, vẫn tồn tại trách nhiệm.
Với tôi, đây là câu hỏi dài hạn thú vị hơn xoay quanh $NEWT và tầm nhìn rộng hơn phía sau #Newt .
Bản thân công nghệ thật sự rất hấp dẫn.
Cơ chế quản trị quanh công nghệ cuối cùng có thể còn quan trọng hơn.
Crypto đã mất nhiều năm để chứng minh rằng tự động hóa là có thể.
Thách thức tiếp theo là chứng minh rằng tự động hóa vẫn có trách nhiệm giải trình khi hàng tỷ đô la phụ thuộc vào nó.
Nếu thách thức đó được giải quyết, tài chính tự động có thể trở nên thực tế hơn rất nhiều so với những gì nhiều người kỳ vọng.
Nếu không, chúng ta có thể chỉ tự động hóa cùng những vấn đề cũ ở quy mô lớn hơn rất nhiều.
Câu hỏi thảo luận: Khi các tác nhân AI trở nên tự chủ hơn trong crypto, điều gì quan trọng hơn với bạn: tự động hóa thông minh hơn hay trách nhiệm giải trình mạnh hơn khi mọi thứ đi sai?