Tôi bắt đầu tự hỏi liệu phần khó nhất của AI không phải là làm nó thông minh hơn, mà là khiến nó chịu trách nhiệm.
Phần lớn các cuộc trò chuyện về các tác nhân AI tập trung vào việc chúng sẽ có thể làm được gì. Thực hiện giao dịch, quản lý danh mục, chuyển tài sản, đàm phán với các tác nhân khác. Có vẻ như giả định ở đây là năng lực là nút thắt. Sau khi dành thời gian nghiên cứu Newton Protocol, tôi không còn chắc đó là thách thức thực sự nữa.
Vấn đề bị bỏ qua là niềm tin sau khi ủy quyền.
Ngay khi chúng ta cho phép một tác nhân AI hành động thay mặt chúng ta, chúng ta tạo ra một mối quan hệ mới. Chúng ta ngừng tự đưa ra mọi quyết định và bắt đầu dựa vào phần mềm để diễn giải ý định của mình. Điều đó có vẻ hiệu quả cho đến khi có điều gì đó bất ngờ xảy ra. Nếu một tác nhân đưa ra quyết định sai, vượt quá quyền hạn, hoặc đơn giản là làm theo hướng dẫn theo cách mà không ai lường trước, thì ai là người chịu trách nhiệm? Quan trọng hơn, làm thế nào để chúng ta xác minh chính xác điều gì đã xảy ra?
Phần mềm truyền thống thường thực thi mã lệnh mang tính quyết định (deterministic). Các hệ thống AI không phải lúc nào cũng hoạt động theo cách đó. Chúng vận hành dựa trên xác suất, ngữ cảnh và thông tin đang thay đổi. Điều này khiến trách nhiệm giải trình khó hơn nhiều so với việc chỉ kiểm tra xem một giao dịch có thành công hay không.
Đây là phần của Newton Protocol đã khiến tôi chú ý. Thay vì coi tự động hóa là đích đến, nó xem quản trị và xác minh như một phần của chính hạ tầng. Một rollup an toàn được thiết kế dựa trên quyền truy cập, chính sách và thực thi có thể kiểm chứng gợi ý rằng các hệ thống AI trong tương lai có thể cần các quy tắc vận hành nhiều như cần trí tuệ.
Điều khiến tôi hứng thú không chỉ là công nghệ. Mà là giả định đằng sau công nghệ đó. Dự án có vẻ nhận ra rằng việc được áp dụng sẽ không phụ thuộc hoàn toàn vào việc AI trở nên năng lực đến đâu. Nó có thể phụ thuộc vào việc liệu con người có thể ủy quyền quyền hạn một cách tự tin mà không đánh mất khả năng nhìn thấy những gì các tác nhân của họ đang làm hay không.
Khi AI ngày càng trở nên tự động hơn, hạ tầng có thể âm thầm thay thế trí tuệ để trở thành lợi thế cạnh tranh lớn nhất. Những dự án định hình niềm tin, sự phối hợp và trách nhiệm giải trình có thể tác động đến thế hệ ứng dụng onchain tiếp theo nhiều hơn chính các mô hình.
Câu hỏi tôi luôn quay lại là thế này: khi các tác nhân AI trở nên phổ biến trong khắp crypto, người dùng sẽ chọn tác nhân thông minh nhất, hay là tác nhân mà họ thực sự có thể xác minh được các hành động của nó?