Tôi thấy mình đang nghĩ về một vấn đề ít được chú ý khi mọi người nói về AI và blockchain.
Hầu hết các cuộc thảo luận đều xoay quanh năng lực.
Một AI có thể phân tích thị trường nhanh hơn con người không?
Nó có thể thực hiện giao dịch hiệu quả hơn không?
Nó có thể phối hợp các quy trình phức tạp không?
Đó là những câu hỏi thú vị, nhưng tất cả đều dựa trên cùng một giả định: rằng AI được phép hành động một khi nó quyết định sẽ làm gì.
Càng nghĩ về điều đó, tôi càng thấy giả định đó còn thiếu sót.
Có lẽ thử thách khó hơn không phải là việc xây dựng các tác nhân tự chủ.
Có lẽ đó là việc, trong một môi trường phi tập trung, các tác nhân đó không nên được phép hành động khi nào.
Nhận ra điều đó đã thay đổi hoàn toàn cách tôi bắt đầu nhìn vào các giao thức được thiết kế cho tự động hóa do AI điều khiển.
Thay vì hỏi làm sao để chúng khiến AI thông minh hơn, tôi bắt đầu hỏi làm sao để chúng khiến các quyết định tự chủ an toàn hơn.
Sự thay đổi góc nhìn đó dẫn tôi đến một nhận xét thú vị.
Khi các hệ thống AI ngày càng có năng lực hơn, quyền cho phép có thể trở thành một tài nguyên có giá trị hơn chính bản thân tính toán.
Từ Danh tính đến Ý định
Bảo mật truyền thống của blockchain được xây dựng xung quanh danh tính.
Một ví ký một giao dịch.
Mạng xác minh chữ ký.
Nếu chữ ký hợp lệ và giao dịch thỏa mãn các quy tắc đồng thuận, việc thực thi sẽ tiếp tục.
Mô hình này hoạt động khá tốt khi con người khởi tạo hầu hết các hành động.
Con người chững lại.
Con người cân nhắc lại.
Con người đôi khi nhận thấy có gì đó không ổn trước khi bấm "Xác nhận".
Phần mềm tự chủ hoạt động khác đi.
Một chiến lược giao dịch do AI điều khiển không bị mệt.
Nó không ngủ.
Nó không do dự.
Nó đơn giản là tiếp tục đưa ra quyết định theo các mục tiêu của mình.
Sự nhất quán đó là một trong những điểm mạnh lớn nhất của nó.
Đó cũng là một trong những rủi ro lớn nhất của nó.
Nếu một hệ thống tự chủ nhận được quyền hạn rộng, nó có thể tạo ra hàng nghìn giao dịch hợp lệ hoàn toàn nhưng khi cộng lại lại tạo ra một kết quả không mong muốn.
Về mặt kỹ thuật có thể không có gì sai.
Các chữ ký vẫn hợp lệ.
Giao thức hoạt động đúng như cách nó được thiết kế.
Tuy nhiên, kết quả vẫn có thể đi ngược với ý định của người tạo ứng dụng.
Điều này cho thấy danh tính đơn thuần đang trở thành một nguyên tử bảo mật yếu hơn.
Biết ai đã gửi một giao dịch cho ta biết ít hơn so với việc hiểu liệu giao dịch đó có nên xảy ra trong các điều kiện hiện tại hay không.
Quyền truy cập đang trở nên động
Một ý tưởng nổi bật khi tôi nghiên cứu các kiến trúc blockchain hướng đến AI là rằng việc ủy quyền không còn phải tĩnh.
Về mặt lịch sử, quyền trông có vẻ đơn giản.
Một tài khoản hoặc có quyền truy cập, hoặc là không.
Một hợp đồng hoặc là chấp nhận người gọi, hoặc là từ chối họ.
Các hệ thống tự chủ mang nhiều sắc thái phức tạp hơn.
Có lẽ một tác nhân chỉ nên thực hiện giao dịch khi mức biến động vẫn dưới một ngưỡng nhất định.
Có lẽ việc chuyển khoản nên tạm dừng nếu các chỉ báo rủi ro bên ngoài xấu đi.
Có lẽ việc cho vay mượn cần nhiều điều kiện độc lập trước khi vốn có thể di chuyển.
Đây không phải là những câu hỏi về danh tính.
Chúng là những câu hỏi về bối cảnh.
Hệ quả thú vị là việc ủy quyền bắt đầu giống như đánh giá liên tục thay vì một lần phê duyệt.
Quyền trở thành thứ được nhận lại nhiều lần thay vì được cấp chỉ một lần.
Vì sao tách việc ra quyết định khỏi ủy quyền?
Ban đầu, sự tách biệt này có vẻ không cần thiết.
Nếu một AI đã quyết định nên thực hiện hành động gì, vậy tại sao lại tạo thêm một lớp nữa?
Câu trả lời trở nên rõ ràng hơn sau khi nghĩ về việc các hệ thống kỹ thuật thường phát triển như thế nào.
Hệ điều hành hiện đại không cho rằng mọi ứng dụng đều nên truy cập mọi tệp tin.
Các nền tảng đám mây không giả định rằng mọi dịch vụ nên giao tiếp với mọi cơ sở dữ liệu.
Các tổ chức lớn hiếm khi cho phép mọi nhân viên truy cập không hạn chế chỉ vì họ đã đăng nhập thành công.
Các hệ thống phức tạp ngày càng tách khả năng khỏi quyền cho phép.
Các ứng dụng blockchain được thúc đẩy bởi AI có vẻ đang đi theo cùng một hướng.
Một tác nhân thông minh có thể tạo ra các cơ hội.
Một lớp chính sách đánh giá việc thực thi các cơ hội đó có thỏa mãn các quy tắc đã được đặt trước hay không.
Không có lớp nào thay thế lớp còn lại.
Thay vào đó, mỗi bên tự chuyên môn hóa.
Một người tập trung vào tối ưu hóa.
Lớp còn lại tập trung vào kiểm soát.
Sự tách biệt đó làm giảm số trách nhiệm được giao cho bất kỳ một thành phần đơn lẻ nào.
Giả định ẩn
Nhưng kiến trúc này âm thầm tạo ra một giả định khác.
Các chính sách cần thông tin.
Đôi khi thông tin đó đã tồn tại sẵn trên chuỗi.
Số dư tài khoản.
Sở hữu token.
Trạng thái hợp đồng.
Chúng tương đối dễ hiểu vì các node blockchain đã đồng thuận với chúng.
Các tình huống khác trở nên phức tạp hơn.
Giả sử một quy tắc ủy quyền phụ thuộc vào điều kiện thị trường.
Hoặc các yêu cầu tuân thủ.
Hoặc các phê duyệt của tổ chức.
Hoặc các chỉ số rủi ro doanh nghiệp.
Những đầu vào đó xuất phát từ nơi khác.
Dù chúng có thể được truy xuất một cách an toàn và được đánh giá cẩn thận, vẫn có ai đó phải duy trì cơ sở hạ tầng tạo ra chúng.
Nhận xét đó cứ kéo sự chú ý của tôi ra khỏi chính logic ủy quyền.
Câu hỏi thực sự không phải là liệu các chính sách có thể trở nên diễn đạt được (expressive) hay không.
Đó là liệu thông tin hỗ trợ của họ có còn đáng tin cậy theo thời gian hay không.
Quyết định tốt hơn phụ thuộc vào bối cảnh tốt hơn
Một tác nhân tự chủ hiếm khi thất bại vì nó thiếu khả năng tính toán.
Nhiều khi nó thất bại vì nhận được bối cảnh không đầy đủ hoặc gây hiểu lầm.
Việc ra quyết định của con người hoạt động tương tự.
Một nhà phân tích xuất sắc làm việc với thông tin lỗi thời có thể đưa ra kết luận kém.
Cùng nguyên tắc đó áp dụng cho phần mềm.
Việc thêm đánh giá chính sách không tự động cải thiện phán đoán.
Nó cải thiện chất lượng các ràng buộc đặt xung quanh hành vi tự động.
Tuy nhiên, những ràng buộc đó kế thừa cả điểm mạnh lẫn điểm yếu của thông tin cung cấp cho chúng.
Việc này không làm mất hiệu lực kiến trúc.
Nó chỉ nhắc ta rằng chất lượng quyết định phụ thuộc vào chất lượng bối cảnh.
Đánh đổi hiếm khi biến mất
Một mô hình xuất hiện lặp đi lặp lại trong suốt khoa học máy tính.
Các vấn đề thường chuyển sang vị trí khác thay vì biến mất.
Ảo hóa làm giảm độ phức tạp phần cứng trong khi tăng độ phức tạp điều phối.
Điện toán đám mây đơn giản hóa việc triển khai trong khi đồng thời tạo ra các phụ thuộc vận hành.
Microservices cải thiện tính mô-đun nhưng lại khiến các hệ thống phân tán khó quan sát hơn.
Ủy quyền của AI cũng đi theo mô hình tương tự.
Các công cụ máy chủ chính sách phong phú giúp giảm rủi ro của tự động hóa không bị kiểm soát.
Tuy nhiên, chúng làm tăng tầm quan trọng của việc bảo trì chính sách.
Các nhà phát triển hiện có thêm trách nhiệm.
Các chính sách cần được kiểm thử.
Các phụ thuộc bên ngoài cần được theo dõi.
Các điều kiện bất ngờ cần xử lý một cách phù hợp.
Không có những trách nhiệm nào trong số này cho thấy thiết kế bị lỗi.
Chúng là bằng chứng rằng sự linh hoạt có cái giá của nó.
Mọi lớp trừu tượng đều đẩy độ phức tạp sang nơi khác.
Vì sao điều này quan trọng ngoài lĩnh vực giao dịch
Thật hấp dẫn khi gắn ủy quyền của AI chỉ với giao dịch tự động.
Các hàm ý rộng hơn có vẻ thú vị hơn.
Hãy tưởng tượng các tổ chức phi tập trung sử dụng quản lý ngân quỹ tự chủ.
Các chuỗi cung ứng phối hợp thanh toán tự động.
Các giao thức bảo hiểm đánh giá yêu cầu bồi thường.
Các ứng dụng người dùng lên lịch cho hoạt động tài chính định kỳ.
Các hệ thống y tế xử lý các quyền truy cập nhạy cảm.
Trong từng tình huống, câu hỏi không chỉ là liệu có tự động hóa hay không.
Đó là liệu việc tự động hóa có còn phù hợp với các mục tiêu đang thay đổi hay không.
Quyền truy cập tĩnh gặp khó khăn trong các môi trường mà hành vi chấp nhận được thay đổi theo thời gian.
Ủy quyền động cố gắng giải quyết đúng vấn đề đó.
Liệu nó có thành công hay không phụ thuộc ít vào mức độ tinh vi của các mô hình AI hơn là vào chất lượng quản trị bao quanh chúng.
Kỹ thuật cho thất bại
Một khía cạnh tôi đánh giá cao ở các mô hình ủy quyền theo lớp là chúng thừa nhận điều gì đó mà đôi khi các kỹ sư bỏ sót.
Mọi thành phần cuối cùng đều gặp lỗi.
Mạng gặp sự cố ngừng hoạt động.
Các dịch vụ bên ngoài trở nên không khả dụng.
Dữ liệu bất ngờ xuất hiện.
Phần mềm hoạt động khó đoán.
Câu hỏi thú vị không phải là liệu các lỗi có xảy ra hay không.
Đó là việc hệ thống có tiếp tục hoạt động an toàn sau khi các sự kiện đó xảy ra hay không.
Thiết kế xoay quanh thất bại thường tạo ra những kiến trúc vững hơn so với việc chỉ thiết kế xoay quanh thành công.
Một lớp ủy quyền trở nên có giá trị không chỉ khi mọi thứ hoạt động hoàn hảo mà còn khi sự không chắc chắn tăng lên.
Trong những khoảnh khắc đó, việc từ chối hành động có thể là quyết định an toàn nhất.
Nguyên tắc này lại có vẻ đáng ngạc nhiên là phù hợp khi các hệ thống AI ngày càng có quyền tự chủ trong vận hành.
Một cách khác để đo tiến bộ
Các cuộc thảo luận về công nghệ thường nhấn mạnh tốc độ.
Độ trễ thấp hơn.
Thông lượng cao hơn.
Nhiều giao dịch hơn.
Các mô hình lớn hơn.
Hiệu quả cao hơn.
Những cải tiến đó quan trọng.
Tuy vậy, tôi tự hỏi liệu chúng có khiến chúng ta bỏ qua một chỉ số khác hay không.
Có lẽ cơ sở hạ tầng AI trưởng thành cũng nên được đo lường bằng chất lượng của sự kiềm chế của nó.
Nó có thể ngăn chặn các hành động không mong muốn một cách hiệu quả đến mức nào?
Nó có thể giải thích các quyết định ủy quyền một cách minh bạch đến mức nào?
Nó hoạt động có thể dự đoán đến mức nào khi các giả định không còn đúng?
Những câu hỏi đó có thể còn quan trọng như hiệu năng thô.
Rốt cuộc, tự động hóa mạnh mẽ mà không có các ranh giới đáng tin cậy thì không nhất thiết tạo ra các hệ thống đáng tin.
Nó chỉ tạo ra các hành động nhanh hơn.
Suy nghĩ kết
Tôi càng nghiên cứu các kiến trúc kết hợp AI với việc thực thi trên blockchain, tôi càng ít tin rằng trí tuệ là thử thách xác định.
Khả năng tiếp tục được cải thiện trong toàn ngành.
Quyền truy cập vẫn khó hơn nhiều.
Thiết kế các hệ thống liên tục đánh giá liệu các hành động tự chủ có còn phù hợp hay không đòi hỏi phải suy nghĩ kỹ về niềm tin, bối cảnh, quản trị và khả năng thất bại—không chỉ về thuật toán.
Có lẽ đó là bài toán kỹ thuật quan trọng hơn.
Nếu các tác nhân AI cuối cùng trở nên phổ biến trong các ứng dụng phi tập trung, thì các hệ thống thành công sẽ là những hệ thống có mô hình thông minh nhất—hay là những hệ thống định nghĩa các ranh giới thông minh nhất về những gì các mô hình đó được phép làm?