Vài tháng trước, tôi đã có một cuộc trò chuyện với một cựu Giám đốc Rủi ro (Chief Risk Officer). Tôi đã hỏi ông ấy một câu hỏi mà ngày càng nhiều người bắt đầu đặt ra hôm nay: "Nếu AI có thể phân tích hàng triệu kịch bản rủi ro thị trường chỉ trong vài giây, thì các tổ chức còn cần quản lý rủi ro không?" Ông cười và trả lời: "Hầu hết mọi người nghĩ phần khó nhất của quản lý rủi ro là tính toán rủi ro. Không phải vậy. Phần khó nhất là quyết định rủi ro nào đáng để chấp nhận. Hai tổ chức có thể nhìn vào cùng một dữ liệu, dùng cùng các mô hình, và đưa ra cùng các kết luận, nhưng vẫn đưa ra những quyết định hoàn toàn khác nhau vì họ không có cùng khẩu vị rủi ro."
Câu trả lời đó đọng lại trong tôi vì nó đã làm nổi bật một sự phân biệt thường bị bỏ qua. AI có thể ước tính xác suất, nhưng nó không thể quyết định mức độ rủi ro mà một tổ chức sẵn sàng chấp nhận. Điều đó không phải là một phép tính toán học. Đó là một quyết định kinh doanh được định hình bởi các ưu tiên, trách nhiệm giải trình và các giá trị. Đây là nơi tính toán kết thúc và phán đoán của con người bắt đầu.
Nhìn từ góc độ này, @NewtonProtocol không chỉ là hạ tầng cho AI. Tôi xem nó như một Tầng Ủy quyền (Authorization Layer) nằm giữa những gì AI có thể làm và những gì một tổ chức sẵn sàng cho phép AI làm. Phần lớn các cuộc thảo luận về AI tập trung vào việc chạy nhanh hơn, dự đoán tốt hơn, hoặc các mô hình tinh vi hơn. Nhưng câu hỏi quan trọng hơn có thể lại đơn giản hơn nhiều: AI nên được ủy quyền để làm gì?
Một tác nhân AI có thể nhận diện một cơ hội thị trường hấp dẫn, nhưng nếu việc hành động theo cơ hội đó vi phạm chính sách rủi ro của tổ chức thì liệu việc thực thi có nên được cho phép không? Đây là lúc Tầng Ủy quyền trở nên có giá trị. Mục đích của nó không phải là làm cho AI thông minh hơn. Mục đích của nó là xác định các ranh giới để trong đó AI được phép hoạt động. Trước khi hỏi AI có thể làm gì, các tổ chức trước hết cần quyết định AI được phép làm gì.
Có một thách thức khác xứng đáng được quan tâm tương đương. Nhiều người nghĩ khẩu vị rủi ro là một con số cố định, nhưng thực tế nó luôn thay đổi. Điều kiện thị trường biến động, quy định thay đổi, thanh khoản thay đổi, và ngay cả các ưu tiên của ban lãnh đạo cũng có thể chuyển dịch theo thời gian. Vì vậy, chính sách phù hợp hôm qua có thể không còn phản ánh các mục tiêu của tổ chức vào ngày mai.
Nếu một hệ thống chỉ thực thi một chính sách tĩnh, thì cuối cùng chính sách đó có thể trở thành một hạn chế thay vì là biện pháp bảo vệ. AI có thể thực hiện mọi lệnh một cách hoàn hảo trong khi vẫn tuân theo các hướng dẫn không còn phù hợp với các mục tiêu hiện tại của tổ chức. Trong trường hợp đó, vấn đề không nằm ở việc thực thi kém. Vấn đề là một chính sách đã lỗi thời.
Vì vậy, tôi tin rằng tương lai của quản trị AI không chỉ dừng lại ở việc Thực thi Chính sách (Policy Enforcement) mà còn ở việc Tiến hóa Chính sách (Policy Evolution). Một Tầng Ủy quyền mạnh mẽ nên giúp các tổ chức có thể cập nhật chính sách một cách an toàn, minh bạch và hiệu quả khi điều kiện kinh doanh thay đổi, mà không cần xây dựng lại toàn bộ hệ thống. Tính thích nghi quan trọng không kém gì độ chính xác.
Vì vậy, tôi tin rằng cuộc cạnh tranh trong tương lai giữa các tổ chức tài chính sẽ không chỉ được quyết định bởi ai sở hữu các mô hình AI mạnh mẽ nhất. Nó sẽ ngày càng phụ thuộc vào việc ai có thể chuyển hóa các nguyên tắc kinh doanh, khung quản trị và khẩu vị rủi ro của họ thành những chính sách rõ ràng, có thể kiểm chứng để các tác nhân AI có thể thực thi một cách nhất quán.
Theo quan điểm đó, @NewtonProtocol đại diện cho nhiều hơn một hạ tầng kỹ thuật. Nó cung cấp một khung trong đó tốc độ của AI được cân bằng với trách nhiệm giải trình của con người, giúp việc tự động hóa vẫn gắn với các giá trị và mục tiêu của những tổ chức triển khai nó.
Trong những năm tới, lợi thế cạnh tranh thực sự có thể không đến từ việc chỉ xây dựng AI thông minh hơn. Nó có thể đến từ việc xây dựng các chính sách tốt hơn để xác định trí tuệ đó nên được sử dụng như thế nào.
Theo bạn, điều gì sẽ quan trọng hơn trong nền kinh tế AI: các mô hình ngày càng mạnh mẽ, hay các chính sách ủy quyền tốt hơn nhằm xác định giới hạn cho các quyết định của chúng?
