@NewtonProtocol Cuộc trò chuyện về các tác nhân AI thường giả định rằng càng có nhiều quyền tự chủ thì càng tốt. Mục tiêu dường như là loại bỏ càng nhiều sự tham gia của con người càng tốt.
Càng đi sâu vào không gian này, tôi càng nghĩ rằng nó đang bỏ lỡ thách thức thực sự.
Phần khó không phải là làm cho AI độc lập hơn.
Mấu chốt là làm cho AI đủ đáng tin để mọi người cảm thấy thoải mái khi ủy thác các quyết định tài chính thực sự.
Đó là một lý do Newton Protocol vẫn luôn nằm trong tầm ngắm của tôi.
Thay vì yêu cầu người dùng trao quyền kiểm soát hoàn toàn, giao thức này được xây dựng dựa trên ý tưởng rằng việc ủy thác luôn phải đi kèm các giới hạn có thể thực thi. Đó có vẻ là một hướng đi thực tế hơn rất nhiều cho tài chính tự động.
Những lo ngại xung quanh các tác nhân AI rất dễ hiểu.
Một tác nhân có thể phản ứng nhanh hơn bất kỳ con người nào.
Điều đó không làm nó an toàn hơn.
Giới hạn chi tiêu có ý nghĩa rất ít nếu nó có thể bị bỏ qua.
Một đối tác đã được phê duyệt không mang lại sự bảo vệ nếu có thể bị vượt qua.
Ngay cả tấn công chèn lệnh (prompt injection) cũng trở thành một vấn đề nghiêm trọng khi AI bắt đầu tương tác với tài sản thực.
Newton tiếp cận những rủi ro đó theo cách khác.
Trước khi một hành động quan trọng được thực hiện, giao thức sẽ đánh giá các chính sách có thể lập trình xác định tác nhân AI được phép làm gì.
Các nhà phát triển có thể đặt giới hạn chi tiêu.
Họ có thể phê duyệt các đối tác cụ thể.
Họ có thể xác định các điều kiện giao dịch và cơ chế phòng vệ trước prompt.
Những quy tắc đó trở thành một phần của việc thực thi thay vì là các biện pháp bảo vệ tùy chọn được thêm vào sau.
Đó là điểm khác biệt mà tôi thấy thú vị nhất.
Giao thức không yêu cầu người dùng mù quáng tin tưởng AI.
Nó yêu cầu họ xác định ranh giới mà AI không thể vượt qua.
Tự động hóa tốt không phải là về quyền lực vô hạn.
Đó là việc biết chính xác quyền lực bắt đầu ở đâu và kết thúc ở đâu.
Kiến trúc củng cố cùng một triết lý đó.
Các chiến lược AI được thực thi bên trong rollup bảo mật của Newton, nơi việc thực thi chính sách vẫn có thể được xác minh suốt quá trình. Đồng thời, hệ thống vẫn tương thích với các ví Ethereum và các hợp đồng thông minh. Các nhà phát triển có thể đưa vào ủy quyền thông minh mà không cần xây lại hạ tầng mà người dùng đã quen thuộc.
Mô hình quyền cũng nổi bật.
Các tác nhân AI không bao giờ cần quyền truy cập không bị giới hạn vào khóa riêng tư.
Họ chỉ nhận các quyền cần thiết cho các hành động cụ thể.
Những quyền đó có thể được thay đổi hoặc thu hồi bất cứ khi nào cần thiết.
Người dùng vẫn giữ quyền kiểm soát trong khi tự động hóa thực hiện công việc mà nó được ủy quyền.
Tôi cũng nghĩ điều này sẽ thay đổi cách các nhà phát triển cạnh tranh.
Sổ đăng ký Mô hình (Model Registry) cho phép các nhà xây dựng công bố các chiến lược AI mà bất kỳ ai cũng có thể sử dụng.
Thành công không còn được định nghĩa chỉ bởi mức độ thông minh mà một mô hình trông có vẻ có.
Nó cũng được xác định bởi việc con người có tin đủ vào các quy tắc xung quanh mô hình đó để sử dụng nó với lượng vốn có ý nghĩa hay không.
Tất nhiên, các hàng rào bảo vệ (guardrails) không phải là một giải pháp hoàn hảo.
Các chính sách vẫn do con người viết ra.
Logic ủy quyền được thiết kế kém có thể tạo ra rủi ro mới, giống như các hợp đồng thông minh bị lỗi.
Khi các hệ thống tự hành ngày càng có năng lực hơn, những chính sách đó sẽ cần được cải tiến liên tục thay vì giữ nguyên mãi mãi.
Còn một thách thức khác nữa.
Sẽ luôn có một số nhà phát triển chạy theo lợi nhuận cao hơn, vì hiệu năng thu hút sự chú ý.
Newton có thể cung cấp các công cụ cho sự tự động hóa có trách nhiệm.
Hệ sinh thái vẫn phải thưởng cho những người xây dựng coi trọng độ tin cậy nhiều như lợi nhuận.
Tôi cũng tự hỏi liệu người dùng có thực sự muốn tự động hóa hoàn toàn hay không.
Nhiều người có vẻ thoải mái khi để AI hỗ trợ các quyết định tài chính.
Rất ít người có vẻ sẵn sàng bàn giao toàn quyền kiểm soát đối với nguồn vốn của họ.
Đó là lý do cách tiếp cận của Newton khiến tôi thấy thực tế.
Nó chấp nhận rằng con người muốn tự động hóa mà không từ bỏ quyền sở hữu.
Tôi càng nghiên cứu Newton Protocol thì càng ít nghĩ rằng tương lai thuộc về các tác nhân AI thay thế phán đoán của con người.
Những hệ thống mạnh nhất có lẽ sẽ kết hợp tự động hóa thông minh với các ranh giới rõ ràng và có thể thực thi.
Nếu tài chính tự hành muốn tạo dựng niềm tin lâu dài thì người dùng không bao giờ phải chọn giữa quyền kiểm soát và sự tiện lợi.
Họ nên có thể giữ cả hai.