Trước đây, tôi nghĩ rằng danh tiếng của AI sẽ gắn với hiệu suất.
Giao dịch tốt hơn.
Câu trả lời nhanh hơn.
Lợi nhuận cao hơn.
Nhưng càng nghĩ về các tác nhân tự chủ, tôi càng cảm thấy điều đó có thể quá nông cạn.
Một nhân viên con người không được tin cậy sau một quyết định tốt.
Niềm tin được xây dựng thông qua hành vi lặp lại.
Xuất hiện.
Tuân theo các quy tắc.
Xử lý các trường hợp ngoại lệ.
Không lạm dụng quyền truy cập khi không ai đang theo dõi.
Các tác nhân AI có thể cần điều tương tự.
Hãy tưởng tượng một tác nhân bắt đầu với hạn mức 500,00 đô la mỗi ngày.
Trong hơn 120 ngày, nó hoàn thành 12.480 hành động.
99,94% tuân thủ chính sách.
0 lần thực thi trái phép.
Chi phí thực thi trung bình giảm từ 1,92 USD xuống 0,68 USD.
Các hành động bị thất bại giảm từ 3,40% xuống còn 0,27%.
Vào thời điểm đó, tác nhân không chỉ “hữu ích”.
Nó có lịch sử hành vi.
Và nếu lịch sử đó có thể được xác minh, nó sẽ trở thành một thứ còn giá trị hơn rất nhiều so với một lời tuyên bố.
Nó trở thành danh tiếng.
Đó là phần tôi thấy thú vị về @NewtonProtocol .
“Phê duyệt trước khi thực thi” không chỉ là việc nói “có” hay “không” với một hành động của AI.
Nó có thể giúp tạo ra một hồ sơ về cách một tác nhân hoạt động trong các ranh giới được xác định theo thời gian.
Có lẽ một ngày nào đó, các tác nhân AI sẽ không nhận được nhiều quyền tự do hơn chỉ vì ai đó cảm thấy tự tin.
Họ sẽ giành được điều đó vì các hành động trong quá khứ của họ chứng minh rằng họ xứng đáng.
Một lịch sử sạch có thể mở khóa hạn mức cao hơn.
Tuân thủ chính sách nhất quán có thể mở khóa các quy trình làm việc phức tạp hơn.
Vi phạm lặp lại có thể tự động làm giảm thẩm quyền.
Điều đó với tôi giống như một tương lai lành mạnh hơn.
Không phải tin tưởng mù quáng.
Không phải quyền tự chủ vô hạn.
Một hệ thống nơi AI dần dần giành được trách nhiệm theo cách tương tự như con người:
thông qua chứng minh.
Trong thế giới đó, AI có giá trị nhất có thể không phải là AI hứa hẹn lợi nhuận cao nhất.
Có thể đó là AI có thành tích sạch sẽ nhất.