Tôi lại đọc tài liệu của Kite, và thứ tự các vấn đề cứ khiến tôi băn khoăn.
Phần lớn các cuộc thảo luận về tác nhân AI đều bắt đầu từ năng lực. Nó có thể đặt chỗ, đàm phán, thực thi không? Chúng ta cho rằng khi tác nhân đủ thông minh thì niềm tin và thanh toán sẽ tự ổn thỏa.
Tôi nghĩ câu hỏi thực sự kín đáo hơn,
tác nhân được phép là gì?
Các hệ thống của con người thường mặc định rằng một người là danh tính chính và ranh giới quyền hạn. Một tác nhân có thể chạy cùng lúc cả nghìn tác vụ, vì vậy, những thứ như Kite Agent Passport, với quyền hạn được phân tách giữa các lớp người dùng, tác nhân và phiên, bắt đầu giống một yêu cầu hơn là một thiết kế bổ sung.
Điều dễ bị bỏ qua là danh tính, quyền hạn, thanh toán và cơ sở hạ tầng không phải là bốn vấn đề. Đó là cùng một vấn đề nhìn từ bốn phía. Quy tắc chi tiêu chẳng có mấy ý nghĩa nếu không có danh tính có thể xác minh. Giao dịch vi mô chỉ hoạt động khi các quy tắc được thực thi ở tốc độ của tác nhân. Mạng lưới tác nhân chỉ hoạt động nếu mạng lưới cho thấy ai đã tạo ra thứ gì và ai chịu trách nhiệm về nó.
Rồi sự đánh đổi xuất hiện. Mỗi biện pháp kiểm soát khiến hệ thống an toàn hơn nhưng cũng kém tự chủ đi đôi chút. Giới hạn có thể ngăn một vòng lặp mất kiểm soát, nhưng cũng có thể làm gián đoạn đúng lúc tác nhân sắp trở nên hữu ích. Quản trị chặt chẽ giúp ngăn sai lầm xảy ra ở tốc độ máy móc. Quản trị lỏng lẻo bảo vệ lý do tồn tại của một tác nhân ngay từ đầu. Cả hai đều có phần đúng.
Điều tôi chưa thể xác định là niềm tin nên nằm ở đâu: trong những quy tắc ta đặt ra từ trước, hay trong thành tích mà tác nhân gây dựng trên mạng lưới.
Nếu hôm nay bạn giao tiền thật cho một tác nhân, bạn sẽ chọn giới hạn nghiêm ngặt được đặt một lần, hay giới hạn tăng dần khi thành tích của nó được cải thiện?
#KiteBBW $KITE
Phần lớn các cuộc thảo luận về tác nhân AI đều bắt đầu từ năng lực. Nó có thể đặt chỗ, đàm phán, thực thi không? Chúng ta cho rằng khi tác nhân đủ thông minh thì niềm tin và thanh toán sẽ tự ổn thỏa.
Tôi nghĩ câu hỏi thực sự kín đáo hơn,
tác nhân được phép là gì?
Các hệ thống của con người thường mặc định rằng một người là danh tính chính và ranh giới quyền hạn. Một tác nhân có thể chạy cùng lúc cả nghìn tác vụ, vì vậy, những thứ như Kite Agent Passport, với quyền hạn được phân tách giữa các lớp người dùng, tác nhân và phiên, bắt đầu giống một yêu cầu hơn là một thiết kế bổ sung.
Điều dễ bị bỏ qua là danh tính, quyền hạn, thanh toán và cơ sở hạ tầng không phải là bốn vấn đề. Đó là cùng một vấn đề nhìn từ bốn phía. Quy tắc chi tiêu chẳng có mấy ý nghĩa nếu không có danh tính có thể xác minh. Giao dịch vi mô chỉ hoạt động khi các quy tắc được thực thi ở tốc độ của tác nhân. Mạng lưới tác nhân chỉ hoạt động nếu mạng lưới cho thấy ai đã tạo ra thứ gì và ai chịu trách nhiệm về nó.
Rồi sự đánh đổi xuất hiện. Mỗi biện pháp kiểm soát khiến hệ thống an toàn hơn nhưng cũng kém tự chủ đi đôi chút. Giới hạn có thể ngăn một vòng lặp mất kiểm soát, nhưng cũng có thể làm gián đoạn đúng lúc tác nhân sắp trở nên hữu ích. Quản trị chặt chẽ giúp ngăn sai lầm xảy ra ở tốc độ máy móc. Quản trị lỏng lẻo bảo vệ lý do tồn tại của một tác nhân ngay từ đầu. Cả hai đều có phần đúng.
Điều tôi chưa thể xác định là niềm tin nên nằm ở đâu: trong những quy tắc ta đặt ra từ trước, hay trong thành tích mà tác nhân gây dựng trên mạng lưới.
Nếu hôm nay bạn giao tiền thật cho một tác nhân, bạn sẽ chọn giới hạn nghiêm ngặt được đặt một lần, hay giới hạn tăng dần khi thành tích của nó được cải thiện?
#KiteBBW $KITE