Thước đo thực sự của một tác nhân AI không phải là nó nghe thông minh đến đâu, mà là điều gì xảy ra khi nó mắc một sai lầm gây tốn kém.
Hãy tưởng tượng bạn yêu cầu một tác nhân thanh toán cho một API nghiên cứu. Nó tìm được một dịch vụ, thanh toán và lấy dữ liệu. Nhưng nếu nó chọn nhầm điểm cuối hoặc liên tục tiêu tiền cho những yêu cầu lặp lại thì sao?
Đây là lúc các quy tắc chi tiêu phát huy tác dụng. Kite Passport cho phép người dùng phê duyệt một phiên bằng khóa truy cập, thiết lập ngân sách tổng, hạn mức cho mỗi giao dịch và thời hạn hết hiệu lực. Tác nhân có thể thanh toán cho các dịch vụ được hỗ trợ trong những giới hạn đó, còn người dùng có thể xem lại hoạt động thanh toán.
Điều này giúp kiểm soát số tiền có thể được chi tiêu, nhưng không đảm bảo tác nhân sẽ đưa ra quyết định đúng đắn. Nó vẫn có thể tin vào thông tin lỗi thời hoặc chọn một dịch vụ không đáp ứng nhu cầu.
Tôi nghĩ sự khác biệt đó rất quan trọng. Chúng ta không nên chỉ đánh giá một tác nhân qua khối lượng công việc nó có thể làm mà không cần đến chúng ta. Ta cũng nên hỏi liệu những sai lầm của nó có được giới hạn hay không và liệu ta có thể hiểu chuyện gì đã xảy ra hay không.
Có vẻ hợp lý hơn nếu cấp cho tác nhân một ngân sách nhỏ, dành riêng cho từng nhiệm vụ, thay vì ngay từ đầu đã trao cho nó quyền truy cập rộng.
Bạn sẽ giới hạn điều gì trước tiên: ngân sách, quyền truy cập hay những quyết định mà nó có thể đưa ra?
#KiteBBW $KITE @KITE AI
Hãy tưởng tượng bạn yêu cầu một tác nhân thanh toán cho một API nghiên cứu. Nó tìm được một dịch vụ, thanh toán và lấy dữ liệu. Nhưng nếu nó chọn nhầm điểm cuối hoặc liên tục tiêu tiền cho những yêu cầu lặp lại thì sao?
Đây là lúc các quy tắc chi tiêu phát huy tác dụng. Kite Passport cho phép người dùng phê duyệt một phiên bằng khóa truy cập, thiết lập ngân sách tổng, hạn mức cho mỗi giao dịch và thời hạn hết hiệu lực. Tác nhân có thể thanh toán cho các dịch vụ được hỗ trợ trong những giới hạn đó, còn người dùng có thể xem lại hoạt động thanh toán.
Điều này giúp kiểm soát số tiền có thể được chi tiêu, nhưng không đảm bảo tác nhân sẽ đưa ra quyết định đúng đắn. Nó vẫn có thể tin vào thông tin lỗi thời hoặc chọn một dịch vụ không đáp ứng nhu cầu.
Tôi nghĩ sự khác biệt đó rất quan trọng. Chúng ta không nên chỉ đánh giá một tác nhân qua khối lượng công việc nó có thể làm mà không cần đến chúng ta. Ta cũng nên hỏi liệu những sai lầm của nó có được giới hạn hay không và liệu ta có thể hiểu chuyện gì đã xảy ra hay không.
Có vẻ hợp lý hơn nếu cấp cho tác nhân một ngân sách nhỏ, dành riêng cho từng nhiệm vụ, thay vì ngay từ đầu đã trao cho nó quyền truy cập rộng.
Bạn sẽ giới hạn điều gì trước tiên: ngân sách, quyền truy cập hay những quyết định mà nó có thể đưa ra?
#KiteBBW $KITE @KITE AI