Tôi cứ nghĩ mãi về một điểm khác biệt mà ta dễ bỏ qua trong nền kinh tế tác nhân AI: biết tác nhân AI nào đang hành động không đồng nghĩa với việc biết nó nên được phép làm gì.

Passport của Kite và mô hình cấp quyền ủy quyền tiếp cận vấn đề này từ hai phía khác nhau. Danh tính giúp xác định tác nhân đang hành động với tư cách ai, còn quyền hạn được giới hạn theo phạm vi và các biện pháp kiểm soát phiên có thể giới hạn những gì tác nhân được phép làm. Sự phân biệt đó rất quan trọng. Một tác nhân có thể cần quyền hoàn thành một nhiệm vụ mà không cần được cấp quyền truy cập rộng rãi, lâu dài vào mọi thứ phía sau nhiệm vụ đó.

Đó là một hướng thiết kế hợp lý, nhưng câu hỏi khó hơn xuất hiện khi nhiệm vụ thay đổi. Một quyền hạn hợp lý lúc ban đầu có thể trở nên quá rộng, quá hẹp hoặc đơn giản là không còn phù hợp khi tác nhân thực hiện quy trình. Thời hạn hết hiệu lực và khả năng thu hồi có ích, nhưng chúng không tự động đảm bảo mọi quyết định cấp quyền đều đúng.

Tôi nghĩ đây là lúc cơ sở hạ tầng cho tác nhân trở nên thú vị. Tính tự chủ không chỉ là để phần mềm hành động mà không cần chờ chúng ta. Đó còn là việc xác định những ranh giới vẫn hợp lý ngay cả khi chúng ta không theo dõi từng bước.

Bạn muốn cấp cho tác nhân quyền hạn rộng để tiện lợi, hay quyền hạn hẹp hơn nhưng đòi hỏi sự kiểm soát chủ động hơn??

#KiteBBW $KITE