Tôi đã nghĩ về việc chúng ta dễ dàng sử dụng từ “niềm tin” khi nói về các tác nhân AI như thế nào.
Với Newton Protocol, phần khiến tôi nổi bật nhất là ủy quyền dựa trên chính sách: ý tưởng rằng một tác nhân không chỉ “hành động thay tôi”, mà hoạt động trong các ranh giới rõ ràng, có thể xác minh.
Điều đó có vẻ quan trọng từ góc nhìn hệ thống. Trong phần mềm, niềm tin thường suy giảm khi quá nhiều thứ bị bỏ qua một cách ngầm định. Một tác nhân có quyền hạn rộng sẽ trở nên khó để suy luận và đánh giá, ngay cả khi giao diện có vẻ đơn giản.
Nhưng khi quyền hạn, ràng buộc và cơ chế thu hồi được xem như một phần hạ tầng cốt lõi, mô hình niềm tin sẽ thay đổi. Nó không còn chủ yếu là việc tin rằng tác nhân sẽ cư xử tốt, mà là việc xác định về mặt kỹ thuật tác nhân đó được phép làm gì.
Sự khác biệt đó ban đầu có vẻ nhỏ, nhưng có thể lại quan trọng rất nhiều.
#Newt @NewtonProtocol $NEWT
Với Newton Protocol, phần khiến tôi nổi bật nhất là ủy quyền dựa trên chính sách: ý tưởng rằng một tác nhân không chỉ “hành động thay tôi”, mà hoạt động trong các ranh giới rõ ràng, có thể xác minh.
Điều đó có vẻ quan trọng từ góc nhìn hệ thống. Trong phần mềm, niềm tin thường suy giảm khi quá nhiều thứ bị bỏ qua một cách ngầm định. Một tác nhân có quyền hạn rộng sẽ trở nên khó để suy luận và đánh giá, ngay cả khi giao diện có vẻ đơn giản.
Nhưng khi quyền hạn, ràng buộc và cơ chế thu hồi được xem như một phần hạ tầng cốt lõi, mô hình niềm tin sẽ thay đổi. Nó không còn chủ yếu là việc tin rằng tác nhân sẽ cư xử tốt, mà là việc xác định về mặt kỹ thuật tác nhân đó được phép làm gì.
Sự khác biệt đó ban đầu có vẻ nhỏ, nhưng có thể lại quan trọng rất nhiều.
#Newt @NewtonProtocol $NEWT