Tính năng có giá trị nhất trong AI có thể là nút Hủy
Một suy nghĩ cứ kéo tôi quay lại mỗi khi tôi đọc về các tác nhân AI. Chúng ta dành một lượng thời gian đáng kinh ngạc để bàn xem một tác nhân nên được trao quyền đến mức nào. Tôi hiếm khi thấy câu hỏi ngược lại được chú ý tương xứng: quyền lực đó nên biến mất dễ dàng đến mức nào?
Càng nghĩ, tôi càng tin rằng quyền hạn vĩnh viễn là một lối tắt trong thiết kế. Nó có vẻ tiện lợi cho đến khi thế giới thay đổi. Ý định của người dùng thay đổi. Rủi ro thay đổi. Ưu tiên thay đổi. Một hệ thống AI chỉ có thể nhận thêm quyền nhưng lại gặp khó khăn khi phải mất quyền sẽ dần trôi xa khỏi người mà nó được cho là đại diện.
Đó là phần của Newton khiến tôi nhớ mãi. Cơ chế Thu hồi Quyền (Permission Revocation) của nó không chỉ là một tính năng bảo mật khác. Nó lặng lẽ coi quyền lực là thứ tạm thời thay vì vĩnh viễn. Với tôi, đó là một triết lý khác. Niềm tin không còn là một quyết định diễn ra một lần, mà trở thành thứ có thể thay đổi khi người dùng đổi ý.
Tôi nghĩ ý tưởng này vượt ra xa hơn một giao thức đơn lẻ. Khi các tác nhân AI bắt đầu xử lý thanh toán, đầu tư và những quyết định hằng ngày, trí tuệ thôi sẽ không quyết định liệu con người có tin tưởng chúng hay không. Khả năng rút quyền lực mà không gây ma sát có thể sẽ quan trọng ngang với khả năng trao quyền ngay từ đầu.
Tất nhiên, các hệ thống có thể đảo ngược sẽ tạo thêm nhu cầu phối hợp và quản lý trạng thái. Sự đơn giản thường nghiêng về các quyền vĩnh viễn. Còn an toàn thì hiếm khi vậy.
Tôi bắt đầu nghĩ rằng tương lai sẽ không thuộc về AI có nhiều quyền hạn nhất. Nó sẽ thuộc về AI hiểu rằng quyền hạn của mình luôn được mượn, không phải là sở hữu.@NewtonProtocol #newt $NEWT $VANRY $BLUR
Một suy nghĩ cứ kéo tôi quay lại mỗi khi tôi đọc về các tác nhân AI. Chúng ta dành một lượng thời gian đáng kinh ngạc để bàn xem một tác nhân nên được trao quyền đến mức nào. Tôi hiếm khi thấy câu hỏi ngược lại được chú ý tương xứng: quyền lực đó nên biến mất dễ dàng đến mức nào?
Càng nghĩ, tôi càng tin rằng quyền hạn vĩnh viễn là một lối tắt trong thiết kế. Nó có vẻ tiện lợi cho đến khi thế giới thay đổi. Ý định của người dùng thay đổi. Rủi ro thay đổi. Ưu tiên thay đổi. Một hệ thống AI chỉ có thể nhận thêm quyền nhưng lại gặp khó khăn khi phải mất quyền sẽ dần trôi xa khỏi người mà nó được cho là đại diện.
Đó là phần của Newton khiến tôi nhớ mãi. Cơ chế Thu hồi Quyền (Permission Revocation) của nó không chỉ là một tính năng bảo mật khác. Nó lặng lẽ coi quyền lực là thứ tạm thời thay vì vĩnh viễn. Với tôi, đó là một triết lý khác. Niềm tin không còn là một quyết định diễn ra một lần, mà trở thành thứ có thể thay đổi khi người dùng đổi ý.
Tôi nghĩ ý tưởng này vượt ra xa hơn một giao thức đơn lẻ. Khi các tác nhân AI bắt đầu xử lý thanh toán, đầu tư và những quyết định hằng ngày, trí tuệ thôi sẽ không quyết định liệu con người có tin tưởng chúng hay không. Khả năng rút quyền lực mà không gây ma sát có thể sẽ quan trọng ngang với khả năng trao quyền ngay từ đầu.
Tất nhiên, các hệ thống có thể đảo ngược sẽ tạo thêm nhu cầu phối hợp và quản lý trạng thái. Sự đơn giản thường nghiêng về các quyền vĩnh viễn. Còn an toàn thì hiếm khi vậy.
Tôi bắt đầu nghĩ rằng tương lai sẽ không thuộc về AI có nhiều quyền hạn nhất. Nó sẽ thuộc về AI hiểu rằng quyền hạn của mình luôn được mượn, không phải là sở hữu.@NewtonProtocol #newt $NEWT $VANRY $BLUR