Tôi bước vào Newton Protocol với kỳ vọng sẽ lại có một cuộc trò chuyện về tự động hóa AI nhanh hơn. Nhưng khi bước ra, tôi lại nghĩ về một điều hoàn toàn khác.
Càng đọc, tôi càng nhận ra rằng Newton thực ra không hỏi, “Một tác nhân AI có thể hành động không?” Nó đang hỏi, “Tác nhân AI nên được phép làm gì trước khi hành động?”
Sự khác biệt này rất quan trọng.
Tôi nghĩ ngành công nghiệp đã quá quen với việc coi “có thể xác minh” như thể nó tự động đồng nghĩa với “đúng”. Không phải vậy.
Một chứng minh mật mã có thể cho thấy rằng tác nhân đã tuân thủ đúng các quyền hạn của nó, đúng như được viết ra. Nhưng nó không thể chứng minh rằng phán đoán nền tảng là thông minh, hay rằng chính sách đó đã bao phủ mọi tình huống biên.
Với tôi, đó là nơi thử thách thực sự bắt đầu.
Nếu niềm tin đang được chuyển từ con người sang các chính sách, thì những chính sách đó trở thành một trong những phần quan trọng nhất của hệ thống. Và nếu quản trị chịu trách nhiệm định hình các chính sách ấy, thì quản trị không còn chỉ là chuyện bỏ phiếu nữa. Đó là việc quyết định hệ thống được phép mắc những sai lầm nào.
Chính vì vậy mà Newton Protocol đã thu hút sự chú ý của tôi. Không phải vì nó hứa hẹn tự động hóa hoàn hảo, mà vì nó đặt ra một câu hỏi sâu hơn—mà theo tôi ngành công nghiệp mới chỉ bắt đầu đối mặt.
Khi các tác nhân AI có thêm quyền hạn đối với vốn, tôi không nghĩ rủi ro lớn nhất nằm ở việc liệu chúng có tuân thủ các quy tắc hay không.
Tôi cho rằng câu hỏi quan trọng hơn là: liệu ngay từ đầu, chúng ta có viết đúng các quy tắc hay không.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
Càng đọc, tôi càng nhận ra rằng Newton thực ra không hỏi, “Một tác nhân AI có thể hành động không?” Nó đang hỏi, “Tác nhân AI nên được phép làm gì trước khi hành động?”
Sự khác biệt này rất quan trọng.
Tôi nghĩ ngành công nghiệp đã quá quen với việc coi “có thể xác minh” như thể nó tự động đồng nghĩa với “đúng”. Không phải vậy.
Một chứng minh mật mã có thể cho thấy rằng tác nhân đã tuân thủ đúng các quyền hạn của nó, đúng như được viết ra. Nhưng nó không thể chứng minh rằng phán đoán nền tảng là thông minh, hay rằng chính sách đó đã bao phủ mọi tình huống biên.
Với tôi, đó là nơi thử thách thực sự bắt đầu.
Nếu niềm tin đang được chuyển từ con người sang các chính sách, thì những chính sách đó trở thành một trong những phần quan trọng nhất của hệ thống. Và nếu quản trị chịu trách nhiệm định hình các chính sách ấy, thì quản trị không còn chỉ là chuyện bỏ phiếu nữa. Đó là việc quyết định hệ thống được phép mắc những sai lầm nào.
Chính vì vậy mà Newton Protocol đã thu hút sự chú ý của tôi. Không phải vì nó hứa hẹn tự động hóa hoàn hảo, mà vì nó đặt ra một câu hỏi sâu hơn—mà theo tôi ngành công nghiệp mới chỉ bắt đầu đối mặt.
Khi các tác nhân AI có thêm quyền hạn đối với vốn, tôi không nghĩ rủi ro lớn nhất nằm ở việc liệu chúng có tuân thủ các quy tắc hay không.
Tôi cho rằng câu hỏi quan trọng hơn là: liệu ngay từ đầu, chúng ta có viết đúng các quy tắc hay không.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
