Vài tuần trước, tôi rời khỏi thị trấn và cần ai đó tưới cây cho tôi.
Vậy nên tôi đã giao chìa khóa nhà cho họ.
Dễ thôi mà.
Nhưng trên đường rời đi, một ý nghĩ chợt lóe lên.
Khóa đó không chỉ đơn giản cấp quyền truy cập vào các cây trồng.
Nó cấp quyền truy cập vào mọi thứ.
Phòng khách.
Phòng ngủ.
Nhà để xe.
Mỗi ngăn kéo mà tôi quên khóa.
Và rồi đột nhiên, những gì trước đó có vẻ tiện lợi bắt đầu trở nên khó chịu.
Không phải vì tôi không tin tưởng người đó.
Bởi vì tôi nhận ra mình đã giao bao nhiêu quyền lực.
Trải nghiệm đó đã nhắc tôi về điều gì đó mà tôi vẫn đang suy nghĩ về Newton Protocol.
Ngành công nghiệp AI bị ám ảnh bởi năng lực.
Mỗi tuần lại có một mô hình mới, một tác nhân mới, một hệ thống mới hứa hẹn nhiều tự động hóa và nhiều trí tuệ hơn.
Nhưng khi tôi theo dõi không gian này phát triển, tôi càng tự hỏi liệu chúng ta đang tập trung vào sai vấn đề không.
Thách thức không phải là trao thêm quyền lực cho AI.
Vấn đề nằm ở chỗ phải quyết định ngay từ đầu nó nên có bao nhiêu quyền lực.
Bởi một khi các tác nhân AI bắt đầu quản lý ví, thực hiện giao dịch, tương tác với các giao thức DeFi và chuyển tiền thật, thì quyền lực sẽ quan trọng hơn rất nhiều so với mức độ thông minh.
Một AI xuất sắc với quyền hạn không giới hạn vẫn có thể trở thành rủi ro.
Không phải vì nó độc hại.
Bởi vì sai lầm sẽ trở nên đắt đỏ khi có tiền liên quan.
Đó là một lý do khiến Newton nổi bật với tôi.
Dường như dự án này được xây dựng xoay quanh một câu hỏi mà nhiều người mãi đến khi quá muộn mới chịu hỏi:
Làm sao để bạn hưởng lợi từ tự động hóa mà không từ bỏ hoàn toàn quyền kiểm soát?
Càng đọc về @NewtonProtocol cách tiếp cận, nó càng không giống như một dự án AI khác và càng giống như một hạ tầng cho một tương lai nơi các hệ thống tự chủ hiện diện khắp nơi.
Không phải hạ tầng được thiết kế để làm AI thông minh hơn.
Hạ tầng được thiết kế để xác định ranh giới.
Và lịch sử cho thấy ranh giới trở nên có giá trị nhất khi các hệ thống đủ mạnh để vận hành mà không cần giám sát liên tục.
Điều thú vị là Newton không đặt cược vào việc liệu AI có thành công hay không.
Hầu hết ngành công nghiệp đã mặc định rằng điều đó đúng.
Có vẻ như nó đang đặt cược theo một hướng khác:
Rằng khi AI ngày càng có năng lực hơn, con người cuối cùng sẽ đòi hỏi điều tương tự mà họ luôn đòi hỏi từ các hệ thống tài chính.
Quyền kiểm soát.
Trách nhiệm giải trình.
Xác minh.
Có lẽ vì thế mà tôi cứ quay lại với Newton.
Không phải vì nó hứa hẹn tự động hóa không giới hạn.
Nhưng vì nó đang đặt ra một câu hỏi khó hơn nhiều:
Nếu cuối cùng AI có được khả năng làm gần như mọi thứ...
Ai sẽ là người quyết định thực sự nó được phép làm gì?
Và thành thật mà nói, tôi nghĩ câu trả lời cho câu hỏi đó có thể sẽ quan trọng hơn chính mức độ thông minh.
Bạn nghĩ sao?
Khi các tác nhân AI trở thành một phần của tài chính hằng ngày, điều gì sẽ có giá trị hơn:
Khả năng hơn nữa?
Hay nói cách khác là xác định ranh giới rõ ràng hơn?
#SKHynixJumpsNearly13%OnUSDebut

