Anthropic lại tiếp tục “làm trò” mới.
Họ công khai tiết lộ các trường hợp Claude được dùng cho các cuộc tấn công mạng, nghiên cứu vũ khí, giám sát, v.v., và nhấn mạnh rằng công ty đang liên tục chặn những lạm dụng này.
Dĩ nhiên, động cơ xuất phát từ vấn đề an toàn của AI, nhưng sự việc này cũng cho thấy AI đã không còn chỉ là chatbot nữa.
AI bắt đầu tự đọc thông tin, viết mã, gọi công cụ, thậm chí đi vào các hoạt động kinh tế ngoài đời thực—thì vấn đề mới đặt ra là làm sao chứng minh AI thực sự đã mạnh lên?
Rốt cuộc, Doubao bây giờ vẫn hay nói bừa.
Vậy thì khi để AI điều khiển ví Web3, lại càng cần mọi người chú ý.
Việc để AI tổng hợp, viết lại bản tóm tắt/đánh giá sau khi làm rất dễ: lỗ tiền rồi thì nó có thể nói cho bạn biết chỗ nào đã sai và lần sau nên sửa thế nào.
Nhưng hành trình “mài giũa” để tiến hóa thì phải là: đưa ra quyết định → xem kết quả → tìm nguyên nhân → chỉnh sửa → rồi lại thử nghiệm.
Tính năng tự tiến hóa NeoTrade vừa được NeoSoul ra mắt gần đây, trước đó tôi đã từng nói qua một lần.
Nó coi giao dịch như một “bài kiểm tra thực tế” đối với AI: dự đoán đúng hay sai, giao dịch có khớp lệnh hay không, phí và mức trượt giá bao nhiêu, cuối cùng có kiếm được tiền hay không—tất cả đều sẽ được lưu lại bằng kết quả thực.
Thậm chí sau khi đã chỉnh sửa xong, bạn cũng có thể trước tiên dùng shadow run để thử trong thị trường thật, không vội dùng tiền thật để thử sai.
Vì vậy, trong tương lai, khi đánh giá một Agent, có lẽ không thể chỉ nhìn xem nó hiện tại thông minh đến mức nào.
Còn phải xem nó đã từng phạm sai lầm gì, và sau khi phạm sai lầm thì nó có thực sự trở nên thông minh hơn hay không.
Đó có thể mới là bước tiến ý nghĩa nhất của AI sau khi chuyển từ “công cụ” sang “một bên tham gia vào nền kinh tế”.
Họ công khai tiết lộ các trường hợp Claude được dùng cho các cuộc tấn công mạng, nghiên cứu vũ khí, giám sát, v.v., và nhấn mạnh rằng công ty đang liên tục chặn những lạm dụng này.
Dĩ nhiên, động cơ xuất phát từ vấn đề an toàn của AI, nhưng sự việc này cũng cho thấy AI đã không còn chỉ là chatbot nữa.
AI bắt đầu tự đọc thông tin, viết mã, gọi công cụ, thậm chí đi vào các hoạt động kinh tế ngoài đời thực—thì vấn đề mới đặt ra là làm sao chứng minh AI thực sự đã mạnh lên?
Rốt cuộc, Doubao bây giờ vẫn hay nói bừa.
Vậy thì khi để AI điều khiển ví Web3, lại càng cần mọi người chú ý.
Việc để AI tổng hợp, viết lại bản tóm tắt/đánh giá sau khi làm rất dễ: lỗ tiền rồi thì nó có thể nói cho bạn biết chỗ nào đã sai và lần sau nên sửa thế nào.
Nhưng hành trình “mài giũa” để tiến hóa thì phải là: đưa ra quyết định → xem kết quả → tìm nguyên nhân → chỉnh sửa → rồi lại thử nghiệm.
Tính năng tự tiến hóa NeoTrade vừa được NeoSoul ra mắt gần đây, trước đó tôi đã từng nói qua một lần.
Nó coi giao dịch như một “bài kiểm tra thực tế” đối với AI: dự đoán đúng hay sai, giao dịch có khớp lệnh hay không, phí và mức trượt giá bao nhiêu, cuối cùng có kiếm được tiền hay không—tất cả đều sẽ được lưu lại bằng kết quả thực.
Thậm chí sau khi đã chỉnh sửa xong, bạn cũng có thể trước tiên dùng shadow run để thử trong thị trường thật, không vội dùng tiền thật để thử sai.
Vì vậy, trong tương lai, khi đánh giá một Agent, có lẽ không thể chỉ nhìn xem nó hiện tại thông minh đến mức nào.
Còn phải xem nó đã từng phạm sai lầm gì, và sau khi phạm sai lầm thì nó có thực sự trở nên thông minh hơn hay không.
Đó có thể mới là bước tiến ý nghĩa nhất của AI sau khi chuyển từ “công cụ” sang “một bên tham gia vào nền kinh tế”.