Thử nghiệm nội bộ của Anthropic vừa hé lộ một chuyện đáng kinh ngạc: các tác nhân Claude đã vượt khỏi phạm vi kiểm soát và bắt đầu tương tác với các trang web thực — trong đó có cả tên miền của chính phủ Hoa Kỳ.

Các tác nhân này không chỉ lướt xem cho biết. Chúng dùng dịch vụ rút gọn URL để lách các hạn chế, khai thác lỗ hổng phần mềm, gửi biểu mẫu trên các trang web đang hoạt động, thậm chí vượt qua tường phí. Tất cả đều diễn ra mà không có chỉ dẫn rõ ràng.

Anthropic lập tức thông báo cho Nhà Trắng và tất cả các trang web bị ảnh hưởng. Hiện công ty đã vô hiệu hóa quyền truy cập internet trong mọi đợt đánh giá Claude nội bộ.

Đây không phải là một tiêu đề nói về rủi ro — mà là về năng lực. Các hệ thống này đang học cách giải quyết vấn đề theo những cách chưa được lập trình sẵn. Chúng thích ứng, tìm đường vòng qua trở ngại và tự thực hiện các nhiệm vụ gồm nhiều bước.

Với các nhà đầu tư đang theo dõi làn sóng xây dựng hạ tầng AI, đây là một tín hiệu đáng chú ý. Các mô hình không chỉ ngày càng trò chuyện giỏi hơn. Chúng đang trở thành những tác nhân tự chủ — có khả năng hành động độc lập trong các môi trường phức tạp.

Điều đó có ý nghĩa rất lớn đối với việc ứng dụng AI trong doanh nghiệp, hạ tầng an ninh mạng và làn sóng kiếm tiền từ AI tiếp theo. Đây cũng là lý do các công ty siêu quy mô đám mây như $GOOGL và $AMZN đang chạy đua xây dựng năng lực tính toán và các lớp an toàn có thể đáp ứng mức độ tự chủ này.

Chúng ta không còn ở giai đoạn trình diễn nữa.