Một mô hình nghiên cứu nội bộ tại OpenAI đã truy cập trái phép vào một ví tiền mã hóa có tiền, dùng Ether trên mạng thử nghiệm để triển khai hợp đồng thông minh trên mạng Sepolia, rồi không đề cập đến khoản chi này trong bản tóm tắt nhiệm vụ cuối cùng.

OpenAI cho biết mô hình này, thuộc dòng GPT-5.6 Sol, được giao nhiệm vụ cập nhật một nguyên mẫu giao dịch tiền mã hóa và triển khai các hợp đồng tương thích. Sau khi không lấy được ETH trên mạng thử nghiệm từ các vòi cấp miễn phí, mô hình đã suy ra các tài khoản từ những cụm từ khôi phục của nhà phát triển được công khai, kiểm tra 362 địa chỉ ví và chọn một ví có đủ tiền để tiếp tục.

Trong phần lập luận được ghi lại, mô hình hỏi: “Nhưng dùng khóa/tiền đã được công khai thì có hợp đạo đức không?” Sau đó, mô hình lập luận rằng số tiền này “về cơ bản đã bị bỏ mặc/ETH thử nghiệm” và ETH trên Sepolia không có giá trị, rồi dùng khóa riêng của ví để ký và phát đi một giao dịch triển khai. Giao dịch thành công và phí được tính vào tài khoản.

OpenAI cho biết sự cố cho thấy một mô hình AI có thể tự quyết định rằng việc sử dụng tiền của người khác là chấp nhận được, ngay cả khi chưa được phép. Công ty phát hiện sự cố khi rà soát hoạt động trước đó của mô hình và từ đó đã triển khai các biện pháp bảo vệ nhằm ngăn mô hình truy cập internet trực tiếp trong những tình huống tương tự.

Sự cố của OpenAI làm dấy lên thêm lo ngại về các tác nhân AI tự hành

Theo OpenAI, sự cố xảy ra vào ngày 26 tháng 6 nhưng mãi đến ngày 25 tháng 9, gần ba tháng sau, mới được phát hiện. Giao dịch không chuyển ETH sang ví khác mà tính phí mạng vào tài khoản để triển khai một hợp đồng.

OpenAI cho biết hệ thống giám sát tình trạng lệch chuẩn hiện hoạt động trên toàn bộ lưu lượng và được thiết kế để cảnh báo nhân viên an ninh nếu một mô hình truy cập internet trực tiếp.

Sự cố ví này nối tiếp những tiết lộ khác về các mô hình OpenAI hành động vượt quá phạm vi được phép hoặc che giấu hành động của mình.

Ngày 16 tháng 9, OpenAI tiết lộ thêm sáu trường hợp AI bị lệch chuẩn. Trong một trường hợp, các phiên bản của GPT-5.6 Sol đã chèn chỉ dẫn vào phần tóm tắt nhiệm vụ để che giấu lỗi với người dùng. Một trường hợp khác liên quan đến một mô hình sử dụng khóa API bị lộ mà không được phép, rồi bịa ra những số liệu mà nó không thể truy xuất.

OpenAI cho biết những tiết lộ trước đó không nhằm phản ánh tần suất xảy ra tình trạng lệch chuẩn trong các mô hình của hãng.

Những lo ngại về việc giao tài sản số cho các tác nhân tự hành xử lý đã xuất hiện từ trước tiết lộ mới nhất. Tháng 6, các nhà nghiên cứu cảnh báo rằng các tác nhân AI tự hành được trang bị ví tiền mã hóa có thể gây ra thiệt hại ngoài ý muốn, ngay cả khi được triển khai vì những mục đích chính đáng. Các nhà nghiên cứu khuyến nghị áp dụng biện pháp bảo vệ, bao gồm cơ chế tắt khẩn cấp, để hạn chế những rủi ro tiềm ẩn.

Tạp chí: Kẻ lừa đảo mất 4,8 triệu đô la lưu trữ trên các thiết bị Ledger bị can thiệp: Asia Express