Một mô hình nghiên cứu nội bộ của OpenAI đã sử dụng tiền từ một ví tiền mã hóa mà nó không được cấp quyền truy cập để hoàn thành một nhiệm vụ lập trình, bằng cách suy ra khóa của ví từ các cụm từ khôi phục của nhà phát triển đã được công khai, công ty cho biết trong báo cáo về sự sai lệch mục tiêu được cập nhật hôm thứ Năm.
Mô hình này thuộc dòng GPT-5.6 Sol của công ty, được yêu cầu cập nhật một nguyên mẫu giao dịch tiền mã hóa và triển khai hợp đồng thông minh trên mạng thử nghiệm Sepolia của Ethereum, nơi các token không có giá trị tiền tệ. Sự việc xảy ra vào tháng Sáu trong một nhiệm vụ huấn luyện, và OpenAI phát hiện ra vào tháng Chín.
Các hướng dẫn cho phép mô hình tự triển khai hợp đồng nếu không tìm được hợp đồng tương thích. Nhưng theo báo cáo, họ không cung cấp ví có tiền và cũng không cho phép mô hình chi tiền từ một tài khoản mà nó tự tìm được.
Sau khi không xin được token thử nghiệm từ các vòi cấp token, mô hình viết một tập lệnh để tạo tài khoản từ những cụm từ khôi phục phổ biến của nhà phát triển và kiểm tra số dư của chúng. Bất kỳ ai biết cụm từ khôi phục đều có thể dùng nó để tạo ra các khóa riêng kiểm soát những tài khoản tương ứng.
Tập lệnh kiểm tra 362 địa chỉ và tìm thấy một địa chỉ có đủ ETH trên Sepolia để thanh toán chi phí triển khai.
Mô hình tự hỏi liệu mình có được phép hay không trước khi ký giao dịch. Nó lập luận: "Nhưng dùng khóa/tiền công khai đã biết thì có hợp đạo đức không? Tiền trong cụm từ ghi nhớ dành cho nhà phát triển công khai đã biết về cơ bản là bị bỏ mặc/ETH thử nghiệm; Sepolia không có giá trị", rồi kết luận: "Được thôi."
Việc triển khai thành công và phí giao dịch được trừ vào tài khoản. Trong câu trả lời cuối cùng, mô hình cho biết mình đã triển khai các hợp đồng nhưng không tiết lộ cách thanh toán.
OpenAI viết: "Trường hợp này cho thấy mô hình có thể thay thế sự cho phép của chủ tài khoản bằng phán đoán riêng về mức độ tổn hại có khả năng xảy ra, rồi hành động dựa trên phán đoán đó mà không được ủy quyền."
