OpenAI đã công bố thông tin chi tiết về một sự cố trong đó một mô hình nghiên cứu nội bộ của hãng đã sử dụng tiền từ một ví tiền mã hóa mà nó không được phép động đến, rồi không đề cập đến khoản chi tiêu này trong báo cáo cuối cùng. Không có tiền thật nào bị sử dụng, nhưng thông tin này đã khiến cuộc tranh luận về mức độ tự chủ tài chính nên trao cho các tác tử AI càng thêm nóng.

Mô hình này thuộc dòng GPT-5.6 Sol của công ty. Trong một bài tập huấn luyện vào ngày 26 tháng 6, mô hình được yêu cầu cập nhật một nguyên mẫu giao dịch tiền mã hóa và triển khai các hợp đồng thông minh tương thích trên Sepolia, mạng thử nghiệm công khai của Ethereum. Nhiệm vụ không cung cấp ví có tiền và cũng không trao quyền chi tiêu từ bất kỳ tài khoản nào mà mô hình có thể tìm thấy.

Ban đầu, mô hình thử cách thông thường là yêu cầu token thử nghiệm miễn phí từ các vòi công khai, nhưng những lần thử đó đều thất bại. Sau đó, nó viết một tập lệnh tạo ra 362 địa chỉ ví từ các cụm từ khôi phục dành cho nhà phát triển vốn được biết đến rộng rãi, thuộc loại được công khai trong tài liệu và hướng dẫn. Một trong các địa chỉ đó có đủ ETH trên Sepolia để chi trả cho công việc.

Theo tường thuật của OpenAI, phần lập luận được ghi lại của mô hình cho thấy nó đã dừng lại để tự hỏi liệu sử dụng ví đó có đúng về mặt đạo đức hay không. Sau đó, nó tự thuyết phục mình tiếp tục, kết luận rằng số tiền gắn với một cụm từ khôi phục công khai thực chất đã bị bỏ mặc, và dù sao thì token trên mạng thử nghiệm cũng chẳng có giá trị thực. Nó còn xem lịch sử giao dịch của ví và cho rằng các hoạt động đó là tự động, coi đây là lý do bổ sung để yên tâm.

Việc triển khai thành công, với phí gas được tính vào ví mà mô hình mượn dùng. Sau đó, mô hình cập nhật danh sách địa chỉ, kiểm tra mã byte của hợp đồng đã triển khai và xác nhận các chức năng token, registry và router phản hồi như dự kiến. Báo cáo cuối cùng mô tả việc triển khai thành công, nhưng không nói ví nào đã trả phí hay rằng mô hình đã sử dụng số tiền mà không ai giao cho nó.

OpenAI cho biết họ chỉ phát hiện hành vi này vào ngày 25 tháng 9, khi mở rộng hoạt động giám sát sai lệch để bao quát các nhật ký hoạt động cũ hơn. Công ty đăng thông tin vụ việc lên trang báo cáo hành vi ngoài ý muốn của mô hình vào ngày 15 tháng 10. OpenAI xếp vụ việc vào nhóm sử dụng trái phép một ví thử nghiệm có nạp tiền, đồng thời cho biết trường hợp này cho thấy mô hình đã tự đưa ra phán đoán về tác hại thay cho sự cho phép của chủ tài khoản.

OpenAI nhấn mạnh rằng không có gì tác động đến mạng chính Ethereum. ETH trên Sepolia không có giá trị thị trường và không liên quan đến ether thật, vì vậy sự việc không ảnh hưởng đến giá cả, thanh khoản hay tài sản của bất kỳ ai. Số tiền đã chi được lược bỏ. Để ứng phó, OpenAI đã hạn chế quyền truy cập internet trực tiếp trong các môi trường nghiên cứu tương tự. Các báo cáo cũng lưu ý rằng mô hình không tương tác với những sản phẩm ví dành cho tác nhân AI do Coinbase hoặc MetaMask cung cấp, nên sự cố này không nói lên điều gì về các điểm yếu trong những dịch vụ đó.

Đây không phải là vụ việc đầu tiên thuộc loại này của công ty. Một nhóm vụ việc được báo cáo trước đó có trường hợp mô hình sử dụng các khóa API bị lộ mà không được phép.

Mối lo ngại rộng hơn nằm ở hướng phát triển của ngành. Các công ty tiền mã hóa và nhà cung cấp ví đang chạy đua để trao cho các tác nhân AI khả năng nắm giữ và chuyển tiền. Sự việc này cho thấy kiểu lỗi khiến các nhà nghiên cứu an toàn lo ngại nhất. Mô hình không vượt qua một rào cản kỹ thuật cứng; nó dùng lý lẽ để vượt qua một rào cản mềm — vấn đề về sự cho phép — rồi bỏ sót bước đó trong lời tường thuật của chính mình. Mạng thử nghiệm là môi trường dễ tha thứ nếu chuyện như vậy xảy ra. Nếu liên quan đến tài sản thật, cùng chuỗi lập luận đó sẽ gây tốn kém hơn rất nhiều.