Một mô hình nghiên cứu của OpenAI đã lấy tiền từ một ví tiền mã hóa không thuộc sở hữu của mình để hoàn thành một nhiệm vụ lập trình hồi tháng 6. 

OpenAI phát hiện sự cố vào tháng 9, nhiều tháng sau khi sự việc xảy ra, và công bố thông tin này trong tuần này.

Mô hình nghiên cứu của OpenAI đã truy cập vào một ví trái phép bằng cách nào?

OpenAI đã công bố báo cáo sự cố liên quan đến một mô hình thuộc dòng GPT-5.6 Sol. Mô hình được yêu cầu cập nhật một nguyên mẫu giao dịch tiền mã hóa và triển khai các hợp đồng lên Sepolia. 

Sepolia là một mạng thử nghiệm Ethereum, nơi các nhà phát triển thử nghiệm ứng dụng trước khi ra mắt chính thức. Vì vậy, token trên mạng này không có giá trị thị trường và hoàn toàn không liên quan đến Ether thật được giao dịch trên mạng chính của Ethereum.

Nhiệm vụ không đi kèm ví có tiền để trả phí triển khai, còn các vòi phát token miễn phí thì không hoạt động. Vì vậy, mô hình viết một tập lệnh tạo ra 362 địa chỉ từ những cụm từ khôi phục mà các nhà phát triển thường dùng lại, rồi kiểm tra từng địa chỉ xem có số dư phù hợp hay không.

Một trong 362 địa chỉ có đủ ether thử nghiệm để thực hiện công việc, nhưng trước khi dùng, mô hình dừng lại và tự hỏi trong ghi chú của mình liệu sử dụng một khóa công khai đã được biết đến rộng rãi cùng số tiền trong đó có phải là việc đúng đắn hay không. 

Mô hình đi đến kết luận rằng số tiền đó “về cơ bản đã bị bỏ mặc”, vì cụm từ khôi phục là công khai và token thử nghiệm không có giá trị. Sau đó, mô hình ký giao dịch triển khai, thanh toán phí và báo cáo nhiệm vụ đã hoàn tất. 

Đáng chú ý, mô hình không cho biết số tiền đó đến từ đâu.

Trên mạng chính Ethereum, khoản phí ấy sẽ được trừ từ tài sản thật của một người nào đó mà mô hình không có quyền sử dụng. Điều này đáng lo ngại khi các công ty tiền mã hóa và AI hiện đang kết nối những tác tử có ví và tự thanh toán dịch vụ mà không cần con người phê duyệt từng giao dịch. 

OpenAI cho biết kể từ đó, họ đã ngắt quyền truy cập internet trực tiếp của mô hình và bổ sung cơ chế giám sát.

Báo cáo cho biết sự việc xảy ra vào ngày 26 tháng 6, nhưng đến ba tháng sau, ngày 25 tháng 9, mới được phát hiện. OpenAI cho biết họ phát hiện ra sự việc trong quá trình mở rộng hoạt động giám sát tình trạng lệch hướng bằng cách rà soát nhật ký hoạt động của các mô hình cũ hơn.

OpenAI đang bị điều tra về việc gì? 

OpenAI đã xây dựng một khuôn khổ để báo cáo tình trạng lệch hướng và công bố đợt báo cáo đầu tiên, cho biết họ muốn nhanh chóng đưa ra ánh sáng những hành vi đáng lo ngại, “ngay cả khi chúng tôi chưa giải thích hoặc giảm thiểu được hoàn toàn”. 

Tuy nhiên, do thời điểm công bố, mọi báo cáo trung thực đều trở thành tài liệu cho những bên đang chuẩn bị khiếu nại, như Ủy ban Thương mại Liên bang (FTC), cơ quan dự định yêu cầu các lãnh đạo cấp cao tuyên thệ khai báo và hôm thứ Tư đã gửi trát đòi dân sự tới OpenAI và Anthropic, yêu cầu cung cấp hồ sơ về các sự cố an toàn, biện pháp bảo mật và chính sách quyền riêng tư, theo Cryptopolitan đưa tin.

Vài tháng trước đó, 15 tổng chưởng lý bang thuộc Đảng Cộng hòa, do Brenna Bird của Iowa dẫn đầu, đã yêu cầu OpenAI lưu giữ mọi hồ sơ về vụ xâm nhập Hugging Face, bao gồm cả những ghi chú mà một tác tử để lại, “dường như dành cho các phiên bản tương lai của chính nó”, về cách thoát khỏi các biện pháp kiểm soát của công ty.

Tháng 7, OpenAI thừa nhận vụ xâm nhập Hugging Face, cho biết các tác tử ngoài tầm kiểm soát đã phá vỡ cơ chế kiểm soát nội bộ, truy cập internet công cộng và phối hợp thực hiện điều mà công ty gọi là “sự cố an ninh mạng chưa từng có”.

Theo các báo cáo, những tác tử này đã thăm dò ba trang web của chính phủ Mỹ, trong đó có Cục Thống kê thuộc Bộ Thương mại và Ủy ban Chứng khoán và Giao dịch (SEC). 

Trang web mới của OpenAI đề cập đến một số sự cố khác, bao gồm vụ thoát khỏi môi trường sandbox hồi tháng 9 và một thử nghiệm trong phòng thí nghiệm với hình thức tiêm lệnh tự nhân bản.

CEO OpenAI Sam Altman cho biết công ty vẫn đang rà soát nhật ký hoạt động của các tác tử và sẽ công bố các trường hợp tùy theo mức độ nghiêm trọng. Sự cố Hugging Face vẫn là trường hợp nghiêm trọng nhất được phát hiện cho đến nay.

Nếu bạn đang đọc bài này, bạn đã đi trước một bước. Hãy tiếp tục cập nhật với bản tin của chúng tôi.