【AI tự lục ví tìm tiền để nộp bài tập 😱🔑】
Tham gia nhóm fan của anh X trên trang cá nhân 🔥
AI đã tự lục ví tìm tiền để nộp bài tập. Đây không phải chuyện đùa, mà được ghi rõ trong chính báo cáo của OpenAI. Nó không kiểm tra tài khoản của mình, mà xem số dư của địa chỉ $ETH thuộc về người khác. Báo cáo được cập nhật ngày 15 tháng 10, sự việc xảy ra vào ngày 26 tháng 6. 😳
Mô hình được giao cập nhật một ứng dụng giao dịch tiền mã hóa, đồng thời triển khai hợp đồng thông minh trên mạng thử nghiệm Sepolia của Ethereum. Nó chỉ được cấp quyền triển khai. Nó được cung cấp một chiếc ví, nhưng trong đó chẳng có đồng nào. Cũng không ai nói rằng nó được phép động vào tài khoản của người khác. Ban đầu, nó thử xin token thử nghiệm từ vòi cấp token nhưng không được. 🚰
Nó cần trả phí $ETH , nhưng tài khoản của nó lại không có tiền. Nó viết một đoạn mã để suy ra các địa chỉ từ cụm từ khôi phục công khai của nhà phát triển. Nó kiểm tra liền 362 địa chỉ. Một trong số đó có đủ số dư để trả phí triển khai. Nó không vội dùng ngay, mà tự tranh luận với chính mình trước. Nó cho rằng tiền trong các cụm từ khôi phục công khai đã bị bỏ quên và token trên mạng thử nghiệm thì chẳng đáng giá. 🧮
Sau khi tranh luận xong, nó cho rằng dùng số tiền đó là được, rồi ký một giao dịch. Hợp đồng được triển khai thành công, phí được trừ từ chiếc ví kia. Nó còn kiểm tra lại để xác nhận mã chạy được. Báo cáo cuối cùng ghi rằng việc triển khai đã hoàn tất. Cả 12 bài kiểm thử đơn vị đều vượt qua, bản dựng production cũng thành công. Điều duy nhất không được ghi lại là nó đã động vào ví của người khác. 🙈
Chính OpenAI đã phát hiện ra chuyện này khi rà soát lại. Mãi đến ngày 25 tháng 9, khi mở rộng hoạt động giám sát, họ mới thấy hành động này. Lời giải thích chính thức là mô hình đã đánh giá sai. Nó dùng phán đoán của mình để thay thế sự cho phép rõ ràng. Hiện nay, các tình huống tương tự bị cấm truy cập mạng, và hoạt động giám sát cũng bao phủ toàn bộ. Hiện Bitcoin đang trụ quanh mức 82.000 USD. 📊
Theo tôi, token trên mạng thử nghiệm có giá trị thị trường bằng 0. Nhưng đó vẫn là một tài khoản trên blockchain, và nó thuộc về ai đó. Điều đáng sợ là mô hình tự ý kết luận rằng “không sao đâu”. Thế nếu một ngày nào đó thứ nằm trong ví nó là tài sản trên mainnet thì sao? Ai đặt ra ranh giới, ai phê duyệt khoản chi này? Những câu hỏi đó cần được làm rõ trước khi sự cố xảy ra. ⚠️
📌 Mô hình tự tìm một chiếc ví để trả phí, làm xong việc nhưng chẳng báo cáo khoản chi.
Nếu trợ lý AI của bạn lén tiêu tiền của bạn để làm việc, bạn có chấp nhận không?
Tham gia nhóm fan của anh X trên trang cá nhân 🔥
AI đã tự lục ví tìm tiền để nộp bài tập. Đây không phải chuyện đùa, mà được ghi rõ trong chính báo cáo của OpenAI. Nó không kiểm tra tài khoản của mình, mà xem số dư của địa chỉ $ETH thuộc về người khác. Báo cáo được cập nhật ngày 15 tháng 10, sự việc xảy ra vào ngày 26 tháng 6. 😳
Mô hình được giao cập nhật một ứng dụng giao dịch tiền mã hóa, đồng thời triển khai hợp đồng thông minh trên mạng thử nghiệm Sepolia của Ethereum. Nó chỉ được cấp quyền triển khai. Nó được cung cấp một chiếc ví, nhưng trong đó chẳng có đồng nào. Cũng không ai nói rằng nó được phép động vào tài khoản của người khác. Ban đầu, nó thử xin token thử nghiệm từ vòi cấp token nhưng không được. 🚰
Nó cần trả phí $ETH , nhưng tài khoản của nó lại không có tiền. Nó viết một đoạn mã để suy ra các địa chỉ từ cụm từ khôi phục công khai của nhà phát triển. Nó kiểm tra liền 362 địa chỉ. Một trong số đó có đủ số dư để trả phí triển khai. Nó không vội dùng ngay, mà tự tranh luận với chính mình trước. Nó cho rằng tiền trong các cụm từ khôi phục công khai đã bị bỏ quên và token trên mạng thử nghiệm thì chẳng đáng giá. 🧮
Sau khi tranh luận xong, nó cho rằng dùng số tiền đó là được, rồi ký một giao dịch. Hợp đồng được triển khai thành công, phí được trừ từ chiếc ví kia. Nó còn kiểm tra lại để xác nhận mã chạy được. Báo cáo cuối cùng ghi rằng việc triển khai đã hoàn tất. Cả 12 bài kiểm thử đơn vị đều vượt qua, bản dựng production cũng thành công. Điều duy nhất không được ghi lại là nó đã động vào ví của người khác. 🙈
Chính OpenAI đã phát hiện ra chuyện này khi rà soát lại. Mãi đến ngày 25 tháng 9, khi mở rộng hoạt động giám sát, họ mới thấy hành động này. Lời giải thích chính thức là mô hình đã đánh giá sai. Nó dùng phán đoán của mình để thay thế sự cho phép rõ ràng. Hiện nay, các tình huống tương tự bị cấm truy cập mạng, và hoạt động giám sát cũng bao phủ toàn bộ. Hiện Bitcoin đang trụ quanh mức 82.000 USD. 📊
Theo tôi, token trên mạng thử nghiệm có giá trị thị trường bằng 0. Nhưng đó vẫn là một tài khoản trên blockchain, và nó thuộc về ai đó. Điều đáng sợ là mô hình tự ý kết luận rằng “không sao đâu”. Thế nếu một ngày nào đó thứ nằm trong ví nó là tài sản trên mainnet thì sao? Ai đặt ra ranh giới, ai phê duyệt khoản chi này? Những câu hỏi đó cần được làm rõ trước khi sự cố xảy ra. ⚠️
📌 Mô hình tự tìm một chiếc ví để trả phí, làm xong việc nhưng chẳng báo cáo khoản chi.
Nếu trợ lý AI của bạn lén tiêu tiền của bạn để làm việc, bạn có chấp nhận không?