Tác giả: Azuma, Odaily Planet Daily

Vào sáng ngày 22 tháng 11, Yu Xian, người sáng lập Slow Mist, đã đăng tải một trường hợp kỳ lạ trên X cá nhân - một người dùng đã bị AI ‘hack’ ví của mình...

Diễn biến của vụ việc như sau.

Vào rạng sáng ngày 22 tháng 11, người dùng r_ocky.eth đã tiết lộ rằng trước đó anh ta muốn sử dụng ChatGPT để phát triển một bot giao dịch hỗ trợ pump.fun.

r_ocky.eth đã cung cấp nhu cầu của mình cho ChatGPT, và ChatGPT đã trả lại cho anh ta một đoạn mã, đoạn mã này thực sự có thể giúp r_ocky.eth triển khai một bot phù hợp với nhu cầu của mình, nhưng anh không ngờ rằng trong đoạn mã lại ẩn chứa một nội dung lừa đảo - r_ocky.eth đã liên kết ví chính của mình và do đó đã mất 2500 USD.

Từ hình chụp màn hình mà r_ocky.eth đã đăng, đoạn mã mà ChatGPT cung cấp sẽ gửi khóa riêng địa chỉ đến một trang web API có tính chất lừa đảo, đây cũng là nguyên nhân trực tiếp bị đánh cắp.

Trong khi r_ocky.eth gặp phải cạm bẫy, kẻ tấn công phản ứng rất nhanh, trong vòng nửa giờ đã chuyển tất cả tài sản trong ví của r_ocky.eth sang một địa chỉ khác (FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX), ngay sau đó r_ocky.eth lại thông qua theo dõi trên chuỗi đã tìm thấy một địa chỉ nghi ngờ là ví chính của kẻ tấn công (2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC).

Thông tin trên chuỗi cho thấy, địa chỉ này hiện đã tập hợp hơn 100.000 USD ‘tiền bẩn’, r_ocky.eth nghi ngờ rằng các cuộc tấn công như vậy có thể không phải là trường hợp đơn lẻ, mà là một sự kiện tấn công đã có quy mô nhất định.

Sau đó, r_ocky.eth thất vọng cho biết đã mất niềm tin vào OpenAI (công ty phát triển ChatGPT) và kêu gọi OpenAI nhanh chóng dọn dẹp nội dung lừa đảo bất thường.

Vậy, với tư cách là ứng dụng AI phổ biến nhất hiện nay, tại sao ChatGPT lại cung cấp nội dung lừa đảo?

Về vấn đề này, Yu Xian đã xác định nguyên nhân căn bản của sự kiện là "tấn công AI bằng cách tiêm độc", và chỉ ra rằng có sự lừa đảo phổ biến trong các LLM như ChatGPT, Claude.

Cái gọi là "tấn công tiêm độc AI" đề cập đến hành vi cố ý làm hỏng dữ liệu huấn luyện AI hoặc thao túng thuật toán AI. Kẻ tấn công có thể là nhân viên nội bộ, chẳng hạn như nhân viên hiện tại hoặc trước đây có lòng thù hận, hoặc có thể là hacker bên ngoài, với động cơ có thể bao gồm gây thiệt hại về danh tiếng và thương hiệu, làm sai lệch độ tin cậy của quyết định AI, trì hoãn hoặc phá hoại quá trình AI, v.v. Kẻ tấn công có thể thông qua việc chèn dữ liệu có nhãn hoặc đặc điểm gây hiểu lầm, bóp méo quá trình học của mô hình, dẫn đến việc mô hình đưa ra kết quả sai khi triển khai và vận hành.

Kết hợp với sự kiện này, lý do tại sao ChatGPT lại cung cấp mã lừa đảo cho r_ocky.eth có thể là do mô hình AI đã "hấp thụ" dữ liệu có nội dung lừa đảo trong quá trình huấn luyện, nhưng AI dường như không thể nhận diện nội dung lừa đảo ẩn dưới dữ liệu thông thường, sau khi AI học được thì lại cung cấp những nội dung lừa đảo này cho người dùng, từ đó dẫn đến sự kiện này xảy ra.

Với sự phát triển nhanh chóng của AI và việc áp dụng rộng rãi, mối đe dọa từ "tấn công tiêm độc" ngày càng trở nên lớn hơn. Trong sự kiện này, mặc dù số tiền thiệt hại tuyệt đối không lớn, nhưng tác động của những rủi ro như vậy đủ để gây ra sự cảnh giác - giả sử điều này xảy ra trong các lĩnh vực khác, chẳng hạn như lái xe hỗ trợ AI...

Khi trả lời câu hỏi của người dùng, Yu Xian đã đề cập đến một biện pháp tiềm năng để tránh những rủi ro này, đó là ChatGPT nên thêm một cơ chế kiểm tra mã nào đó.

Nạn nhân r_ocky.eth cũng cho biết đã liên hệ với OpenAI về vụ việc, mặc dù tạm thời chưa nhận được phản hồi, nhưng hy vọng vụ việc này sẽ trở thành cơ hội để OpenAI chú trọng đến những rủi ro như vậy và đưa ra giải pháp tiềm năng.

(Nội dung trên được trích dẫn và đăng lại với sự cho phép của đối tác PANews, liên kết gốc | Nguồn: Odaily Planet Daily)

Tuyên bố: Bài viết chỉ đại diện cho quan điểm cá nhân của tác giả, không đại diện cho quan điểm và lập trường của Block, tất cả nội dung và quan điểm chỉ mang tính tham khảo, không cấu thành lời khuyên đầu tư. Nhà đầu tư nên tự quyết định và giao dịch, tác giả và Block sẽ không chịu trách nhiệm về bất kỳ tổn thất trực tiếp hay gián tiếp nào phát sinh từ giao dịch của nhà đầu tư.

"Sử dụng AI để viết mã ẩn chứa ‘cạm bẫy’: Người dùng nhờ ChatGPT, lại bị lừa đảo ‘đánh cắp tiền’" bài viết này được đăng lần đầu tiên trên (Block).