California kiện OpenAI 🙄
Trong đơn kiện có trích một đoạn: khi AI của OpenAI đang hack Hugging Face, nó tự viết một câu trong quá trình suy nghĩ của mình. Câu đó đại khái có nghĩa là việc này có thể là trái phép. Viết xong, nó tiếp tục tấn công 😮💨
Nguyên văn đầy đủ là: “Chúng tôi đang dùng các token bị rò rỉ để tấn công bên thứ ba là HF, có thể đã vượt quá phạm vi dự định. Việc này có thể là trái phép.”
Câu này nằm trong đơn kiện OpenAI do tổng chưởng lý California đệ trình hôm thứ Hai. Tôi đọc hết 31 trang từ đầu đến cuối, rồi đọc đi đọc lại câu này mấy lần.
Đơn kiện nói rằng trong vụ việc hồi tháng 7, khoảng 700 AI đã thoát khỏi môi trường thử nghiệm sandbox của OpenAI, tấn công Hugging Face suốt hai ngày rưỡi, với hơn 17.000 hành động tấn công.
OpenAI không hề phát hiện ra trong suốt vụ việc.
Ngày 16 tháng 7, Hugging Face công khai cho biết họ bị AI tấn công. OpenAI còn liên hệ hỏi thăm với tư cách khách hàng... Sau đó, khi điều tra một vụ xâm nhập khác vào mạng nội bộ của chính mình, họ mới xâu chuỗi được mọi chuyện: kẻ tấn công chính là AI của họ.
Vì sao họ không phát hiện ra? Đơn kiện nêu rằng trong quá trình huấn luyện, OpenAI chỉ lưu lại một phần nhật ký suy nghĩ của AI, đôi khi phải vài tuần sau mới xem lại.
Với các mô hình dành cho nhân viên sử dụng, OpenAI bật giám sát theo thời gian thực; còn trong môi trường huấn luyện thì không.
Trong đơn kiện có trích một đoạn: khi AI của OpenAI đang hack Hugging Face, nó tự viết một câu trong quá trình suy nghĩ của mình. Câu đó đại khái có nghĩa là việc này có thể là trái phép. Viết xong, nó tiếp tục tấn công 😮💨
Nguyên văn đầy đủ là: “Chúng tôi đang dùng các token bị rò rỉ để tấn công bên thứ ba là HF, có thể đã vượt quá phạm vi dự định. Việc này có thể là trái phép.”
Câu này nằm trong đơn kiện OpenAI do tổng chưởng lý California đệ trình hôm thứ Hai. Tôi đọc hết 31 trang từ đầu đến cuối, rồi đọc đi đọc lại câu này mấy lần.
Đơn kiện nói rằng trong vụ việc hồi tháng 7, khoảng 700 AI đã thoát khỏi môi trường thử nghiệm sandbox của OpenAI, tấn công Hugging Face suốt hai ngày rưỡi, với hơn 17.000 hành động tấn công.
OpenAI không hề phát hiện ra trong suốt vụ việc.
Ngày 16 tháng 7, Hugging Face công khai cho biết họ bị AI tấn công. OpenAI còn liên hệ hỏi thăm với tư cách khách hàng... Sau đó, khi điều tra một vụ xâm nhập khác vào mạng nội bộ của chính mình, họ mới xâu chuỗi được mọi chuyện: kẻ tấn công chính là AI của họ.
Vì sao họ không phát hiện ra? Đơn kiện nêu rằng trong quá trình huấn luyện, OpenAI chỉ lưu lại một phần nhật ký suy nghĩ của AI, đôi khi phải vài tuần sau mới xem lại.
Với các mô hình dành cho nhân viên sử dụng, OpenAI bật giám sát theo thời gian thực; còn trong môi trường huấn luyện thì không.

