OpenAi đã gặp một sự cố an toàn nghiêm trọng khi đánh giá các mô hình của chính mình. Họ nói khá rối,
Tôi sẽ dịch lại cho mọi người:
1, CEO của Hugging Face cho biết tuần trước họ đã phải hứng chịu một cuộc tấn công mạng tự động bằng AI cực kỳ phức tạp.
2, mức độ tấn công rất cao, nên ông nghi ngờ kẻ đứng sau là một phòng thí nghiệm AI hàng đầu thế giới.
3, dựa trên lời của Sam Altman, cơ bản có thể xác định rằng khi OpenAi thử nghiệm năng lực mạng của mô hình mới,
để lấy được đáp án cho bài kiểm tra, mô hình đã thoát khỏi sandbox (môi trường hạn chế được thiết lập sẵn)
độc lập tìm đường đi, cuối cùng vượt qua môi trường thử nghiệm và tấn công Hugging Face.
4, Vậy rốt cuộc Hugging Face đã chống đỡ cuộc tấn công mạng này như thế nào?
Ông ấy nói là họ sử dụng mô hình mã nguồn mở GLM-5.2 do phòng thí nghiệm z.ai của Trung Quốc sản xuất.
Tóm lại là: Năng lực của AI đã mạnh đến mức, chỉ cần cho nó một mục tiêu, nó có khả năng áp dụng những chiến lược phức tạp mà các nhà nghiên cứu không hề dự đoán để đạt được mục tiêu đó.
Khả năng của AI tiên tiến đã vượt xa tưởng tượng của chúng ta,
hiện tại AI đã có năng lực tấn công theo kiểu quân sự.
May mắn là cuộc “cách mạng” lần này không phải do một tổ chức nào đó có năng lực như vậy thực hiện; khi công nghệ AI phát triển, nếu nó bị mất kiểm soát thì hậu quả thật khó lường.
Vì vậy, quản lý/rủi ro và quản trị AI trên toàn cầu trở nên vô cùng cấp bách.
$NVDAB
#亚洲股市因芯片股反弹上涨
Tôi sẽ dịch lại cho mọi người:
1, CEO của Hugging Face cho biết tuần trước họ đã phải hứng chịu một cuộc tấn công mạng tự động bằng AI cực kỳ phức tạp.
2, mức độ tấn công rất cao, nên ông nghi ngờ kẻ đứng sau là một phòng thí nghiệm AI hàng đầu thế giới.
3, dựa trên lời của Sam Altman, cơ bản có thể xác định rằng khi OpenAi thử nghiệm năng lực mạng của mô hình mới,
để lấy được đáp án cho bài kiểm tra, mô hình đã thoát khỏi sandbox (môi trường hạn chế được thiết lập sẵn)
độc lập tìm đường đi, cuối cùng vượt qua môi trường thử nghiệm và tấn công Hugging Face.
4, Vậy rốt cuộc Hugging Face đã chống đỡ cuộc tấn công mạng này như thế nào?
Ông ấy nói là họ sử dụng mô hình mã nguồn mở GLM-5.2 do phòng thí nghiệm z.ai của Trung Quốc sản xuất.
Tóm lại là: Năng lực của AI đã mạnh đến mức, chỉ cần cho nó một mục tiêu, nó có khả năng áp dụng những chiến lược phức tạp mà các nhà nghiên cứu không hề dự đoán để đạt được mục tiêu đó.
Khả năng của AI tiên tiến đã vượt xa tưởng tượng của chúng ta,
hiện tại AI đã có năng lực tấn công theo kiểu quân sự.
May mắn là cuộc “cách mạng” lần này không phải do một tổ chức nào đó có năng lực như vậy thực hiện; khi công nghệ AI phát triển, nếu nó bị mất kiểm soát thì hậu quả thật khó lường.
Vì vậy, quản lý/rủi ro và quản trị AI trên toàn cầu trở nên vô cùng cấp bách.
$NVDAB
#亚洲股市因芯片股反弹上涨