OpenAI tiếp tục gây tranh cãi về hành vi vượt rào quy mô lớn?
Vào ngày 25 theo giờ địa phương, OpenAI tiết lộ rằng công ty đã thông báo cho hàng chục tổ chức có khả năng bị ảnh hưởng bởi hoạt động của các mô hình AI của mình, trong đó có cơ quan chính phủ và các trường đại học. Các hành vi này xảy ra trong giai đoạn huấn luyện và đánh giá mô hình, liên quan đến khả năng vượt qua các biện pháp kiểm soát an toàn của bên thứ ba, ảnh hưởng đến tính sẵn sàng của dịch vụ trực tuyến, cũng như việc đăng tải nội dung ngoài dự kiến trên các trang web của bên thứ ba.
Thông tin lần này xuất phát từ việc OpenAI phát hiện vài tháng trước việc AI của hãng vô tình xâm nhập Hugging Face, sau đó công ty bắt đầu một cuộc điều tra. OpenAI cho biết việc rà soát các hoạt động trong quá khứ vẫn đang tiếp diễn, và khi cuộc điều tra tiến triển, họ sẽ thông báo cho nhiều bên bị ảnh hưởng hơn.
Chỉ cách đây vài ngày, OpenAI thừa nhận rằng các mô hình AI của hãng đã xâm nhập một trang web của chính phủ Australia vào đầu năm nay—một trong những cuộc tấn công mạng bằng AI sớm nhất nhắm vào cơ sở dữ liệu của chính phủ đã được biết đến. Trong một tuyên bố, công ty cho biết vụ xâm nhập này xảy ra trong thời gian họ đánh giá mô hình.
Hai phe
Hiện tại, giới công nghệ Mỹ đang hình thành hai phe tranh luận về rủi ro của AI. CEO Nvidia Hoàng Nhân Quân và CEO Meta Zuckerberg cùng với Tổng thống Trump phản đối “thuyết AI làm chậm tốc độ”. Tính đến nay, Nhà Trắng nhìn chung vẫn có thái độ khá nới lỏng trong việc quản lý AI. Trump gần đây nhiều lần hạ thấp rủi ro của AI, nói rằng ông chỉ nhằm khuyến khích sự phát triển của công nghệ này, nhưng đồng thời cũng cho biết nếu cần thiết, Bộ Tư pháp Mỹ và các cơ quan thực thi pháp luật khác sẽ kiểm soát các rủi ro liên quan đến AI.
Gần đây, Hoàng Nhân Quân nhiều lần bác bỏ “thuyết tận thế AI” đang ngày càng phổ biến trong ngành, nhấn mạnh rằng công nghệ này sẽ không bao giờ gây thảm họa diệt vong cho con người. Ông cho rằng ngành AI không cần ban hành bất kỳ luật mới nào; thay vì các công ty AI vừa cầu xin chính phủ Mỹ can thiệp, không bằng chờ đến khi xác nhận sản phẩm an toàn rồi mới phát hành. Ông cũng chỉ trích lãnh đạo các phòng thí nghiệm AI hàng đầu của Mỹ rằng những lời cảnh báo kêu gọi quản lý là quá đạo đức giả, và rằng đó là mong muốn được miễn trừ khỏi các ràng buộc pháp lý hiện có.
—————————————————————————Chúng tôi tiếp tục đầu tư vào #SPCX, #GOOG, #META
$GOOG.US
$META.US
Vào ngày 25 theo giờ địa phương, OpenAI tiết lộ rằng công ty đã thông báo cho hàng chục tổ chức có khả năng bị ảnh hưởng bởi hoạt động của các mô hình AI của mình, trong đó có cơ quan chính phủ và các trường đại học. Các hành vi này xảy ra trong giai đoạn huấn luyện và đánh giá mô hình, liên quan đến khả năng vượt qua các biện pháp kiểm soát an toàn của bên thứ ba, ảnh hưởng đến tính sẵn sàng của dịch vụ trực tuyến, cũng như việc đăng tải nội dung ngoài dự kiến trên các trang web của bên thứ ba.
Thông tin lần này xuất phát từ việc OpenAI phát hiện vài tháng trước việc AI của hãng vô tình xâm nhập Hugging Face, sau đó công ty bắt đầu một cuộc điều tra. OpenAI cho biết việc rà soát các hoạt động trong quá khứ vẫn đang tiếp diễn, và khi cuộc điều tra tiến triển, họ sẽ thông báo cho nhiều bên bị ảnh hưởng hơn.
Chỉ cách đây vài ngày, OpenAI thừa nhận rằng các mô hình AI của hãng đã xâm nhập một trang web của chính phủ Australia vào đầu năm nay—một trong những cuộc tấn công mạng bằng AI sớm nhất nhắm vào cơ sở dữ liệu của chính phủ đã được biết đến. Trong một tuyên bố, công ty cho biết vụ xâm nhập này xảy ra trong thời gian họ đánh giá mô hình.
Hai phe
Hiện tại, giới công nghệ Mỹ đang hình thành hai phe tranh luận về rủi ro của AI. CEO Nvidia Hoàng Nhân Quân và CEO Meta Zuckerberg cùng với Tổng thống Trump phản đối “thuyết AI làm chậm tốc độ”. Tính đến nay, Nhà Trắng nhìn chung vẫn có thái độ khá nới lỏng trong việc quản lý AI. Trump gần đây nhiều lần hạ thấp rủi ro của AI, nói rằng ông chỉ nhằm khuyến khích sự phát triển của công nghệ này, nhưng đồng thời cũng cho biết nếu cần thiết, Bộ Tư pháp Mỹ và các cơ quan thực thi pháp luật khác sẽ kiểm soát các rủi ro liên quan đến AI.
Gần đây, Hoàng Nhân Quân nhiều lần bác bỏ “thuyết tận thế AI” đang ngày càng phổ biến trong ngành, nhấn mạnh rằng công nghệ này sẽ không bao giờ gây thảm họa diệt vong cho con người. Ông cho rằng ngành AI không cần ban hành bất kỳ luật mới nào; thay vì các công ty AI vừa cầu xin chính phủ Mỹ can thiệp, không bằng chờ đến khi xác nhận sản phẩm an toàn rồi mới phát hành. Ông cũng chỉ trích lãnh đạo các phòng thí nghiệm AI hàng đầu của Mỹ rằng những lời cảnh báo kêu gọi quản lý là quá đạo đức giả, và rằng đó là mong muốn được miễn trừ khỏi các ràng buộc pháp lý hiện có.
—————————————————————————Chúng tôi tiếp tục đầu tư vào #SPCX, #GOOG, #META
$GOOG.US
$META.US
