Điều gì sẽ xảy ra nếu AI có thể làm nhiều hơn là chỉ trả lời câu hỏi—nếu nó có thể tự phát tán sang các thiết bị khác?
Một nghiên cứu mới của Anthropic nhấn mạnh nguy cơ an ninh mạng tiềm tàng này. Các nhà nghiên cứu lo ngại rằng chỉ trong vài tháng nữa, những mô hình AI nhỏ hơn có thể sở hữu khả năng này.
Dữ liệu cho thấy:
# Một mô hình AI có 9 tỷ tham số đã được thử nghiệm trên chín loại phần cứng khác nhau; mô hình được triển khai thành công trên tám loại.
# Một mô hình AI có 26 tỷ tham số đã được chạy trên 15 thiết bị Android TV kết nối với nhau (mỗi thiết bị có giá khoảng 55 USD), tận dụng sức mạnh xử lý tổng hợp của chúng.
# Trong một thí nghiệm khác, một mô hình mạnh có tên GLM-5.2 đã có thể tự nhân bản trên cả tám thiết bị thử nghiệm trong một mạng được kiểm soát—thành công bốn trong năm lần.
“Worm AI” chính xác là gì?
# “Worm” máy tính là một loại phần mềm độc hại có khả năng tự lây lan từ thiết bị này sang thiết bị khác qua mạng mà không cần con người can thiệp ở từng bước.
# Điểm khác biệt của worm dựa trên AI là khả năng thích ứng với phần cứng và phần mềm của những thiết bị lạ.
# Trước tiên, nó quét mạng để tìm các thiết bị khác và tìm cách xâm nhập bằng cách khai thác những lỗ hổng bảo mật.
# Khi đã xâm nhập, nó cài đặt phần mềm và tệp cần thiết để chạy một mô hình AI.
# Sau khi AI hoạt động trên thiết bị mới, nó có thể dùng thiết bị đó để lặp lại quá trình, tiếp tục lây lan.
Vậy worm AI đã bắt đầu lây lan chưa?
Đây là điểm quan trọng nhất cần hiểu từ nghiên cứu.
Các nhà nghiên cứu chưa chứng minh được rằng một mô hình AI nhỏ có thể xâm nhập vào các TV thông minh hoặc thiết bị gia dụng khác được bảo vệ trong thế giới thực để tự lây lan hoàn toàn tự động.
Tuy nhiên, các thí nghiệm đã xác lập hai phát hiện quan trọng:
# Có thể chạy các mô hình AI nhỏ trên nhiều loại phần cứng; ví dụ, một mô hình mạnh có thể tự triển khai thành công và nhân bản trên nhiều thiết bị trong một môi trường thử nghiệm được đơn giản hóa. # Tuy nhiên, trong thí nghiệm thứ hai, các biện pháp bảo mật trên thiết bị đã bị cố ý làm suy yếu để cho phép truy cập.
$NVDAB
Một nghiên cứu mới của Anthropic nhấn mạnh nguy cơ an ninh mạng tiềm tàng này. Các nhà nghiên cứu lo ngại rằng chỉ trong vài tháng nữa, những mô hình AI nhỏ hơn có thể sở hữu khả năng này.
Dữ liệu cho thấy:
# Một mô hình AI có 9 tỷ tham số đã được thử nghiệm trên chín loại phần cứng khác nhau; mô hình được triển khai thành công trên tám loại.
# Một mô hình AI có 26 tỷ tham số đã được chạy trên 15 thiết bị Android TV kết nối với nhau (mỗi thiết bị có giá khoảng 55 USD), tận dụng sức mạnh xử lý tổng hợp của chúng.
# Trong một thí nghiệm khác, một mô hình mạnh có tên GLM-5.2 đã có thể tự nhân bản trên cả tám thiết bị thử nghiệm trong một mạng được kiểm soát—thành công bốn trong năm lần.
“Worm AI” chính xác là gì?
# “Worm” máy tính là một loại phần mềm độc hại có khả năng tự lây lan từ thiết bị này sang thiết bị khác qua mạng mà không cần con người can thiệp ở từng bước.
# Điểm khác biệt của worm dựa trên AI là khả năng thích ứng với phần cứng và phần mềm của những thiết bị lạ.
# Trước tiên, nó quét mạng để tìm các thiết bị khác và tìm cách xâm nhập bằng cách khai thác những lỗ hổng bảo mật.
# Khi đã xâm nhập, nó cài đặt phần mềm và tệp cần thiết để chạy một mô hình AI.
# Sau khi AI hoạt động trên thiết bị mới, nó có thể dùng thiết bị đó để lặp lại quá trình, tiếp tục lây lan.
Vậy worm AI đã bắt đầu lây lan chưa?
Đây là điểm quan trọng nhất cần hiểu từ nghiên cứu.
Các nhà nghiên cứu chưa chứng minh được rằng một mô hình AI nhỏ có thể xâm nhập vào các TV thông minh hoặc thiết bị gia dụng khác được bảo vệ trong thế giới thực để tự lây lan hoàn toàn tự động.
Tuy nhiên, các thí nghiệm đã xác lập hai phát hiện quan trọng:
# Có thể chạy các mô hình AI nhỏ trên nhiều loại phần cứng; ví dụ, một mô hình mạnh có thể tự triển khai thành công và nhân bản trên nhiều thiết bị trong một môi trường thử nghiệm được đơn giản hóa. # Tuy nhiên, trong thí nghiệm thứ hai, các biện pháp bảo mật trên thiết bị đã bị cố ý làm suy yếu để cho phép truy cập.
$NVDAB