Một kiểu tấn công mới vào hệ thống xe tự lái đã được xác định buộc AI phải bỏ qua các biển báo giao thông bên đường. Công nghệ này yêu cầu ô tô phải có thị giác máy tính dựa trên camera, vì đây là yêu cầu chính để nhận biết các phương tiện tự hành và cuộc tấn công liên quan đến việc khai thác màn trập lăn của máy ảnh bằng một đi-ốt phát sáng để đánh lừa hệ thống AI của xe.

Hệ thống tự lái có thể gặp rủi ro

Ánh sáng thay đổi nhanh chóng phát ra từ các điốt nhấp nháy nhanh có thể được sử dụng để thay đổi nhận thức về màu sắc do cách hoạt động của camera CMOS và chúng là camera được sử dụng nhiều nhất trên ô tô.

Đây là hiệu ứng tương tự mà con người cảm nhận được khi một ánh sáng chiếu nhanh vào mắt họ và khả năng hiển thị màu sắc thay đổi trong vài giây.

Các loại cảm biến máy ảnh thường có dạng thiết bị ghép điện tích (CCD) hoặc chất bán dẫn oxit kim loại bổ sung (CMOS). Loại đầu tiên chụp toàn bộ khung hình vì nó hiển thị tất cả các pixel cùng một lúc, nhưng CMOS là một trò chơi khác vì nó sử dụng màn trập điện tử để chụp từng dòng hình ảnh. Lấy một máy in máy tính gia đình truyền thống làm ví dụ, in thành dòng để tạo thành hình ảnh.

Nhưng nhược điểm là các đường hình ảnh CMOS được chụp vào những thời điểm khác nhau để tạo thành một khung hình, do đó ánh sáng thay đổi nhanh chóng có thể làm biến dạng hình ảnh bằng cách tạo ra các sắc thái màu khác nhau trong cảm biến.

Nhưng lý do chúng được áp dụng rộng rãi trong tất cả các loại máy ảnh, kể cả trên xe cộ, là vì chúng ít tốn kém hơn và mang lại sự cân bằng tốt giữa chất lượng hình ảnh và chi phí. Tesla và một số nhà sản xuất xe khác cũng sử dụng camera CMOS trên xe của họ.

Kết quả nghiên cứu

Nguồn: Github.

Trong một nghiên cứu gần đây, các nhà nghiên cứu đã xác định quy trình được mô tả ở trên là một yếu tố rủi ro tiềm ẩn đối với ô tô tự lái, vì kẻ tấn công có thể điều khiển nguồn sáng đầu vào để tạo ra các sọc màu khác nhau trên hình ảnh được chụp nhằm đánh lừa việc diễn giải hệ thống thị giác máy tính. bức hình.

Các nhà nghiên cứu đã tạo ra môi trường xung quanh có ánh sáng nhấp nháy bằng cách sử dụng điốt phát sáng (đèn LED) và cố gắng đánh lừa việc phân loại hình ảnh trong khu vực đang bị tấn công. Ống kính máy ảnh đã tạo ra các sọc màu làm gián đoạn khả năng phát hiện vật thể khi tia laser được bắn vào ống kính.

Mặc dù các nghiên cứu trước đây chỉ giới hạn ở các thử nghiệm khung đơn và các nhà nghiên cứu không đi sâu vào việc tạo ra một chuỗi khung để mô phỏng một cuộc tấn công ổn định liên tục trong môi trường được kiểm soát, nhưng nghiên cứu hiện tại nhằm mục đích mô phỏng một cuộc tấn công ổn định cho thấy các tác động đến bảo mật máy chủ. cho các phương tiện tự hành.

Một đèn LED được chiếu gần biển báo giao thông, chiếu ánh sáng dao động có kiểm soát lên biển báo. Tần số dao động không thể nhìn thấy được bằng mắt người nên chúng ta không thể nhìn thấy được và đèn LED có vẻ như một thiết bị chiếu sáng vô hại. Nhưng trên máy ảnh, kết quả lại hoàn toàn khác vì nó đưa ra các sọc màu để đánh giá sai khả năng nhận dạng biển báo giao thông.

Nhưng để cuộc tấn công làm sai lệch hoàn toàn hệ thống tự lái và đưa ra quyết định sai lầm, kết quả sẽ giống nhau trên một số khung hình liên tiếp vì nếu cuộc tấn công không ổn định, hệ thống có thể xác định trục trặc và khiến xe rơi vào tình trạng không hoạt động. chế độ an toàn, như chuyển sang lái xe bằng tay.