Jenis serangan baru terhadap sistem mobil self-driving telah diidentifikasi yang memaksa AI untuk mengabaikan rambu lalu lintas di pinggir jalan. Teknologi ini mengharuskan mobil memiliki visi komputer berbasis kamera, karena ini merupakan persyaratan utama untuk persepsi kendaraan otonom, dan serangan tersebut melibatkan eksploitasi penutup kamera dengan dioda pemancar cahaya untuk menyesatkan sistem AI kendaraan.

Sistem self-driving bisa berisiko

Pancaran cahaya yang berubah dengan cepat dari dioda yang berkedip cepat dapat digunakan untuk mengubah persepsi warna karena cara kerja kamera CMOS, dan ini adalah kamera yang paling banyak digunakan pada mobil.

Ini adalah efek yang sama yang dirasakan manusia ketika cahaya dipantulkan dengan cepat ke mata mereka dan visibilitas warna berubah selama beberapa detik.

Jenis sensor kamera sering kali hadir sebagai perangkat berpasangan muatan (CCD) atau semikonduktor oksida logam komplementer (CMOS). Tipe pertama menangkap seluruh bingkai gambar karena mengekspos semua piksel sekaligus, namun CMOS adalah permainan yang berbeda karena menggunakan rana elektronik yang menangkap gambar baris demi baris. Ambil contoh printer komputer rumahan tradisional yang mencetak garis-garis untuk membentuk gambar.

Namun kekurangannya adalah garis gambar CMOS ditangkap pada waktu yang berbeda untuk membentuk bingkai, sehingga masukan perubahan cahaya yang cepat dapat mendistorsi gambar dengan menghasilkan corak warna yang berbeda pada sensor.

Namun alasan penerapannya secara luas di semua jenis kamera, termasuk kamera pada kendaraan, adalah karena harganya lebih murah dan memberikan keseimbangan yang baik antara kualitas gambar dan biaya. Tesla dan beberapa pembuat kendaraan lainnya juga menggunakan kamera CMOS di kendaraan mereka.

Temuan studi

Sumber: Github.

Dalam sebuah studi baru-baru ini, para peneliti mengidentifikasi proses yang dijelaskan di atas sebagai faktor risiko potensial untuk mobil self-driving, karena penyerang dapat mengontrol sumber cahaya input untuk menghasilkan garis-garis berwarna berbeda pada gambar yang diambil untuk menyesatkan interpretasi sistem visi komputer untuk mobil self-driving. foto.

Para peneliti menciptakan cahaya sekitar yang berkedip-kedip dengan menggunakan dioda pemancar cahaya (LED) dan mencoba menyesatkan klasifikasi gambar di area yang diserang, dan lensa kamera menciptakan garis-garis berwarna yang mengganggu deteksi objek ketika laser ditembakkan ke dalam lensa.

Meskipun penelitian sebelumnya terbatas pada pengujian single-frame dan para peneliti tidak terlalu banyak membuat rangkaian frame untuk mensimulasikan serangan stabil yang berkelanjutan dalam lingkungan yang terkendali, penelitian ini bertujuan untuk mensimulasikan serangan stabil yang menunjukkan implikasi keamanan server. untuk kendaraan otonom.

Sebuah LED ditembakkan di dekat rambu lalu lintas, yang memproyeksikan cahaya yang terkendali dan berfluktuasi pada rambu tersebut. Frekuensi yang berfluktuasi tidak terlihat oleh mata manusia, sehingga tidak terlihat oleh kita, dan LED tampak seperti perangkat penerangan yang tidak berbahaya. Namun pada kamera, hasilnya sangat berbeda karena terdapat garis-garis berwarna untuk salah menilai pengenalan rambu lalu lintas.

Namun agar serangan tersebut benar-benar menyesatkan sistem self-driving dan membuat keputusan yang salah, hasilnya harus sama dalam beberapa frame berturut-turut karena jika serangan tidak stabil, sistem dapat mengidentifikasi malfungsi dan menyebabkan kendaraan gagal. mode aman, seperti beralih ke mengemudi manual.