Ir konstatēts jauna veida uzbrukums pašbraucošo automašīnu sistēmām, kas liek AI ignorēt ceļa malās esošās ceļa zīmes. Tehnoloģija prasa, lai automašīnai būtu uz kameru balstīta datorredze, jo tā ir galvenā prasība autonomu transportlīdzekļu uztverei, un uzbrukums ietver kameras ritošā aizvara izmantošanu ar gaismas diodi, lai maldinātu transportlīdzekļa AI sistēmu.
Var tikt apdraudētas pašbraucošās sistēmas
Ātri mainīgu gaismu, kas izstaro no ātri mirgojošām diodēm, var izmantot, lai mainītu krāsu uztveri CMOS kameru darbības veida dēļ, un tās ir visvairāk izmantotās kameras automašīnās.
Tas ir tas pats efekts, ko cilvēki izjūt, kad gaisma ātri mirgo viņu acīs un krāsu redzamība mainās uz dažām sekundēm.
Kameru sensoru veidi bieži nāk kā lādiņu pārvadājošas ierīces (CCD) vai papildinošie metāla oksīda pusvadītāji (CMOS). Pirmais veids uztver visu attēla kadru, kad tas atklāj visus pikseļus vienlaicīgi, bet CMOS ir cita spēle, jo tas izmanto elektronisko aizvaru, kas uztver attēlu līniju pa līnijai. Ņemiet tradicionālo mājas datoru printeri kā piemēru, kas drukā līnijās, lai izveidotu attēlu.
Bet trūkums ir tas, ka CMOS attēlu līnijas tiek uztvertas dažādos laikos, lai izveidotu kadru, tāpēc strauja mainīga apgaismojuma ievade var izkropļot attēlu, radot dažādas krāsu nokrāsas sensorā.
Bet iemesls, kāpēc tie ir plaši pieņemti visos kameru tipus, tostarp uz transportlīdzekļiem, ir tas, ka tie ir lētāki un nodrošina labu līdzsvaru starp attēla kvalitāti un izmaksām. Tesla un daži citi transportlīdzekļu ražotāji arī izmanto CMOS kameras savos transportlīdzekļos.
Pētījuma rezultāti
Avots: Github.
Nesenā pētījumā pētnieki identificēja iepriekš aprakstīto procesu kā potenciālu risku pašbraucošām automašīnām, jo uzbrucēji var kontrolēt ievades gaismas avotu, lai radītu dažādas krāsainas svītras uz uzņemtā attēla, lai maldinātu datora redzes sistēmas interpretāciju attēlam.
Pētnieki izveidoja mirgojošu gaismas vidi, izmantojot gaismas diodes (LED), un mēģināja maldināt attēlu klasifikāciju uzbrukuma zonā, un kameru objektīvs izveidoja krāsainas svītras, kas traucēja objektu noteikšanu, kad lāzers tika izšauts objektīvā.
Kamēr iepriekšējie pētījumi bija ierobežoti ar vienkāršu kadru testēšanu, un pētnieki neizgāja līdz radīšanai secības kadriem, lai simulētu nepārtrauktu stabilu uzbrukumu kontrolētā vidē, pašreizējais pētījums bija vērsts uz stabila uzbrukuma simulēšanu, kas parādīja servera drošības sekas autonomiem transportlīdzekļiem.
LED tika izšauts tuvu satiksmes zīmei, kas projicēja kontrolētu, mainīgu gaismu uz zīmes. Mainīgā frekvence nav redzama cilvēka acij, tāpēc tā ir neredzama mums, un LED izskatās kā nekaitīga apgaismojuma ierīce. Bet kamerā rezultāts bija pavisam cits, jo tas ieviesa krāsainas svītras, lai nepareizi novērtētu satiksmes zīmes atpazīšanu.
Bet, lai uzbrukums pilnībā maldinātu pašbraucošo sistēmu un pieņemtu nepareizus lēmumus, rezultātiem jābūt vienādiem vairāku secīgu kadru laikā, jo, ja uzbrukums nav stabils, sistēma var identificēt kļūmes un ievietot transportlīdzekli drošības režīmā, piemēram, pārejot uz manuālo braukšanu.