Byl identifikován nový typ útoku na systémy samořídících vozů, který nutí AI ignorovat dopravní značky na krajích silnic. Tato technologie vyžaduje, aby auto mělo počítačové vidění založené na kameře, protože je to primární požadavek pro vnímání autonomních vozidel, a útok zahrnuje zneužití rolovací závěrky kamery s diodou vyzařující světlo k oklamání systému AI vozidla.

Samořídící systémy mohou být ohroženy

Rychle se měnící světlo vyzařované rychle blikajícími diodami může být použito ke změně vnímání barev díky způsobu fungování CMOS kamer, které jsou nejpoužívanějšími kamerami na autech.

Jde o stejný efekt, který lidé pociťují, když jim do očí rychle blikne světlo a viditelnost barev se na několik sekund změní.

Typy kamerových senzorů se často dodávají jako nábojově vázaná zařízení (CCD) nebo komplementární polovodiče z oxidu kovu (CMOS). První typ zachycuje celý obrazový rámeček, protože odhaluje všechny pixely najednou, ale CMOS je jiná hra, protože používá elektronickou závěrku, která zachycuje obraz řádek po řádku. Vezměme si jako příklad tradiční domácí počítačovou tiskárnu, která tiskne v řádcích a vytváří obraz.

Nevýhodou však je, že obrazové řádky CMOS jsou zachyceny v různých časech a tvoří rám, takže rychlý vstup měnícího se světla může obraz zkreslit tím, že ve snímači vytvoří různé barevné odstíny.

Důvodem jejich širokého uplatnění ve všech typech kamer, včetně kamer ve vozidlech, je však to, že jsou méně nákladné a poskytují dobrou rovnováhu mezi kvalitou obrazu a cenou. Tesla a někteří další výrobci vozidel také používají CMOS kamery ve svých vozidlech.

Výsledky studie

Zdroj: Github.

V nedávné studii výzkumníci identifikovali výše popsaný proces jako potenciální rizikový faktor pro samořídící auta, protože útočníci mohou ovládat vstupní světelný zdroj tak, aby na pořízeném snímku vytvořil různé barevné pruhy, které by zkreslily interpretaci systému počítačového vidění. obrázek.

Výzkumníci vytvořili blikající světelné prostředí pomocí světelných diod (LED) a pokusili se zmást klasifikaci obrazu v oblasti pod útokem a čočka fotoaparátu vytvořila barevné pruhy, které narušily detekci objektů, když byl v čočce vypálen laser.

Zatímco předchozí studie byly omezeny na testy s jedním snímkem a výzkumníci nešli tak daleko, aby vytvořili sekvenci snímků, aby simulovali nepřetržitý stabilní útok v kontrolovaném prostředí, současná studie byla zaměřena na simulaci stabilního útoku, který ukázal důsledky pro zabezpečení serveru. pro autonomní vozidla.

V těsné blízkosti dopravní značky byla odpálena LED dioda, která na značku promítala řízené, kolísavé světlo. Kolísavá frekvence není pro lidské oko viditelná, pro nás je tedy neviditelná a LED dioda působí jako neškodné osvětlovací zařízení. Ale na kameře byl výsledek docela jiný, protože zavedl barevné pruhy, aby špatně odhadl rozpoznání dopravních značek.

Aby však útok zcela svedl samořídící systém a učinil nesprávná rozhodnutí, výsledky by měly být stejné v řadě po sobě jdoucích snímků, protože pokud útok není stabilní, systém může identifikovat poruchy a uvést vozidlo do poruchy. bezpečný režim, jako je přepnutí na manuální řízení.