Виявлено новий тип атаки на системи безпілотного автомобіля, який змушує ШІ ігнорувати дорожні знаки на узбіччях. Ця технологія вимагає, щоб автомобіль мав комп’ютерне бачення на основі камери, оскільки це є основною вимогою для сприйняття автономних транспортних засобів, а атака передбачає використання рухомого затвора камери зі світлодіодом, щоб ввести в оману систему ШІ автомобіля.

Системи самостійного керування можуть бути під загрозою

Швидко мінливе світло, що випромінює швидко миготливі діоди, можна використовувати для зміни сприйняття кольору через те, як працюють камери CMOS, і вони є камерами, які найчастіше використовуються в автомобілях.

Це той самий ефект, який відчувають люди, коли світло швидко спалахує в їхніх очах і видимість кольору змінюється на кілька секунд.

Типи датчиків камери часто бувають пристроїми із зарядовим зв’язком (ПЗЗ) або комплементарними металооксидними напівпровідниками (CMOS). Перший тип захоплює весь кадр зображення, оскільки експонує всі пікселі одночасно, але CMOS — це інша гра, оскільки він використовує електронний затвор, який захоплює зображення рядок за рядком. Візьмемо як приклад традиційний домашній комп’ютерний принтер, який друкує рядками для формування зображення.

Але недоліком є ​​те, що лінії зображення CMOS захоплюються в різний час для формування кадру, тому швидке введення мінливого світла може спотворити зображення, створюючи різні колірні відтінки в сенсорі.

Але причиною їх широкого застосування в усіх типах камер, у тому числі в транспортних засобах, є те, що вони менш дорогі та забезпечують хороший баланс між якістю зображення та вартістю. Tesla та деякі інші виробники автомобілів також використовують камери CMOS у своїх автомобілях.

Результати дослідження

Джерело: Github.

У недавньому дослідженні дослідники визначили вищеописаний процес як потенційний фактор ризику для самокерованих автомобілів, оскільки зловмисники можуть керувати джерелом вхідного світла, щоб створювати різнокольорові смуги на захопленому зображенні, щоб неправильно інтерпретувати систему комп’ютерного зору для зображення.

Дослідники створили мерехтливе освітлення за допомогою світлодіодів (світлодіодів) і спробували ввести в оману класифікацію зображення в зоні під ударом, а об’єктив камери створював кольорові смуги, які порушували виявлення об’єкта, коли в об’єктив потрапляв лазер.

У той час як попередні дослідження обмежувалися тестами з одним кадром і дослідники не намагалися створити послідовність кадрів для імітації безперервної стабільної атаки в контрольованому середовищі, поточне дослідження було спрямоване на моделювання стабільної атаки, яка показала наслідки для безпеки сервера для автономних транспортних засобів.

У безпосередній близькості від дорожнього знака було включено світлодіод, який проектував контрольоване коливаюче світло на знак. Частота коливань не помітна людському оку, тому вона непомітна для нас, і світлодіод здається нешкідливим освітлювальним приладом. Але на камері результат виявився зовсім іншим, оскільки на ньому з’явилися кольорові смуги, щоб неправильно оцінити розпізнавання дорожніх знаків.

Але щоб атака повністю ввела в оману систему самостійного керування та прийняла неправильні рішення, результати повинні бути однаковими для кількох послідовних кадрів, тому що якщо атака нестабільна, система може виявити несправності та поставити транспортний засіб у відмову. безпечний режим, наприклад перехід на ручне водіння.