Обнаружен новый тип атаки на системы беспилотных автомобилей, который заставляет ИИ игнорировать дорожные знаки на обочинах дорог. Технология требует, чтобы автомобиль имел компьютерное зрение на основе камеры, поскольку это основное требование для восприятия беспилотных транспортных средств, а атака включает в себя использование роллетного затвора камеры со светодиодом, чтобы ввести в заблуждение систему искусственного интеллекта автомобиля.

Беспилотные системы могут оказаться под угрозой

Быстро меняющийся свет, излучаемый быстро мигающими диодами, можно использовать для изменения восприятия цвета благодаря принципу работы CMOS-камер, а они являются наиболее часто используемыми камерами в автомобилях.

Это тот же эффект, который испытывают люди, когда свет быстро мигает им в глаза и видимость цвета меняется на несколько секунд. 

Типы датчиков камер часто представляют собой устройства с зарядовой связью (ПЗС) или дополнительные металлооксидные полупроводники (КМОП). Первый тип захватывает весь кадр изображения, поскольку он экспонирует все пиксели одновременно, но CMOS — это другая игра, поскольку он использует электронный затвор, который захватывает изображение построчно. В качестве примера возьмем традиционный принтер для домашнего компьютера, который печатает построчно, формируя изображение.

Но недостатком является то, что линии изображения CMOS захватываются в разное время, чтобы сформировать кадр, поэтому быстрый вход изменяющегося света может исказить изображение, создавая разные цветовые оттенки на матрице. 

Но причина их широкого распространения во всех типах камер, в том числе в транспортных средствах, заключается в том, что они менее дороги и обеспечивают хороший баланс между качеством изображения и стоимостью. Tesla и некоторые другие производители автомобилей также используют CMOS-камеры в своих автомобилях.

Результаты исследования

Источник: Гитхаб.

В недавнем исследовании исследователи определили вышеописанный процесс как потенциальный фактор риска для беспилотных автомобилей, поскольку злоумышленники могут контролировать источник входного света, создавая полосы разного цвета на захваченном изображении, чтобы ввести в заблуждение интерпретацию системы компьютерного зрения для Изображение.

Исследователи создали мерцающую световую среду с помощью светодиодов (LED) и попытались ввести в заблуждение классификацию изображения в зоне атаки, а объектив камеры создавал цветные полосы, которые нарушали обнаружение объектов при попадании в объектив лазера. 

В то время как предыдущие исследования ограничивались однокадровыми тестами и исследователи не вдавались в подробности создания последовательности кадров для имитации непрерывной стабильной атаки в контролируемой среде, текущее исследование было направлено на моделирование стабильной атаки, которая показала последствия для безопасности сервера. для автономных транспортных средств.

В непосредственной близости от дорожного знака был запущен светодиод, который проецировал на знак контролируемый, колеблющийся свет. Колеблющаяся частота не видна человеческому глазу, поэтому она невидима для нас, а светодиод кажется безобидным осветительным прибором. Но на камере результат был совсем иным, поскольку в ней были добавлены цветные полосы, которые мешали распознаванию дорожных знаков.

Но для того, чтобы атака полностью сбила с толку систему беспилотного вождения и приняла неправильные решения, результаты должны быть одинаковыми на протяжении ряда последовательных кадров, потому что, если атака нестабильна, система может выявить неисправности и вывести транспортное средство из строя. безопасный режим, например переключение на ручное вождение.