自動運転車システムに対する新しいタイプの攻撃が特定され、AI に道路脇の交通標識を無視させるというものだ。この技術では、自動運転車の認識に必須のカメラベースのコンピューター ビジョンが車に搭載されていることが必須で、この攻撃では、発光ダイオードを使ったカメラのローリング シャッターを利用して車の AI システムを誤導する。
自動運転システムは危険にさらされる可能性がある
CMOS カメラは、高速で点滅するダイオードから放出される急速に変化する光を利用して色の認識を変えることができるため、自動車で最も多く使用されているカメラです。
これは、光が目の前で急速に点滅し、色の見え方が数秒間変化したときに人間が感じるのと同じ効果です。
カメラのセンサーの種類は、電荷結合素子 (CCD) または相補型金属酸化膜半導体 (CMOS) であることが多いです。前者はすべてのピクセルを一度に露光して画像フレーム全体をキャプチャしますが、CMOS は電子シャッターを使用して画像を 1 行ずつキャプチャするため、状況が異なります。画像を形成するために行ごとに印刷する従来の家庭用コンピューター プリンターを例に挙げてみましょう。
しかし欠点は、CMOS 画像ラインが異なる時間にキャプチャされてフレームが形成されるため、変化する光が急速に入力されると、センサーに異なる色合いが生成され、画像が歪む可能性があることです。
しかし、車載カメラを含むあらゆるタイプのカメラに広く採用されている理由は、コストが低く、画質とコストのバランスが優れているためです。テスラや他の自動車メーカーも、自社の車両に CMOS カメラを使用しています。
研究結果
出典: Github.
最近の研究では、研究者らは、攻撃者が入力光源を制御して、撮影した画像に異なる色の縞模様を生成し、コンピュータービジョンシステムによる画像の解釈を誤らせることができるため、上記のプロセスが自動運転車の潜在的なリスク要因であることを確認しました。
研究者らは発光ダイオード（LED）を使用して明滅する光の環境を作り出し、攻撃を受けているエリアでの画像分類を誤らせようとした。また、カメラのレンズは、レンズ内でレーザーが発射されたときに物体の検出を妨害する色の縞模様を作り出した。
これまでの研究は単一フレームのテストに限られており、研究者は制御された環境で継続的な安定した攻撃をシミュレートするために一連のフレームを作成するまでには至っていなかったが、今回の研究は、自動運転車のサーバーセキュリティへの影響を示す安定した攻撃をシミュレートすることを目的としていた。
交通標識の近くで LED が点灯され、制御された変動する光が標識に投影されました。変動する周波数は人間の目には見えないため、目に見えず、LED は無害な照明装置のように見えます。しかし、カメラで見ると結果はまったく異なり、色の縞模様が現れて交通標識の認識を誤認させました。
しかし、攻撃が自動運転システムを完全に誤誘導し、誤った判断を下すためには、連続する複数のフレームにわたって結果が同じである必要があります。攻撃が安定していないと、システムが故障を識別し、車両をフェイルセーフ モードにして手動運転に切り替える可能性があるためです。