研究人員發現了一種針對自動駕駛汽車系統的新型攻擊，這種攻擊會迫使人工智能忽略路邊的交通標誌。該技術要求汽車具有基於攝像頭的計算機視覺功能，因爲這是自動駕駛汽車感知的基本要求，而這種攻擊利用帶有發光二極管的攝像頭的滾動快門來誤導車輛的人工智能系統。
自動駕駛系統可能面臨風險
由於 CMOS 攝像機的工作方式，快速閃爍二極管發出的快速變化的光可用於改變顏色感知，它們是汽車上使用最多的攝像機。
這與人類在眼睛快速閃爍並且顏色可見度在幾秒鐘內發生變化時感受到的效果相同。
相機傳感器類型通常爲電荷耦合器件 (CCD) 或互補金屬氧化物半導體 (CMOS)。前者會一次性曝光所有像素，從而捕捉整個畫面，但 CMOS 則不同，因爲它使用電子快門逐行捕捉圖像。以傳統家用電腦打印機爲例，它逐行打印以形成圖像。
但缺點是 CMOS 圖像線是在不同時間捕獲以形成一幀的，因此快速輸入的變化光會在傳感器中產生不同的色調，從而使圖像失真。
但它們之所以被廣泛用於各種類型的攝像頭（包括車載攝像頭），是因爲它們成本較低，並且在圖像質量和成本之間實現了良好的平衡。特斯拉和其他一些汽車製造商也在車輛中使用 CMOS 攝像頭。
研究結果
來源：Github。
在最近的一項研究中，研究人員將上述過程確定爲自動駕駛汽車的潛在風險因素，因爲攻擊者可以控制輸入光源，在捕獲的圖像上產生不同顏色的條紋，從而誤導計算機視覺系統對圖像的解釋。
研究人員利用發光二極管（LED）創造了一種閃爍的光環境，並試圖誤導受攻擊區域的圖像分類，而當激光射入鏡頭時，相機鏡頭會產生彩色條紋，干擾物體檢測。
雖然之前的研究僅限於單幀測試，研究人員並沒有費盡心思創建一系列幀來模擬受控環境中的連續穩定攻擊，但當前的研究旨在模擬穩定的攻擊，以顯示服務器對自動駕駛汽車的安全影響。
在交通標誌附近發射 LED，在標誌上投射出受控的波動光。波動頻率是人眼無法看到的，因此對我們來說是不可見的，LED 看起來像是一種無害的照明設備。但在相機上，結果卻大不相同，因爲它引入了彩色條紋，導致誤判交通標誌識別。
但是，要使攻擊完全誤導自動駕駛系統並做出錯誤的決策，結果在多個連續幀中應該是相同的，因爲如果攻擊不穩定，系統可能會識別故障並使車輛處於故障安全模式，例如切換到手動駕駛。