研究人员发现了一种针对自动驾驶汽车系统的新型攻击，这种攻击会迫使人工智能忽略路边的交通标志。该技术要求汽车具有基于摄像头的计算机视觉功能，因为这是自动驾驶汽车感知的基本要求，而这种攻击利用带有发光二极管的摄像头的滚动快门来误导车辆的人工智能系统。

自动驾驶系统可能面临风险

由于 CMOS 摄像机的工作方式，快速闪烁二极管发出的快速变化的光可用于改变颜色感知，它们是汽车上使用最多的摄像机。

这与人类在眼睛快速闪烁并且颜色可见度在几秒钟内发生变化时感受到的效果相同。

相机传感器类型通常为电荷耦合器件 (CCD) 或互补金属氧化物半导体 (CMOS)。前者会一次性曝光所有像素，从而捕捉整个画面，但 CMOS 则不同，因为它使用电子快门逐行捕捉图像。以传统家用电脑打印机为例，它逐行打印以形成图像。

但缺点是 CMOS 图像线是在不同时间捕获以形成一帧的，因此快速输入的变化光会在传感器中产生不同的色调，从而使图像失真。

但它们之所以被广泛用于各种类型的摄像头（包括车载摄像头），是因为它们成本较低，并且在图像质量和成本之间实现了良好的平衡。特斯拉和其他一些汽车制造商也在车辆中使用 CMOS 摄像头。

研究结果

来源：Github。

在最近的一项研究中，研究人员将上述过程确定为自动驾驶汽车的潜在风险因素，因为攻击者可以控制输入光源，在捕获的图像上产生不同颜色的条纹，从而误导计算机视觉系统对图像的解释。

研究人员利用发光二极管（LED）创造了一种闪烁的光环境，并试图误导受攻击区域的图像分类，而当激光射入镜头时，相机镜头会产生彩色条纹，干扰物体检测。

虽然之前的研究仅限于单帧测试，研究人员并没有费尽心思创建一系列帧来模拟受控环境中的连续稳定攻击，但当前的研究旨在模拟稳定的攻击，以显示服务器对自动驾驶汽车的安全影响。

在交通标志附近发射 LED，在标志上投射出受控的波动光。波动频率是人眼无法看到的，因此对我们来说是不可见的，LED 看起来像是一种无害的照明设备。但在相机上，结果却大不相同，因为它引入了彩色条纹，导致误判交通标志识别。

但是，要使攻击完全误导自动驾驶系统并做出错误的决策，结果在多个连续帧中应该是相同的，因为如果攻击不稳定，系统可能会识别故障并使车辆处于故障安全模式，例如切换到手动驾驶。