自动驾驶集成囊括了众多不同要素的技术，计算机视觉就是其中至关重要的技术，担当着“眼睛”的角色。特斯拉就曾于2021年宣布，其新车将完全依赖计算机视觉，而非行业普遍采用的多传感融合方案。该公司前人工智能和自动驾驶视觉负责人安德烈·卡帕西甚至表示，深度学习系统“比雷达好100倍”。

尽管产业界信心满怀，并屡屡高呼“自动驾驶比人类驾驶更安全”，但也不难看到，自动驾驶事故接二连三发生已是常态，关于其安全性的辩论也经久不息。

上月，就有一辆处于自动驾驶模式下的Model 3，在美国犹他州追尾了一台摩托车，致使摩托车手当场身亡。据报道，这起事故发生在凌晨1点之后的15号州际公路上，34岁的摩托车手正向南行驶，特斯拉从后方接近并径直将其撞倒在地。原因是自动驾驶系统和司机均未能及时发现道路前方的摩托车。

事故现场：被特斯拉撞击后，模特车手当场殒命

足以可见，计算机视觉系统并非100%安全，和人类一样也会犯错。尤其是在恶劣天气、强日光照射、夜间等极端场景中，自动驾驶车辆极易发生误判。

更需警惕的是，计算机视觉当前所高度依赖的深度学习算法，本身具有黑盒性和不可解释性，人们很难理解算法最终决策的细节和逻辑，这就导致了开发者、使用者都不可预知地受攻击或误导。

也就是说，攻击者可以利用对抗样本等算法漏洞的存在，通过修改道路车辆等目标物的颜色、纹理特征，就能够使车辆的目标检测模型失效。这一当前计算机视觉深度学习算法的先天缺陷，在驾驶的场景中无疑将会成为“致命的风险”。

此前，瑞莱智慧RealAI团队就进行了一次实验，通过张贴对抗样本补丁，就能使目标检测算法识别出错，成为无法识别出车辆的“睁眼瞎”。

通过张贴对抗样本补丁（中间车辆），使检测模型变成“睁眼瞎”

为推动自动驾驶安全稳健发展，中关村实验室、国家工业信息安全发展研究中心、清华大学人工智能研究院，特联合RealAI，共同主办了2022人工智能安全大赛。该大赛共设置三大赛题，自动驾驶安全竞赛正是其中之一，目前比赛正在报名及线上初赛阶段（截止时间为2022年8月31日），奖金池超过80000元人民币。

本赛题模拟自动驾驶场景下的对抗攻击，提供线上仿真自动驾驶环境，选手通过提交对抗补丁，对主流自动驾驶目标检测模型进行攻击测试，最终根据攻击成功率进行排名。中关村论坛期间，该赛题还将举办基于实车的决赛，通过真实环境中的实战对抗，促进对自动驾驶安全性的研究。