近几年,自动驾驶目前已成为汽车产业乃至整个科技行业中最引人注目、令人激动的技术之一。从1886年世界上第一辆汽车诞生以来,汽车产业已经发展了100多年,而自动驾驶无疑给这一成熟产业带来了重大变革。
自动驾驶集成囊括了众多不同要素的技术,计算机视觉就是其中至关重要的技术,担当着“眼睛”的角色。特斯拉就曾于2021年宣布,其新车将完全依赖计算机视觉,而非行业普遍采用的多传感融合方案。该公司前人工智能和自动驾驶视觉负责人安德烈·卡帕西甚至表示,深度学习系统“比雷达好100倍”。
尽管产业界信心满怀,并屡屡高呼“自动驾驶比人类驾驶更安全”,但也不难看到,自动驾驶事故接二连三发生已是常态,关于其安全性的辩论也经久不息。
上月,就有一辆处于自动驾驶模式下的Model 3,在美国犹他州追尾了一台摩托车,致使摩托车手当场身亡。据报道,这起事故发生在凌晨1点之后的15号州际公路上,34岁的摩托车手正向南行驶,特斯拉从后方接近并径直将其撞倒在地。原因是自动驾驶系统和司机均未能及时发现道路前方的摩托车。
事故现场:被特斯拉撞击后,模特车手当场殒命
足以可见,计算机视觉系统并非100%安全,和人类一样也会犯错。尤其是在恶劣天气、强日光照射、夜间等极端场景中,自动驾驶车辆极易发生误判。
更需警惕的是,计算机视觉当前所高度依赖的深度学习算法,本身具有黑盒性和不可解释性,人们很难理解算法最终决策的细节和逻辑,这就导致了开发者、使用者都不可预知地受攻击或误导。
也就是说,攻击者可以利用对抗样本等算法漏洞的存在,通过修改道路车辆等目标物的颜色、纹理特征,就能够使车辆的目标检测模型失效。这一当前计算机视觉深度学习算法的先天缺陷,在驾驶的场景中无疑将会成为“致命的风险”。
此前,瑞莱智慧RealAI团队就进行了一次实验,通过张贴对抗样本补丁,就能使目标检测算法识别出错,成为无法识别出车辆的“睁眼瞎”。
通过张贴对抗样本补丁(中间车辆),使检测模型变成“睁眼瞎”
为推动自动驾驶安全稳健发展,中关村实验室、国家工业信息安全发展研究中心、清华大学人工智能研究院,特联合RealAI,共同主办了2022人工智能安全大赛。该大赛共设置三大赛题,自动驾驶安全竞赛正是其中之一,目前比赛正在报名及线上初赛阶段(截止时间为2022年8月31日),奖金池超过80000元人民币。
本赛题模拟自动驾驶场景下的对抗攻击,提供线上仿真自动驾驶环境,选手通过提交对抗补丁,对主流自动驾驶目标检测模型进行攻击测试,最终根据攻击成功率进行排名。中关村论坛期间,该赛题还将举办基于实车的决赛,通过真实环境中的实战对抗,促进对自动驾驶安全性的研究。