自动驾驶技术一经问世就备受瞩目,科幻电影中的出行场景上演在现实生活中,似乎是指日可待……
然而事与愿违,由自动驾驶引发的道路安全事故屡屡发生,各品牌车辆轮番上演“车祸惊魂”,鲜活生命的陨落一次次向自动驾驶的安全提出质疑。
但自动驾驶厂商试图力挽狂澜,极力鼓吹“自动驾驶安全性远超人工驾驶”,甚至有疯狂粉丝不惜以自己的亲女儿作为实验品进行测试……
图片来源网络
自动驾驶是否安全可控,这一技术真正商业应用是否可以提上日程?
答案并非单一的是与不是。
众所周知,自动驾驶技术当中很重要的部分就是感知系统,它相当于汽车的眼睛。自动驾驶感知系统通常由相机、激光雷达等感知模块构成,经决策系统形成判断。
和人眼一样,汽车的感知也会出错。例如,在恶劣天气、强日光照射等极端场景中,计算机视觉这双“眼睛”就有可能会短暂失明,使决策系统出错。更为严峻的是,计算机视觉当前所高度依赖的深度学习算法,本身就具有黑盒性和不可解释性,人们很难理解算法最终决策的细节和逻辑,这就导致了自动驾驶的开发者、使用者都有可能受到不可预知的攻击。
早在2021年的世界机器人大会上,中国科学院院士、清华大学人工智能研究院名誉院长、瑞莱智慧RealAI首席科学家张钹就对此发表过看法:“视觉是不可靠的,最大的问题就是如果这个系统有人的话就会变成非常复杂的系统。”张钹院士指出,从实际交通情况考虑,驾驶员和行人都有可能破坏交通规则,而且还会出现更多更复杂的情况,这样计算机视觉是很难判断和处理的。
图片来源网络
那自动驾驶是否会夭折,复杂环境导致的安全问题该如何解决?
张钹院士认为,解决自动驾驶目前的问题其实也并不难,需要付出更多的技术和耐心。他指出,人工智能里面有与环境交互的学习,如果车辆行驶几十迈就会积累大量的经验,也就会暴露很多计算机看不到的错误的地方,加上原有的知识补充,实现完全自动驾驶还是可以做到的。
“我想给大家传达的就是这条信息,机器人往前发展的时候,人工智能会在某个地方和你有交集,我们可以和人工智能共同合作研究做到这一点。”张钹院士说。
基于对自动驾驶以及人工智能安全的探究,让更多AI安全的问题得以暴露和修缮,AISC人工智能安全大赛正在进行,赛题设置深度伪造安全竞赛、自动驾驶安全竞赛、人脸识别安全竞赛三个前沿科技赛题,用AI对抗AI的方式,解决主流AI技术面临的安全威胁。
No.1 深度伪造安全竞赛
模拟互联网上深度伪造视频传播的场景,选手通过提交针对伪造方法的溯源算法,对相同生成方法的深度伪造视频进行识别。这一技术将有效检测出音视频等内容是否为真,减少利用DeepFake技术而生成的诈骗、虚假新闻等情况的发生。
No.2 自动驾驶安全竞赛
模拟自动驾驶场景下的对抗攻击,提供线上仿真自动驾驶环境,选手通过提交对抗补丁,对主流自动驾驶目标检测模型进行攻击测试,以提升自动驾驶的安全意识,帮助自动驾驶在迭代中逐渐提升安全性。
No.3 人脸识别安全竞赛
赛题将通过对对抗样本的攻击而提升人脸识别的安全性。模拟人脸比对场景下的对抗攻击,在模型详细信息未知的黑盒场景下,选手提交对抗补丁对模型进行攻击测试,最终根据攻击成功率进行排名。
本次大赛作为国内首场以人工智能安全为主题的赛事,将邀请5位院士强势坐镇,20余位专家担任大赛组委会主席,致力于打造人工智能安全领域高水平的竞技交流平台,帮助AI安全向好向善。
目前,大赛已吸引国内外各高等院校、科研院所、科技企业等300多支优秀队伍报名参赛,单赛道前十名的队伍将入围决赛,获得大赛颁发的认证证书,还将进京参加现场决赛,角逐总计20余万人民币的奖金池。
大赛报名时间截至8月31日,距离大赛报名截止仅剩7天时间。这场用AI对抗AI的竞技场,“白帽黑客”的巅峰对决,未来科技的探索之战,期待与你同行!