自动驾驶技术一经问世就备受瞩目，科幻电影中的出行场景上演在现实生活中，似乎是指日可待……
然而事与愿违，由自动驾驶引发的道路安全事故屡屡发生，各品牌车辆轮番上演“车祸惊魂”，鲜活生命的陨落一次次向自动驾驶的安全提出质疑。
但自动驾驶厂商试图力挽狂澜，极力鼓吹“自动驾驶安全性远超人工驾驶”，甚至有疯狂粉丝不惜以自己的亲女儿作为实验品进行测试……
图片来源网络
自动驾驶是否安全可控，这一技术真正商业应用是否可以提上日程？
答案并非单一的是与不是。
众所周知，自动驾驶技术当中很重要的部分就是感知系统，它相当于汽车的眼睛。自动驾驶感知系统通常由相机、激光雷达等感知模块构成，经决策系统形成判断。
和人眼一样，汽车的感知也会出错。例如，在恶劣天气、强日光照射等极端场景中，计算机视觉这双“眼睛”就有可能会短暂失明，使决策系统出错。更为严峻的是，计算机视觉当前所高度依赖的深度学习算法，本身就具有黑盒性和不可解释性，人们很难理解算法最终决策的细节和逻辑，这就导致了自动驾驶的开发者、使用者都有可能受到不可预知的攻击。
早在2021年的世界机器人大会上，中国科学院院士、清华大学人工智能研究院名誉院长、瑞莱智慧RealAI首席科学家张钹就对此发表过看法：“视觉是不可靠的，最大的问题就是如果这个系统有人的话就会变成非常复杂的系统。”张钹院士指出，从实际交通情况考虑，驾驶员和行人都有可能破坏交通规则，而且还会出现更多更复杂的情况，这样计算机视觉是很难判断和处理的。
图片来源网络
那自动驾驶是否会夭折，复杂环境导致的安全问题该如何解决？
张钹院士认为，解决自动驾驶目前的问题其实也并不难，需要付出更多的技术和耐心。他指出，人工智能里面有与环境交互的学习，如果车辆行驶几十迈就会积累大量的经验，也就会暴露很多计算机看不到的错误的地方，加上原有的知识补充，实现完全自动驾驶还是可以做到的。
“我想给大家传达的就是这条信息，机器人往前发展的时候，人工智能会在某个地方和你有交集，我们可以和人工智能共同合作研究做到这一点。”张钹院士说。
基于对自动驾驶以及人工智能安全的探究，让更多AI安全的问题得以暴露和修缮，AISC人工智能安全大赛正在进行，赛题设置深度伪造安全竞赛、自动驾驶安全竞赛、人脸识别安全竞赛三个前沿科技赛题，用AI对抗AI的方式，解决主流AI技术面临的安全威胁。
No.1 深度伪造安全竞赛
模拟互联网上深度伪造视频传播的场景，选手通过提交针对伪造方法的溯源算法，对相同生成方法的深度伪造视频进行识别。这一技术将有效检测出音视频等内容是否为真，减少利用DeepFake技术而生成的诈骗、虚假新闻等情况的发生。
No.2 自动驾驶安全竞赛
模拟自动驾驶场景下的对抗攻击，提供线上仿真自动驾驶环境，选手通过提交对抗补丁，对主流自动驾驶目标检测模型进行攻击测试，以提升自动驾驶的安全意识，帮助自动驾驶在迭代中逐渐提升安全性。
No.3 人脸识别安全竞赛
赛题将通过对对抗样本的攻击而提升人脸识别的安全性。模拟人脸比对场景下的对抗攻击，在模型详细信息未知的黑盒场景下，选手提交对抗补丁对模型进行攻击测试，最终根据攻击成功率进行排名。
本次大赛作为国内首场以人工智能安全为主题的赛事，将邀请5位院士强势坐镇，20余位专家担任大赛组委会主席，致力于打造人工智能安全领域高水平的竞技交流平台，帮助AI安全向好向善。
目前，大赛已吸引国内外各高等院校、科研院所、科技企业等300多支优秀队伍报名参赛，单赛道前十名的队伍将入围决赛，获得大赛颁发的认证证书，还将进京参加现场决赛，角逐总计20余万人民币的奖金池。
大赛报名时间截至8月31日，距离大赛报名截止仅剩7天时间。这场用AI对抗AI的竞技场，“白帽黑客”的巅峰对决，未来科技的探索之战，期待与你同行！
