希腊神话中,普罗米修斯帮人类盗来了天火,从此人类吃上了熟食、在夜里也拥有了光明。真实的历史中,原始人类掌握了火的使用方法,使之成为一种技术。
然而,火不仅可以带来便利,还可以带来灾难。从技术诞生的那一刻起,创造技术的力量和控制技术的力量,就存在不对等。
而这种不对等,被犹太哲学家京特·安德斯称之为“普罗米修斯差异”。
京特·安德斯与汉娜·阿伦特
当今时代,“普罗米修斯差异”也正在AI这项技术上显现。一方面,AI正深入各个行业场景,替代人类的重复劳动,帮助人类降本增效。另一方面,它带来的种种安全风险也随之显现,其中最为严峻的当属DeepFake,中文意为“深度伪造”,俗称“AI换脸术”。
深度伪造自2017年“横空出世”,就被用于生成虚假色情视频、电信诈骗、政治抹黑等违法犯罪活动,且造成实质危害。
今年2月,浙江温州的陈先生被伪装成他好友的诈骗分子利用深伪视频诈骗49200元。
前不久,“马斯克”突然以新身份“币圈慈善家”的形象在Youtube、推特公开宣传一个送钱项目——给我你的币,我给你每天30%的回报率。这一片段是诈骗团队利用DeepFake,也就是深伪换脸“导”出的一场戏。这个骗局一周内就敛财24.3万美元,从年初至目前的诈骗总额已高达3000万美元。
“绝对不是我本人!”马斯克本尊辟谣该片段为伪造
可怕的是,随着AI技术的快速发展,深伪视频的动作逼真度、自然度,以及视频整体的清晰度、流畅度都得到大幅提升,肉眼已很难识别真假。
怎么办?
AI的问题,还得用AI解决!
日前,AISC首届人工智能安全大赛正式启动,并针对“深度伪造”这一前沿领域面向国内外高校、科研机构及企业设置专题赛道,力争以赛促用,为打击基于黑产、违法犯罪活动提供助力。
本次大赛的深度伪造赛题,通过分析伪造音视频的相似性来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件。简单来说,就是给参赛选手一个深度伪造视频,以及一个包含很多深度伪造视频的视频库,再让他们通过分析赛题视频的生成方法,在视频库中筛选出与之使用同一方法生成的视频。
这一赛题对解决现实世界安全问题具有双重意义:一方面,可以精准打击黑产,以便第一时间识别拦截同类伪造视频,降低其破坏力;另一方面,也为视频真伪鉴定提供可靠的证据支持。
DeepFake未来究竟是行走在阳光下,还是被推入“科技巫学”的深渊,这场正义与邪恶的较量,“白帽黑客”的巅峰之战,只等你来!