数字人的最大“隐忧”！半年诈骗2亿，Deepfake骗

数字人，是构成元宇宙的要素之一。随着AI、面部识别以及3D建模和动作/表情捕捉相关技术的发展，近两年，虚拟数字人以各种身份形象出现在我们的视野中。然而当Avatar与真人越来越接近，不只看起来像，连表情、声音都能和真人一摸一样，那未来这些技术被用来作恶的风险也将大大提升。

前段时间，凭一言之力左右币圈的狗狗币之父马斯克以新身份“币圈慈善家”的形象在Youtube、推特发起一个送钱项目--给我你的币，我给你每天30%的回报率。

图源：网络

科技企业家变大慈善家？事出反常必有妖，做慈善这显然是不可能的。

 

“名人”诈骗层出不穷，以假乱真的DeepFake 

 

这一片段是诈骗团队利用DeepFake，也就是深伪技术换脸“导”出的一场戏。通过截取马斯克在TED采访的视频，并为其配音，为的就是推出BitVex比特币诈骗平台。（BitMex是一个正规比特币交易平台）

“绝对不是我本人！”马斯克本尊辟谣（图片：推特）

除此之外，诈骗分子还伪造了方舟投资（Ark Invest）CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。

图源：worldnews

虽然此骗局很快被拆穿，但作为币圈大粉头，马斯克也不是第一次因被假冒而下场辟谣了，从去年5月至今年年初，假冒马斯克的视频层出不穷。

去年，SpaceX诈骗案敛金超1000万美元，今年年初光是靠DeepFake技术换脸马斯克喊出“给我一个币，我给你两个”的骗局在一周内就达到24.3万美元，光是年初到现在诈骗总额高达3000万美元（约人民币2亿）。

假冒交易网站中有马斯克的换脸视频

图源：网络

比起过去单纯的利用文字、语音包这类诈骗手段，动态视频显然更具有说服力，这一桩桩假名人诈骗事件都再次把DeepFake骗局推上热搜。

 

什么是Deepfake？

 

Deepfake深伪技术指深度学习（Deep Learning）+Fake（伪造）的合成词，现在专门指基于AI的图像、音频等合成技术的应用，其中最为大众熟知的形式就是AI换脸。

Deepfake技术的发展，离不开一个于2014年提出的关键深度学习技术GAN，生成对抗网络。GAN由两个互相博弈的神经网络组成，可以简单地把这项技术理解成一种无监督，用来训练生成模型的框架。在这个自动训练框架下，加以结合其他图像深度学习模型、自动编码器等可以实现通过大量的图片对目标人脸替换。

根据目前主流说法，Deepfake技术主要分为四类：重现、替换、编辑和合成。

• 重现：对目标人物表情、身体、五官、头部等运动的图像的重新生成；
• 替换：面部转移，面部交换等；
• 编辑：通过添加、更改或删除目标身份的属性。例如，更换目标对象的衣服、胡子、年龄、体重、颜值和甚至种族、肤色；
• 合成：没有目标人物的基础上由AI创建角色。   

图源：网络

在GAN被提出的三年后，一名Reddit用户deepfakes于2017年12月发布了轰动一时的当红女演员斯嘉丽·约翰逊等的非法色情换脸视频，Deepfake一词开始被大众熟知。

同时，比起一帧一帧换脸的传统模式，2019年开始以Deepfake技术为主的开源软件FaceApp、ZAO、Github开源代码等的兴起，一经发布便在网络掀起第一轮“换脸”热潮。

至此之后，网络上开始出现大量Deepfake技术生成的换脸视频。

 

触手可及，Deepfake是把双刃剑 

 

Deepfake的开源技术、以及“傻瓜式”实时换脸软件的兴起使得极具娱乐性的一些应用，例如换脸Cosplay火爆全网。自2019年兴起的以ZAO为代表的换脸视频软件开始，Deepfake变得触手可及。根据创业公司Deeptrace的数据，从2019年10月到2020年6月，网络上的Deepfake视频的数量增加了330％。

ZAO的换脸视频，一夜之间“全民Cosplay”

图源：北美生活引擎

不仅是影视剧的制作例如换角、补拍，在对已故之人的“重现”上Deepfake技术也能大展身手。

重现爱因斯坦（图源：PARTIPOST）

在国内目前主流的各大社交媒体平台，微博、抖音、快手、B站等，也可以看到Deepfake技术无处不在。

病毒式传播，B站上的明星换脸二创视频

图源：bilibili

比起国内流行的换脸二创形式，在海外社交媒体上，扛起海外流行大旗是披着AR滤镜外衣的Deepfake应用。从哭脸滤镜到笑脸滤镜，魔性的滤镜让用户陷入“恶搞狂欢派对”。

Tiktok上超热门哭脸滤镜

图源：mashable

从个人发散到明星，这些二次创作都在一定程度上为明星、作品带来新的热度的同时，也为平台带来了更多的流量，Deepfake技术在推动娱乐文化的发展上有着非常大的优势。

除了娱乐化应用之外，在元宇宙的相关版块上，Deepfake技术也能发挥其积极价值。

目前元宇宙赛道中，除硬件、软件之外，还有一条热门赛道——元宇宙原住民，虚拟人，虚拟主播、虚拟偶像、虚拟主持人、虚拟记者等各色职业的虚拟人层出不穷。

今年新任的韩国总统尹锡悦使用Deepfake创建虚拟形象AI Yoon在网络走红

图源：SCMP

Deepfake的技术特点正好符合创造虚拟人、虚拟化身的要点。Deepfake技术在GAN的加持下，可以对虚拟人的面部运动进行进一步优化，并且基于图像深度学习模型使得Deepfake技术拥有大量面部信息，这对优化未来虚拟化身而言无疑提供了大量的学习范本。

但在这项技术变得越来越普及且越来越难辨真假的同时，人们对Deepfake技术的担忧也越来越多。根据2021年的韩国成均馆大学的研究论文，Microsoft的Azure认知服务对高达78%的Deepfake视频均无法辨认。

 

Deepfake的威胁

 

除了前文提到的马斯克等名人诈骗案之外，Deepfake被用于非法谋利的案件日益增多。

• 不正当竞争：今年年初在领英上，70多家公司被曝利用Deepfake技术生成的虚拟人物作虚假销售账户，以此扩展业务同时减少在雇用人员上的支出；
• 诈骗：犯罪分子通过Deepfake技术伪造母公司负责人声音导致英国新能源公司的CEO被诈骗超20万美元；
• 造假：国外选举期间，网络上出现大量“政治视频”，其中许多利用Deepfake技术发表政治声明，从而动摇、影响选举局面等。

假特朗普呼吁采取行动应对气候变化，说服人们在请愿书签字。虽然很假，但上当者颇多

图源：InfoQ

• 报复：不仅是个人，对于企业以及明星而言，Deepfake影片成为新兴的报复性工具，Deepfake编造的不实消息，让人们的肖像权、名誉权等权益受到危害。例如，Deepfake 色情影片也已经被用来勒索女性记者和新闻工作者，印度记者 Rana Ayyub曾经曝光过被Deepfake视频勒索的行为。

某马来西亚政治家因一段涉嫌从事同性恋活动的影片而被判入狱，但后来证实影片为Deepfake伪造......诸如此类的故事正在不断上演。

Tiktok上的假阿汤哥

图源：Tiktok

去年，德国媒体Mixed曾发表过一篇文章，关于创建一个Deepfake视频需要多长时间。根据作者的实验，他使用DeepFaceLab开源软件进行测试，从提取视频中的人脸照片到验证人脸（大约650张照片），再到约17个小时的AI训练，将钢铁侠小罗伯特唐尼与马斯克进行换脸。

图源：Mixed

虽然换脸效果相对较粗糙，但作为一个非专业人士在没有专业工具，庞大的数据集和预训练模型的基础下，在几天时间内制造出上述程度的Deepfake视频意味着如今人工智能进化的脚步使得Deepfake技术变得更加容易。除了自己摸索之外，更是有卖家在某二手交易平台出售相关技术、教程等，Deepfake技术的门槛一降再降。

图源：燃财经

即使有些Deepfake视频并没有出神入化到足以令人信服的地步，但想象一下，在Deepfake技术的升级，以及如今信息泄露的情况，如果不法分子利用你身边人的照片，从而导演出一场无限逼真的戏，那会有多可怕？

因此为了解决不断升级的Deepfake技术带来的隐私和安全问题，软件、平台和政策都在积极地采取措施。

从2019年开始，各国、各平台便开始针对Deepfake出台一些新的保障政策:

• 今年6月，Google 修改平台政策，禁止开发者使用其 Colaboratory 平台的服务进行 Deepfake 项目的研究；
• 2020年，Meta全面禁止 deepfake 类视频的传播；
• 2020年，国内印发的《法治社会建设实施纲要（2020 - 2025年）》进一步要求，对深度伪造等新技术应用，制定和完善规范管理办法；
• 美国2019年正式签署生效的2020财年国防批准法当中包含了和 deepfake 相关的条文。
• ......

不过即使是在政策加持下，Deepfake伪造视频就像是打地鼠一般，平台的监管往往赶不上生成视频的速度，为此Meta、微软、谷歌等科技公司都开始使用“魔法打败魔法”策略，着手开发监测Deepfake技术的内容模型。

但这场AI之间的攻防战，同时会使Deepfake技术再次升级，根据数据表示，Deepfake技术的检测仍然具有3%的错误率。在海量的生成视频中，3%也将造成大量的伪造视频的传播。未来的Deepfake将迎来更多的挑战，如何保障Deepfake技术的合理运用的道路还需要更多的探索。