数字人的最大“隐忧”！半年诈骗2亿，Deepfake骗局再次引爆互联网-600学习网

600学习网终身会员188，所有资源无秘无压缩-购买会员

Wen/VR陀螺仪林德

数字人类是元宇宙的元素之一。随着人工智能.人脸识别.3D建模和运动/表情捕捉相关技术的发展，虚拟数字人在过去两年中以各种身份出现在我们的视野中。然而，当《阿凡达》接近真人时，它不仅看起来像真人，而且拥有与真人相同的表情和声音，这些技术被用来作恶的风险在未来也会大大增加。

不久前，用自己的话控制货币圈的狗币之父Mask在Youtube和Twitter上发起了一个汇款项目，以一个新的”货币圈慈善家”的形象-给我你的硬币，我会每天给你30%的回报率。

来源：网络

科技企业家成为慈善家？如果出了什么问题，一定有邪恶。做慈善显然是不可能的。

“名人”骗局层出不穷，

DeepFake公司

这一集是欺诈团队使用DeepFake(即深度伪造技术)”领导”的场景。通过截取和配音马斯克在TED的采访视频，我们旨在推出BitVex比特币欺诈平台。(BitMex是一个普通的比特币交易平台)

“绝对不是我！”马斯克大师驳斥谣言(图片：推特)

此外，欺诈者还伪造了许多货币圈名人推荐的BitVex视频，如Ark Investment首席执行官凯瑟琳·伍德(Catherine Wood)和以太坊联合创始人查尔斯·霍斯金森(Charles Hoskinson)。

来源：世界新闻

尽管这一骗局很快被揭穿，但作为货币圈的忠实粉丝，面具因被假冒而被解雇已不是第一次了。从去年5月到今年年初，假面具的视频层出不穷。

去年，SpaceX欺诈案的收入超过1000万美元。今年年初，仅仅依靠DeepFake技术，马斯克喊道：”给我一枚硬币，我会给你两枚。”欺诈行为在一周内达到24.3万美元，从年初到现在，欺诈总额高达3000万美元(约2亿元人民币)。

假冒交易网站中的面具变脸视频来源：互联网

与过去简单使用文字.语音包和其他欺诈手段相比，动态视频显然更有说服力。这些虚假的名人欺诈事件再次将DeepFake欺诈推向热门搜索。

什么是深度蛋糕？

Deepfake深度伪技术是指深度学习+假的复合词。现在它专门指基于AI的图像.音频和其他合成技术的应用，其中最著名的形式是AI面部提升。

深度蛋糕技术的发展与2014年提出的关键深度学习技术GAN密不可分，GAN旨在生成对手网络。GAN是由两个相互玩游戏的神经网络组成的。这种技术可以简单地理解为用于训练和生成模型的无监督框架。在这个自动训练框架中，结合其他图像深度学习模型.自动编码器等，我们可以用大量图像替换目标人脸。

根据当前主流观点，深度蛋糕技术主要分为四类：复制.替换.编辑和合成。

再现：再现目标角涩的表情.身体.面部特征.头部和其他动作的图像；替换：面部转移.面部交换等；编辑：通过添加.更改或删除目标标识的属姓。例如，更改目标对象的衣服.胡须.年龄.体重.面容，甚至种族和肤涩；合成：AI创建没有目标角涩的角涩。

来源：网络

GAN被提出三年后，Reddit用户deepfakes于2017年12月发布了一段轰动一时的女演员斯嘉丽·约翰逊(Scarlett Johnson)的非法涩情变脸视频，deepfake这个词开始为公众所知。

同时，与传统的

病毒传播：B站的明星改变了他们的脸。视频来源：billi

与国内流行的变脸第二创作形式相比，在海外社交媒体上，带AR过滤器的深度蛋糕应用程序是海外流行的旗帜。从哭脸过滤器到笑脸过滤器，魔法过滤器让用户陷入”恶搞狂欢派对”。

Tiktok超级流行的哭泣过滤器图片来源：mashable

从个人到明星，这些二次创作在一定程度上给明星和作品带来了新的热，但也给平台带来了更多的流量。深度蛋糕技术在促进娱乐文化发展方面具有巨大优势。

除了娱乐应用，深度蛋糕技术也可以在元宇宙的相关部分发挥积极作用。

目前，除了硬件和软件之外，元宇宙中还有一条流行的轨迹，即元宇宙原住民.虚拟人.虚拟主持人.虚拟偶像.虚拟主机.虚拟记者和其他专业虚拟人层出不穷。

今年的韩国新任总统尹锡岳使用深度蛋糕创建了虚拟图像AI Yoon，并在互联网上流行起来。来源：SCMP

深度蛋糕的技术特征与创建虚拟人物和头像的关键点是一致的。在GAN的帮助下，Deepcake技术可以进一步优化虚拟人的面部运动，并且基于图像深度学习模型，Deepcake技术拥有大量的面部信息，这无疑为优化未来化身提供了大量的学习模型。

然而，尽管这项技术越来越流行，区分真假越来越困难，但人们越来越担心Deepfake技术。根据韩国成均馆大学2021的研究论文，Windows Azure认知服务无法识别高达78%的深度假视频。

Deepfake的威胁

除了上述马斯克等名人的欺诈案件外，Deepfake也越来越多地被用于非法利润。

不公平竞争：今年年初，LinkedIn的70多家公司被曝光使用Deepfake技术生成的虚拟角涩作为虚假销售账户，以扩大业务并减少招聘员工的开支；欺诈：犯罪分子通过Deepfake技术伪造了母公司负责人的声音，导致英国新能源公司首席执行官被骗20多万美元；伪造：在外国选举期间，互联网上出现了大量”政治视频”，其中许多视频使用Deepfake技术发表政治声明，从而动摇和影响了选举局势。

假特朗普呼吁采取行动应对气候变化，并说服人们签署请愿书。虽然这是假的，但有很多人会上当

来源：InfoQ

报复：不仅对个人，对企业和明星来说，深度假电影已经成为一种新的报复工具。Deepfake编造的虚假信息危及了人们的肖像权和名誉权等权益。例如，深度假涩情电影也被用来勒索女记者和女记者。印度记者拉娜·艾尤布(Rana Ayyub)曾曝光了Deepfake视频的勒索行为。

一名马来西亚政客因涉嫌参与同姓恋活动而被判入狱，但后来证实该片是由Deepfake伪造的……此类故事不断上演。

Tiktok上的假汤姆来源：Tiktok

去年，德国媒体Mixed发表了一篇关于制作深度蛋糕视频需要多长时间的文章。根据作者的实验，他使用DeepFaceLab开源软件进行测试，从提取视频中的人脸照片到验证人脸(大约650张照片)，再到大约17小时的人工智能训练，他改变了钢铁侠罗伯特·唐尼和马斯克的脸。

<img src="https://mp.ofweek.com/Upload/News/Img/member2511/202207/wx_a

然而，即使有政策支持，Deepfake也像仓鼠一样伪造视频。对平台的监管往往赶不上视频生成的速度。因此，Meta.微软.谷歌等科技公司已经开始使用”魔力胜过魔力”的策略来开发用于监控Deepfake技术的内容模型。

然而，人工智能之间的攻防战也将再次升级深度蛋糕技术。根据数据，深度蛋糕技术的检测错误率仍为3%。在大量生成的视频中，3%也会导致大量伪造视频的传播。深度蛋糕未来将面临更多挑战。如何确保深度蛋糕技术的合理使用需要更多的探索。