编按：你的理智知道「眼见不为凭」，但你的眼睛还是会背叛你的理智，不自觉得被眼前的影像所吸引，尽管你真的、真的知道他是假的。Youtuber 小玉於2021年底涉嫌利用 Deepfake 技术，伪造多位名人的色情影音内容并贩售的事件，既不是第一起、也不是唯一、更不会是最後一个利用「深伪技术」进行科技犯罪的事件。
当科技在走，社会和法律该如何跟上甚至超前部署呢？本次 Deepfake 专题，由泛科学和法律白话文合作，从Deepfake 技术与辨伪技术、到法律如何因应，让我们一起全方位解析Deepfake！
第一篇，让我们就 Deepfake 技术做一基础的介绍，那我们就开始罗！
什麽是 Deepfake？
深伪技术 Deepfake 於 2017 年陆续开始进入大众的目光中。原文 Deepfake 源自於英文「deep learning」（深度学习）和「fake」（伪造）组合，主要意指应用人工智慧深度学习的技术，合成某个（不一定存在的）人的图像或影片、甚至声音。最常见的应用，就是将影片中的人脸替换为另一张脸（常是名人），让指定的脸在影片中做出自己从未说过或做过的事情。
现今谈到 Deepfake，大多数人想到的可能是伪造的成人影片，就如前述 Youtuber 小玉的事件，Deepfake 一开始受到关注，主要与名人或明星的脸部影像被合成到成人影片有关，然而，Deepfake 的功能远不仅於此，相关的技术使用还包括了替换表情、合成一整张脸、合成语音等等。
除了像是让过去或现在的名人在影片中「栩栩如生」做出使用者想要的表情与动作，之前在社群媒体上曾有好几款 APP一度风靡，包括上传一张照片就可以看看「变老」「变性」自己的 FaceApp，甚至於让自己的脸在经典电影中讲上一段台词的「去演」APP，这类的功能也是应用前述 Deepfake 的技术。
虽然有些线索显示这类 APP 常有潜在的资安疑虑[注]，但好歹技术的成果多属搏君一灿自娱娱人，尚可视为无伤大雅。
而过往电影的影音产业要仿造人脸需要应用许多复杂、耗时、昂贵的电脑模拟，有了 Deepfake 相关的技术，也使得许多只能抱憾放弃的事情出现了弥补的空间。最有名的应用应是好莱坞电影《玩命关头7》与《星际大战》系列。《玩命关头7》拍摄期间主角保罗・沃克（Paul William Walker IV）意外身亡，剩下的戏份後来由弟弟担纲演出，剧组再以 Deepfake 的技术让哥哥弟弟连戏，整部电影才得以杀青上映。
Deepfake 让「变脸」变得太容易了？
想想过去的电影如《魔戒》中的咕噜、或是 2008 年布莱德・彼特主演的《班杰明的奇幻旅程》，将影片或照片中人物「换脸」「变老」的修图或 CG 技术，在 Deepfake 出世之前就已经存在了。Deepfake 受到关注的核心关键在於，应用 AI 的深度学习的演算法，加上越来越强大的电脑与手机运算能力，让「影片换脸」这件事情变得越来越随手可得、并且天衣无缝。
过往电影中采用的 CG 技术要花好几个月由专业人士进行後制，才能取得难辨真伪的影像效果，而应用了 AI 演算法，只需要一台桌上型电脑甚或是手机，上网就可以取得软体、有机会获得差强人意的结果了。
进一步，传统软体演算法主要依靠工程师的持续修改调整，而如 Deepfake 这类技术，内部的演算法会经过训练持续进化。有许多技术被应用於提高 Deepfake 的伪造效果，其中最常见的一个作法被称为「生成对抗网路（Generative Adversarial Network, GAN）」，这里面包含了两组神经网路「生成器（Generator）」和「辨识器（Discriminator）」。
在投入训练资料之後，这两组神经网路会相互学习训练，有点像是坐在主人头上的小天使与小恶魔会互相吐槽、口才越来越好、想出更好的点子；在练习的过程中，「生成器」会持续生成伪造的影像，而「辨识器」则负责评分，反覆训练下来，伪造生成的技术进步，辨识伪造的技术也得以进步。
举例来说，This Person Does Not Exist 这个网站就充满了使用 GAN 架构建构的人脸，这个网站中的人脸看上去非常真实，实际上都是 AI 制造出来的「假脸」。
Deepfake 影片不一定是问题，不知道是 Deepfake 才是问题
现今的 Deepfake 技术得以持续进步、骗过人眼是许多人努力的成果，也不见得都是坏事。像是《星际大战：侠盗一号》片尾，年轻的莱娅公主出面惊鸿一瞥，就带给许多老粉丝惊喜。这项技术应用症结在於，相关演算法轻易就能取得，除了让有心人可以藉以产制色情影片（这类影片占了Deepfake滥用的半数以上），Deepfake 制造的影片在人们不知情的情况下，很有可能成为虚假讯息的载体、心理战的武器，甚至於影响选战与舆情。
因此，Deepfake 弄假似真不是问题，阅听者因此「不辨真假」才将是最大的问题所在。
相关的研究人员归纳了几个这类「变脸」影片常见的特徵，可以用来初步辨识眼前的影片是不是伪造的。
首先，由於 AI 尚无法非常细致的处理一些动作细节，因此其眨眼、视线变化或脸部抽蓄的动作会较不自然。其次，通常在边缘处，如发丝、脸的边缘线、耳环等区域会出现不连贯的状况。最後，在一些结构细节会出现不合理的阴影瑕疵，像是嘴角的角度位置等。
由於现阶段的 Deepfake 通常需要大量的训练资料（影像或影片）才能达到理想的伪造成果，因此会遭到「换脸」的受害者，主要集中在影像资源丰富的名人，如电影明星、Youtuber、政治人物等。需要注意的是，如果有人意图使用 Deepfake 技术制造假消息，其所制造的影片不见得需要非常完美，有可能反而降低解析度、非常粗糙，一般人如用手机浏览往往难辨真假。
人眼已经难辨真假，那麽以子之矛攻彼之盾，以 AI 技术辨识找出 Deepfake 的成品，有没有机会呢？随着 Deepfake 逐渐成为热门的议题，有许多团队也开始试图藉由深度学习技术，辨识伪造影像。2020 年脸书与微软开始举办的「换脸侦测大赛」（Deepfake Detection Challenge）就提供高额奖金，徵求能够辨识造假影片的技术。然而成果只能说是差强人意，面对从未接触过的影片，第一名辨识的准确率仅为 65.18%。
对於 Deepfake 可能遭到的滥用，某部分我们可以寄望技术的发展未来终将「道高一尺」，让社群平台上的影像不致於毫无遮拦、照单全收；然而技术持续「魔高一丈」让防范的科技追着跑，也是显而易见的。
社群网路 FB 在 2020 年宣布全面禁止 Deepfake 产生的影片，一旦有确认者立即删除，twitter 则强制注记影片为造假影片。Deepfake 仅仅是未来面对 AI 浪潮，科技社会所需要应对的其中一项议题，法律、社会规范如何跟上？如何解决个中的着作权与伦理问题？这些都将是需要经过层层讨论与验证的重要课题。
至少大家应该心知肚明，过往的网路流行语：「有图有真相」已经过去，接下来即将面临的，是一个「有影片也难有真相」的网路世界了。
- 注解：推出 FaceApp 与「去演」的两家公司其软体皆要求注册，且对於上传资料之後续处理交代不清，被认为有侵犯使用者隐私权之疑虑。
参考资料
- Deepfakes and the New AI-Generated Fake Media Creation-Detection Arms Race – Scientific American
- What To Do About Deepfakes | March 2021 | Communications of the ACM
- Tolosana, R., Vera-Rodriguez, R., Fierrez, J., Morales, A., & Ortega-Garcia, J. (2020). Deepfakes and beyond: A survey of face manipulation and fake detection. Information Fusion, 64, 131-148.
- Deepfake 深伪技术的技术滥用与道德困境，大众正要开始面对 | TechNews 科技新报
- 台湾团队研究辨识Deep Fake影片 深伪技术的正邪之战开打 | 台湾事实查核中心 (tfc-taiwan.org.tw)
水熊虫真的能跟量子位元「量子纠缠」吗？- 逼近 50% 的癌症研究实验无法被重现？RPCB 耗时 8 年点出「再现性危机」
- 大资讯时代也是大骇客时代！——你该认识的骇客新兴手法
- Omicron 变种病毒从哪来？打疫苗有用吗？Omicron 相关研究汇整
- 推理系动画毒杀利器！——认识致命的「河魨毒」
