“ ZAO ”换脸刷屏，但背后隐私、版权、伦理的风险细思恐极

时间：2023-05-11 18:09:01 | 来源：网站运营

时间：2023-05-11 18:09:01 来源：网站运营

“ ZAO ”换脸刷屏，但背后隐私、版权、伦理的风险细思恐极：一夜 " 成 " 明星不再是梦。



从昨天晚间开始，一个名为 "ZAO" 的 AI 换脸 App 忽然火爆全网，用这款 App 制作的换脸视频在微博、朋友圈随处可见。



用户只需要上传一张照片，就能将自己的脸替换成 " 小李子 "" 周润发 "" 白展堂 "" 玛丽莲梦露 "" 绯红女巫 " 等人的脸，其人脸融合效果几乎能够以假乱真。用户可以通过这个软件制作 GIF 动画表情，也可以将自己换脸成偶像的搭档，还可以与好友两人一起进行换脸。



微信指数显示，"ZAO" App 的传播热度直线上升



其实，AI 换脸视频早已不是新鲜事。



早在 2017 年 12 月，国外一个 ID 名为 "deepfakes" 的 Reddit 论坛用户首次将自己制作的 AI 换脸视频发布在了网络上，它能够把照片和视频中的人脸替换成任何想要替换的人脸，有些肉眼甚至难以分辨真假。



由于效果逼真，"deepfakes" 技术也被人应用在了一些成人视频中。数以万计的名人色情电影迅速充斥 Reddit，随后国外不少成人视频网站的各种推送页面也被占领，最后连社交网络 Twitter 也沦陷。包括斯嘉丽 · 约翰逊和《神奇女侠》女主角盖尔 · 加朵在内的多名女星都因为 AI 换脸技术，" 出演 " 了多部色情电影。



随后，面临法律和公关等多重压力，Reddit 等网站先后撤下所有 AI 换脸视频，并宣布此后禁止类似视频上传。迫于压力，Reddit 还封杀了 "deepfakes" 的账号，不过这次封杀却让 "deepfakes" 直接开源了其 AI 换脸项目的代码。



在代码开源后，只要具备基础的电脑知识，即使一个 " 菜鸟 " 也能在几个小时内做出一部换脸视频，该项技术立刻风靡全球。人们为了纪念 "deepfakes"，就采用它的 ID 命名了 AI 换脸技术，称之为 "deepfakes"。



今年年初，B 站 UP 主 " 换脸哥 " 发布的一段 94 版射雕英雄传视频中，饰演黄蓉的朱茵的脸被替换成杨幂，" 换脸哥 " 所使用的技术就是 "deepfakes"。



"ZAO" App 中也存在对影视人物的换脸玩法



虽然 "ZAO" App 并没有表示其换脸技术源自开源的 "deepfakes"（" 深度造假 "）代码，但二者的技术确实存在强烈的相似性。



"AI 换脸一时爽 "，但从目前看来，后续侵权、伦理等方面的风险层出不穷。作为一个用户，在下载 App 尝鲜制作、传播换脸视频的同时，也要考虑到它可能会给你带来的麻烦。



「刷屏视频涉嫌侵犯他人多项权力」



涉及到换脸这么一个魔幻而又敏感的话题，是否可能侵权自然是第一个重要议题。



针对逐渐开始泛滥的 AI 换脸视频，杭州金诚同达律师事务所的刘宗鑫律师曾表示，AI 换脸技术涉嫌侵犯他人的肖像权、名誉权和著作权等多项权利。



首先，换脸视频涉嫌侵犯他人的肖像权。



我们来具体看一下很多用户恐怕在注册的事后都没有细看过的 "ZAO" 的用户协议。其中有这么一部分：



6. 您的必要授权：除非另有约定，您使用 "ZAO" 上传及 / 或发布的用户内容的所有权、知识产权及其他法律权利，归您、您的许可方或者您的关联方所有，责任亦由您承担。



这个条款字面上的意思已经非常明确了，基于细节条款，"ZAO" 及其关联公司以及 "ZAO" 用户实质上获得许可，用户上传内容后即是默认授予了自己上传内容的部分使用权；而一旦构成侵权，" 责任亦由您承担 "。



这个大项下的条款细节具体涉及到几个层面：



1 ) 在您上传及 / 或发布用户内容之前，您同意或者确保实际权利人同意授予 "ZAO" 及其关联公司以及 "ZAO" 用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利；



这也就意味着你的内容一旦上传之后，就是默认许可 "ZAO" 以及 "ZAO" 平台上的所有用户进行再次改编使用了——这里的风险想来也不用我们细说。



2）如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予 "ZAO" 及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动。



这一条则是明确了 "ZAO" 及其关联公司有对用户内容再次使用的权利。



3 ) "ZAO" 及其关联公司可自行选择是否使用以及使用方式，包括但不限于将前述信息在 "ZAO" 及其关联公司旗下的服务平台上使用与传播，将上述信息再次编辑后使用，以及由 "ZAO" 及其关联公司授权给合作方使用、编辑与传播等。"ZAO" 及其关联公司将尽最大努力在合理范围内使用上述内容，且您的必要授权并不代表 "ZAO" 及其关联公司对上述信息内容的必然使用，也不改变上述信息内容的所有权及其知识产权归属，更不影响您对上述内容信息任何合法使用；



这一条则是为 "ZAO" 之后对用户 UGC 的使用、跨平台的二次传播，以及再编辑后使用，以及向合作方再次授权进行了规定。也就是说，基于这些条款下，你上传的内容不但可能在 "ZAO" 被传播，甚至可能经 "ZAO" 的授权许可被分发到其他平台上——而这一切都是在你点击注册的一刻就已经默认授权许可了的。



实际上，根据法律规定，任何人在未经肖像权人同意之前，都不得擅自将他人的形象制作成肖像，或者擅自使用他人肖像，否则构成侵权行为。今年 4 月二审的《民法典人格权编 ( 草案 ) 》里，就已经有明文规定" 任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。"



一个简单粗暴的解释就是，在新的《民法典人格权编 ( 草案 ) 》下，管你是不是营利行为，只要被使用了肖像权的用户（可能是你随手上传上去的同学照片）没有明确同意授权，而你又 " 一时手贱 " 做了合成小视频，对方就可以告你侵权了。



而根据 "ZAO" 的条款，上传了就是授权了全平台及用户使用乃至于二次编辑。但一旦侵权，那就仅仅是你的麻烦了。



其次，除了肖像权，AI 换脸技术的滥用也可能侵犯他人的名誉权。



AI 换脸技术可以将他人的面部任意 "PS" 在其他视频中，从国外某视频小网站一度被 AI 换脸视频 " 攻占 "，就可以想象到有多少 AI 换脸可能被用到不利于肖像权本人的方面上。而根据法规，只要行为人合成的视频可能导致他人评价降低，就涉嫌侵犯了他人的名誉权。



这个范围就不仅仅局限于不雅视频了。杭州金诚同达律师事务所的刘宗鑫律师表示，除了不雅视频之外，凡是将他人的面部 PS 在诸如辱骂、斗殴、吸毒等可能导致他人社会评价的降低的视频中，都可能构成侵权。



比如说你把某个当红偶像明星换上了经典的发哥点烟电影桥段，但对方恰好是禁烟宣传大使，那这也有可能因为 " 导致他人评价降低 "，而构成侵权。



原本饰演 " 黄蓉 " 一角的朱茵变成了杨幂



最后，AI 换脸技术可能侵犯他人的著作权。



除了肖像权、名誉权等人身权利，制作对影视作品的换脸视频还可能涉嫌侵犯著作权人所享有的 " 保护作品完整权 "。



所谓保护作品完整权，是著作权人所享有的保护作品不受歪曲、篡改的权利。司法实践中，杭州知产法院曾在 ( 2015 ) 京知民终字第 811 号案中明确指出：



"侵犯保护作品完整权的行为不以 " 有损作者声誉 " 为要件。也就是说，不论使用者是恶意还是善意、是否出于故意，只要对作品的使用客观上起到歪曲、篡改的效果，改变了作品的内容、观点、形式，就应判定构成对作品完整权的损害。"



也就是说，即便你仅仅是看不惯流量明星蹩脚的演技，把他们换成了一众老戏骨， 依照上述观点，你利用 AI 换脸技术 " 改编 " 影视作品的行为并没有损害到著作权人的声誉，但由于客观上属于未经作者许可改变作品的行为，也会涉嫌构成侵权。



综合下来可以说，侵权方式何其多。可谓是，"AI 换脸一时爽 "，事后侵权火葬场。



「AI 换脸引发的隐私及伦理问题难解」



事实上，AI 换脸技术自爆发后，就一再被人恶意使用，随之引发的隐私及伦理问题层出不穷。



最直接的一个问题就是名人明星的名誉权很难被保障了。



目前，国内外都有用户使用 AI 换脸技术进行明星人物的换脸恶搞、甚至生成虚假视频——比如今年 6 月时，Facebook 首席执行官马克扎克伯格的一段被篡改过的视频浮出水面。



扎克伯格被篡改的视频截图



在视频中，扎克伯格的口型和声音受到操控，正在以负面论调讨论 Facebook 的影响力。



这段视频的标题是 Facebook 将 " 提高广告透明度 "，但被篡改过的扎克伯格的声音则在说：" 花一秒钟想象一下，一个人完全掌控着被窃取的数十亿人的数据，掌控着他们所有的秘密、他们的生活、他们的未来。"



而讽刺的是，网友查证这段假视频的素材似乎来自于扎克伯格谈论俄罗斯干预美国 2016 年总统选举的视频。



受此类事件影响，Facebook 最近更新了相关政策，任何被第三方事实核查人员认定为虚假或具有误导性的内容，都将被自动从运营广告和 Facebook 盈利中被删除。



为了解决类似问题，美国学术界、政府机构和一些创企已经开始纷纷推出自己的图像、视频验证、标记技术，期望通过在你拍摄照片或视频的时候自动添加时间、位置信息等方式，对抗 AI 换脸视频、图片带来的威胁。



例如，创业公司 Truepic 正在与高通公司合作，将其技术添加到手机硬件组件中。这项技术将在拍摄照片和视频时自动标记时间和位置等数据，以便日后进行验证。Truepic 还提供了一个免费的应用程序，消费者可以用它在智能手机上拍摄经过验证的照片。



另一方面，随着 " 刷脸支付 " 逐渐被推广开来，那么类似的 "AI 换脸 " 技术是否会对我们的支付安全造成影响，也成了普通用户的一个直接忧虑。



2017 年的央视 "315 晚会 " 就曾经披露过人脸识别技术可能曾存在的风险。在晚会现场，主持人在网上随便找来的一张人物自拍，通过简单的图像处理和动态合成技术，将网络人脸合成到事先准备好的视频上，覆盖原视频的人脸，就能骗过一些通过面部识别作为认证信息的软件。



两年后的今天，虽然 "AI 换脸 " 技术日益精进，但在 " 刷脸支付 " 逐渐推广开来的情况下，安全防护与当时自然也是不可同日而语。目前的 " 刷脸支付 " 除了人脸识别以外，通常还附加有多项活体检测技术的支持。



旷视科技手机解锁项目负责人乔梁曾在 InfoQ 的活动上介绍过，现在线上金融场景的活体攻击主要有三类：第一类是换脸攻击，把这个人脸上贴成另一个人的脸。第二类是屏幕翻拍攻击，类似于手机解锁攻击。第三类是通过计算生成一张 3D 假脸进行攻击。因为金融场景直接与经济利益相关，攻击手段也是层出不穷。



目前类似旷视科技的技术企业，会采用不同类型的活体算法来防御这些攻击，例如要求用户摇摇头、眨眨眼，来判断当前进行操作的对象是不是一个 " 活人 "。



乔梁表示，在支付上，只有特定的摄像头硬件方案才能达到这种安全水准，例如苹果所采用的结构光双摄。基于结构光双摄所采用的原理，它能防御所有的 2D 攻击手段，包括屏幕和纸张——那么两年前 "315" 晚会上的简单破解方式，就很难在今天再次实现。



但由于支付场景的敏感性，攻击者可能采用 3D 打印或者硅胶膜此类成本更高的攻击手段来窃取机主的财产，这就需要算法公司继续针对特定场景研究应对措施，解决此类问题。



所以说，" 道高一尺，魔高一丈 "，安全从来都是一个攻防交叠的领域，你有你的张良计，黑产也难免有黑产的过墙梯，我们也只能是保持乐观，保持警惕。



而在大量伦理、法理、安全问题没有解决的情况下，AI 换脸就已经迎来了这样消费级的移动端产品，难免会对市场带来不小的冲击。



不难想象，在 "ZAO" 一炮而红之后，必然会有大量相似的产品迅速跟上——而这些快速上架的产品在用户隐私、安全保护等方面考虑得有多深就不好说了。



今天，在只要几张照片、视频就能快速换脸的时代，你的 " 脸 " 不再是你的脸，那你还会是你吗？



来源：钛媒体