一键换脸合成视频被诉侵权，记者调查：“AI换脸”法律边界在哪？ 新消息

在小程序中上传一张自己的照片，就能自动替换模版视频中国风造型人物的面部，生成一段新的视频……但你可知道，在有趣的“AI换脸”背后，隐藏多项法律风险。近日，南京江北新区人民法院审结一起这样的侵犯肖像权纠纷案件，判决该小程序运营公司赔礼道歉、赔偿损失。

随着“AI换脸”技术走向大众，其法律风险也逐渐引起人们的关注，扬子晚报紫牛新闻记者就该技术的使用现状及其法律问题进行了调查。记者获悉，今年1月10日起施行的《互联网信息服务深度合成管理规定》明确了相关技术的管理规范和法律责任等，为包括“换脸”在内的AI合成服务划出了底线。

(资料图片仅供参考)

法院判决：

博主国风造型视频被盗用作模板，获赔经济损失

林某是一名短视频博主，拥有一定粉丝数量，日常会通过账号发布含有其本人肖像的国风造型短视频。某公司系“AI视频换脸”微信小程序的运营主体，用户可以通过该小程序上传个人照片，将视频模板中的人脸替换为自己照片中的脸，从而形成脸部特征不同而其他内容与原视频相同的新视频。用户付费成为被告会员后，可以解锁全部视频模板并高清无水印导出新视频。

2021年6月，林某通过账号发布了一段短视频，视频中她带着清晰的古风妆容，身着古风汉服出镜。不久后，她在“AI视频换脸”小程序中发现含有该短视频中外部形象的视频要素合成模板。

李某认为，对方的行为侵害其肖像权，于是诉至江北新区法院，要求赔礼道歉、赔偿损失。被告公司则辩称，“AI视频换脸”微信小程序的定位是工具收费，视频模板系用户自行上传且免费使用。该微信小程序已于2022年10月因违反平台运营规范被封禁下架，运营时间短，盈利不足万元。

那么，该公司的做法是否对林某构成侵权，法院将如何认定呢？

法院认为，“AI视频换脸”实质上系基于人工智能的人体图像合成技术。原视频中，林某以古风妆容并着汉服出镜，但通过面部形象、体貌特征等能够对其主体身份进行识别。换脸后的新视频中，人物的面部特征发生变化，但对比原视频素材，仍能通过未被修改的衣着服饰、肢体动作及相应的场景细节识别出该身体形象对应的主体系原告。

因此，无论是对于原视频中对应的身体形象，抑或是案涉视频要素模板和“AI换脸”后视频中对应的身体形象，原告林某均享有肖像权。被告未经原告同意，擅自将含有原告肖像的视频存储在“AI视频换脸”微信小程序中作为可供用户选择使用的合成视频要素模板，系利用“AI”信息技术手段编造或者伪造他人肖像的行为，侵害了原告的肖像权，应承担相应的侵权责任。

结合被告侵权行为的持续时间、影响范围及后果，综合考量原告的网络知名度及商业价值等因素，江北新区法院一审判决被告书面赔礼道歉并赔偿经济损失。

该判决作出后，双方当事人均服判息诉，被告公司在判决生效后履行了判决义务。

法官释疑：

脸部被更换，视频原主人还享有肖像权吗？

该案中一个容易让人产生疑问的地方在于，视频原主人对被更换脸部之后视频内容还享有肖像权吗？

对于，该案承办法官潘振飞表示，“可识别性是肖像的核心特征，除面部形象外，任何可以被识别为特定主体的外部形象都属于肖像的保护范围。”

潘振飞介绍，本案中，换脸后的新视频中，人物面部形象虽然发生改变，但从未被修改的原视频的场景细节仍能识别出身体形象的主体，该身体形象即属于可被识别为特定主体的肖像，原告对该身体形象亦享有肖像权。

《民法典》第1019条规定第一款规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。而“AI换脸”就是利用人工智能等信息技术手段，将某人的面部更换为他人的面部，但保留身体动作等躯干特征，并在此基础上形成高度逼真的图像、视频等。法院认为，“AI换脸”体现为较强的身份解构能力，将个体的身份特质进行分解，面部形象、体貌特征甚至声音语调等各自分离，又与他人的身份特质相融合，进而重构身份特征。此种解构行为破坏了肖像与身份主体的同一性，构成对他人肖像权的侵害。

至于该案在确定具体的责任承担时，则是结合侵权人的过错程度、侵权行为的持续时间、范围和后果以及对被侵权人的影响等因素进行综合认定。鉴于案涉微信小程序运营时间较短且已被下架，原告亦未能举证证明案涉视频素材模板的使用数据及其因此实际受损害的情况，江北新区法院最终酌情判令被告书面赔礼道歉并赔偿原告一定经济损失。

潘振飞表示，在“AI视频换脸”的应用场景下，对于程序运营者而言，无论是其主动上传含他人肖像的视频素材模板，还是默许或放任用户自行上传视频素材并将用户上传的视频素材存储在模板界面中作为有偿使用，均构成对他人肖像权的侵害。

记者调查：

目前已引发不少问题，涉及多项民事侵权及犯罪风险

“AI换脸”是一项近两年才为大多数人所接触的新技术，在带来新奇体验的同时，其中可以存在的法律风险也逐渐引起人们的关注。

扬子晚报紫牛新闻记者浏览几家手机应用市场，发现不少“AI换脸”相关应用仍可以下载。这些应用内为用户提供了大量图片、视频模板，包括国风、古装、民族、婚纱、职场等不同主题，使用方式与江北新区这起案件中的情况基本相同。记者随机下载了几款“AI换脸”应用，均未发现运营方对提供的模板是否拥有授权作出说明，同时不少应用需要充值付费才能使用“换脸”功能或者解锁更多模版。

更为严重的情况是，一些明星或网络博主的脸部形象被人盗用，拼接进不雅视频，给当事人造成了极大的损害和困扰。

今年4月6日，拥有百万粉丝的博主“Caro赖赖_”讲述了自己的脸被“盗”，制作成不雅视频的遭遇。据她称，获悉网络上出现自己脸部形象的不雅视频后，其发现在境外社交平台上有人冒充自己注册了假账号，并以会员订阅的方式贩卖视频，付费会员可以不断地收到盗脸色情视频。她还称这样的账号在境外社交平台上并非个例。

记者检索中国裁判文书网，发现目前涉及“AI换脸”的案件数量较少，且案由基本集中于肖像权纠纷。那么，除了肖像权，以目前人们对这项技术的使用情况看，还有可能带来哪些法律风险呢？

“‘AI换脸’不仅具有极高的欺骗性，也带来个人信息安全、肖像权、名誉权、表演者权被侵害的风险。”江苏大名大律师事务所冯斐律师表示，比如将某人的容貌替换到不雅或不良行为视频片段中，会导致公众对该人物产生严重负面印象，降低对其的社会评价。因此，这在侵犯当事人肖像权的同时，还侵犯了其名誉权。又如未经许可制作、传播“换脸”后的视频，可能导致观众无法通过“换脸”视频识别原表演者，这侵犯了原表演者享有的表演者权。此外，如果通过“换脸”对作品进行恶搞，则有可能侵犯著作权人的保护作品完整权。

而如果制作、传播“AI换脸”淫秽视频，除了需要承担对被盗脸者的民事侵权责任外，还将涉嫌触犯刑法第363条构成制作、复制、出版、贩卖、传播淫秽物品牟利罪，最高可判处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。

律师说法：

今年三部门新规为“AI换脸”划定“底线”

值得指出的事，“人脸信息”作为一种敏感个人信息，其保护问题近年受到各界越来越多的关注，在相关立法中也有体现。

2021年11月起施行的《个人信息保护法》将人脸信息明确纳入个人信息的保护范畴，并为包括人脸信息在内的敏感个人信息专门给出了处理规则。冯斐告诉扬子晚报紫牛新闻记者，该法第62条还对人脸识别技术的运用作出了原则性规定，为相关立法细化调整人脸识别技术规则提供了依据。

而随着AI技术的兴起，使得合成、拼接等操作较之以往变得更加容易，而效果也到了真假难辨的地步，这对公民合法权益、公共利益，甚至国家安全带来了新的挑战。

冯斐告诉记者，“AI换脸”也属于深度合成技术一种，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》已于今年1月10日起正式施行。该规定强调不得利用深度合成服务从事法律、行政法规禁止的活动，明确了深度合成数据和技术管理规范，明确了监督检查与法律责任等。

根据该规定，深度合成服务提供者提供人脸替换等服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意，此外，还应当依法自行或者委托专业机构开展安全评估。

“该规定为包括‘AI换脸’在内的深度合成服务划定了‘底线’和‘红线’，”冯斐认为，该新规的实施，对规范“AI换脸”等技术将起到积极促进的作用。

扬子晚报/紫牛新闻记者 万承源

校对 陶善工