北京市首例“AI 换脸”软件侵权案宣判:国风博主短视频被“换脸”后制作成付费模板

据北京互联网法院消息,6 月 20 日,北京互联网法院一审开庭宣判了两起北京市首例“AI 换脸”软件侵权案件,认定使用他人视频“换脸”后制作模板再提供“换脸”服务的网络服务提供者侵害了他人的个人信息权益。两案原告廖某、吴某均系国风短视频模特,在全网拥有众多粉丝。被告是一款“换脸”App 的运营者。原告主张,在未经其授权同意的情况下,被告使用原告的出镜视频制作换脸模板,并上传至涉案换脸 App 中,提供给用户付费使用借此牟利。原告认为,被告的行为侵害了原告的肖像权。同时,被告未经原告同意擅自上传和使用了具有原告肖像信

据北京互联网法院消息,6 月 20 日,北京互联网法院一审开庭宣判了两起北京市首例“AI 换脸”软件侵权案件,认定使用他人视频“换脸”后制作模板再提供“换脸”服务的网络服务提供者侵害了他人的个人信息权益。

北京市首例“AI 换脸”软件侵权案宣判:国风博主短视频被“换脸”后制作成付费模板

两案原告廖某、吴某均系国风短视频模特,在全网拥有众多粉丝。被告是一款“换脸”App 的运营者。

原告主张,在未经其授权同意的情况下,被告使用原告的出镜视频制作换脸模板,并上传至涉案换脸 App 中,提供给用户付费使用借此牟利。

原告认为,被告的行为侵害了原告的肖像权。同时,被告未经原告同意擅自上传和使用了具有原告肖像信息的视频,这一行为系被告非法获取原告人脸信息并篡改,将原告的人脸通过 AI 技术手段抠除并替换成第三方的脸,再将技术处理后的视频用作付费模板供涉案 App 的用户使用并以此获利,侵害了原告的个人信息权益。原告据此要求被告赔礼道歉,并赔偿精神损失和经济损失

北京市首例“AI 换脸”软件侵权案宣判:国风博主短视频被“换脸”后制作成付费模板

被告辩称,在被告平台发布的视频均有合法来源,并且面部特征并非原告,并未侵害原告肖像权。此外,App 中的“换脸”技术实际由第三方提供,被告没有处理原告的人脸信息,并未侵害原告的个人信息权益。

经庭审查明,被告没有提交证据证明其模板视频的来源,结合模板视频中的人物妆容、发型、服饰、动作、灯光及镜头切换与原告出镜的视频呈现一致特征,可以认定被告使用了原告出镜的视频,通过深度合成技术替换成他人面部,再上传至涉案 App 作为模板供用户使用。但是,这一行为并未侵害原告的肖像权

法院认为,被告的行为构成对原告个人信息权益的侵犯

第一,原告涉案出镜视频中有包括原告人脸信息的个人信息。原告涉案出镜视频动态呈现了原告的面部特征等个体化特征,基于数字技术,这些个人特征可以以数据形式呈现,符合《中华人民共和国个人信息保护法》规定的“与已识别或可识别的自然人有关的信息”的定义。

第二,被告实施了处理原告个人信息的行为。首先,被告应是承担个人信息处理责任的主体。即使被告实际使用了案外公司的技术服务,案外公司也仅为受托的技术服务提供者,被告是个人信息处理的委托人,决定了信息处理的方式、范围,应就个人信息处理行为承担责任。其次,涉案换脸行为属于个人信息处理行为。被告首先需要收集包含原告人脸信息的原告出镜视频,将该视频中的原告面部替换成自己提供的照片中的面部,该过程采用了检测人脸关键点的人脸识别技术,再将提供的人脸图像对应的人脸特征融合到模板图像中的特定人物上,生成的图片兼具指定图像和模板图像中的人脸特征。该合成过程,不仅是简单的替换,而是需要将新的静态图片中的特征与原视频的部分面部特征、表情等通过算法进行融合,使得替换后的模板视频表现自然流畅。上述过程,涉及对原告个人信息的收集、使用、分析等,因此通过“换脸”形成换脸模板视频的过程,属于对原告个人信息的处理。

第三,被告的行为侵害了原告的个人信息权益。自动化的个人信息的处理行为常具有隐蔽性等特点,因此,法律通过赋予个人对其个人信息处理的知情权、决定权以防范泄露、滥用等风险。原告的涉案出镜视频虽然属于已经公开的视频,但涉案账号说明处标注有“未授权给任何收费软件”,不应推定原告同意他人对其人脸信息进行处理。此外,被告获取包含原告人脸信息的视频,利用深度合成这一新兴技术分析、修改后,进行商业化利用,可能对原告个人权益产生重大影响,应依法征得原告同意。被告无证据证明其经过原告同意,因此构成对原告个人信息权益的侵害。

法院判决,被告向原告赔礼道歉,赔偿精神损失及经济损失。目前案件尚在上诉期,一审判决未生效。

法官孙铭溪表示,此次宣判的两案是涉及“AI 换脸”的新类型案件,案件的特殊之处在于,被告是将原告视频“换脸”后再上传至应用软件,是否构成对原告权利的侵害、构成对哪种权利的侵害,这些是新技术发展过程中带来的新问题。本案中,被告本质上利用了原告的短视频,该行为包括了利用原告部分人脸信息用于新上传照片的融合,以及利用该视频中的妆容、发型、服饰等整体造型及灯光、镜头切换等因素形成模板视频。换言之,被告获利的主要因素是原告涉案视频中的劳动投入。被告若未经相关权利人同意使用上述要素,对他人的劳动投入“搭便车”,相关权利人可以基于劳动创造投入、竞争性利益等其他请求权基础维护合法权益。原告未主张其为上述权利的相关权利人,因此法院在本案中仅处理被告侵害原告个人信息权益的财产损害赔偿部分。

相关资讯

全国首例 AI 声音侵权案一审宣判,原告配音师获赔 25 万元

感谢据央视新闻消息,北京互联网法院今天上午对全国首例“AI 声音侵权案”进行一审宣判,认定作为配音师的原告,其声音权益及于案涉 AI 声音,被告方使用原告声音、开发案涉 AI 文本转语音产品未获得合法授权,构成侵权,书面赔礼道歉,并赔偿原告各项损失 25 万元。IT之家汇总案件经过如下:本案原告殷某是一名配音师,曾录制多部有声作品。去年其意外发现自己的声音被 AI 化后,在一款名为“魔音工坊”的 App 上以“魔小璇”的名义对外出售。殷某以被告行为侵害其声音权为由,将“魔音工坊”的运营主体北京某智能公司等五被告起诉

因使用生成式 AI 制作恶意软件,日本一 25 岁男子首次被判有罪

据《读卖新闻》25 日报道,日本一名 25 岁林(Hayashi)姓男子因滥用生成式 AI 制造电脑病毒,被东京地方法院判处有期徒刑三年,缓期执行四年,标志着日本首次有因滥用生成式 AI 作出刑事定罪的案例。 据判决书等资料显示,去年 3 月 31 日,该男子左右在川崎市的住所中利用电脑和智能手机,通过生成式 AI 获取的恶意程序设计图(源代码)制作了类似勒索软件的电脑病毒。 此外,他还冒充他人骗取了手机通信卡等物品。

一男子用 AI 换脸“再现”已故父亲:将父亲面部“移植”至自己脸上以安慰奶奶

据红星新闻报道,近日一名男子通过 AI 换脸技术成功“复活”去世的父亲。视频中,这名男子为了更像自己的父亲,剃掉了胡须,用 AI 换脸录制视频,并模仿父亲的语气向自己的奶奶报平安。该男子姓孙,在接受采访时,谈到了借助 AI“复活”自己已故父亲的背后故事。孙先生表示,在父亲 2023 年因罹患阑尾黏液腺癌病去世之后,全家人一直瞒着生病的奶奶,怕老人家接受不了。但孙先生看奶奶太过思念父亲,不断追问自己“是否可以跟儿子通话”,便查阅各种资料,最终决定采用 AI 换脸技术将父亲的脸“移植”到自己的脸上,录制了一段视频,以父