央视曝光“张伯礼院士”带货宣传护肤品:实为 AI 伪造

近年来,AI 深度伪造技术被用于假冒名人,包括名医、企业家等。其通过换脸和合成人声手段误导消费者,侵犯了个人的肖像权和声音权益,还误导消费者购买虚假产品,影响健康,破坏市场秩序。
感谢据央视新闻报道,近年来,AI 深度伪造技术被用于假冒名人,包括名医、企业家等。其通过换脸和合成人声手段误导消费者,侵犯了个人的肖像权和声音权益,还误导消费者购买虚假产品,影响健康,破坏市场秩序。

报道提到了一个“AI 张伯礼院士”宣传某品牌护肤品的视频,视频中使用张院士的形象和声音,从而达到以假乱真的效果。

央视曝光“张伯礼院士”带货宣传护肤品:实为 AI 伪造

张伯礼院士本人对此表示,还有十余条此类涉及其形象、声音的假视频在网络上传播。“非常气愤!我觉得它对我的影响还是第二位的。我觉得更可怕的是这些东西误导消费者,对老百姓造成了影响。你是又花了钱,有的时候还是买了假药,影响老百姓的健康。同时也违反国家的法律,破坏市场秩序。当然我们专家的形象受到玷污,我们确实也很气愤,但是又很无奈。”

中华人民共和国民法典规定,自然人享有肖像、声音等权益,任何组织或个人利用信息技术伪造都是侵权行为。为此,天津中医药大学紧急给网信部门发函,申请对涉嫌侵犯张伯礼院士肖像权及姓名权的相关视频和公众号进行管控处理。

除了张伯礼院士之外,一些商家通过 AI 换脸、合成人声等手段,将一些名医、名人、企业家的面容与声音进行移花接木。综合AI在线此前报道,雷军曾在今年两会期间谈到,“去年‘十一’,有网友说过了 7 天假,被我整整骂了 8 天,刚开始我觉得网民拿我开涮我也能接受。但这类内容增多且质量低劣后,防不胜防,网友也纷纷投诉。”

雷军表示,当他想通过法律维权时,却发现对此没有专门的立法,只能用隐私权、肖像权、名誉权等法律起诉,而这些都要量化损失。“在网上被骂 8 天,损失根本没法量化。”雷军说。雷军呼吁,人工智能技术兴起以后产生了很多新问题,相关部门要提前预判,提前立法。

更久前,央视曾在今年 2 月揭露 AI 合成名人音视频乱象。专家表示,相关法律法规明确规定,未经授权,不得深度合成制作发布他人信息。网店接单 AI 深度合成制作名人视频,已经属于侵权行为,并应该承担相应的法律责任。

相关阅读:

  • 《雷军、刘德华成受害者,央视揭露 AI 合成名人音视频乱象》

2025 年 315 晚会专题

相关资讯

法律行业“AI 幻觉”加剧,美多名律师因引用虚假内容而遭处分

美国知名个人伤害律师事务所 Morgan & Morgan 向其 1000 多名律师发送了一封紧急邮件,警告他们:AI 能够编造虚假的判例信息,若在法庭文件中使用虚构的内容,可能会被解雇。

欧盟批准全球首部《人工智能法案》

感谢据 CNBC 报道,欧盟理事会周二正式批准了世界上第一部监管人工智能的主要法律。该法案会在走完相关签字流程后予以公布,将在公布了 20 天以后正式实施。欧盟理事会表示,这是一项具有里程碑意义的监管法律,为人工智能技术制定了全面的规则。IT之家整理美国盛德国际律师事务所网站信息,据悉欧盟委员会早在 2021 年 4 月 21 日提出《人工智能法案》提案的谈判授权草案。去年 12 月 8 日,欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。今年 1 月 26 日,《人工智能法案》的最终妥协文本发布。

AI幻觉扰乱法庭,美国律师被重罚

继上月曝出律师团队使用AI编造的“虚假判例”提交法庭引发风波后,美国法律界再曝同类丑闻——印第安纳州南区联邦治安法官马克·丁斯莫尔上周裁定,律师拉斐尔·拉米雷斯因在多份法律文书中引用AI生成的虚构案例,需缴纳1.5万美元罚款。 这一系列事件暴露AI技术滥用对司法严谨性的冲击,也为法律从业者敲响“责任警钟”。 律师称“没想到AI居然会造假”案件缘起于一场劳资纠纷:工会组织“中中部运营工程师健康与福利基金”指控HoosierVac公司拒绝配合财务审计,拉米雷斯作为该公司代理律师,在2023年10月提交的辩护状中引用了一则法官无法检索到的判例。