AI“复活”逝者成生意,专家建议避免侵犯他人合法权益

据《法治日报》近日报道,在一些电商平台上,有不少做 AI“复活”生意的商家,标价从几元、几十元到上百元乃至数千元。与此同时,近年来,AI 换声、AI 换脸等诈骗手段也越来越高级,欺骗用户的情感和钱财。受访专家建议,AI“复活”技术提供者提供服务前,应明确要求用户提供相关证明,并加强技术防范,避免 AI 产品侵犯他人合法权益或被用于欺诈等不法行为。相关部门要加强监管,推动建立行业标准,既保证技术创新,也要保障人类的价值和尊严。IT之家此前报道,近日一名男子通过 AI 换脸技术成功“复活”去世的父亲。视频中,这名男子为

据《法治日报》近日报道,在一些电商平台上,有不少做 AI“复活”生意的商家,标价从几元、几十元到上百元乃至数千元。与此同时,近年来,AI 换声、AI 换脸等诈骗手段也越来越高级,欺骗用户的情感和钱财。

AI“复活”逝者成生意,专家建议避免侵犯他人合法权益

受访专家建议,AI“复活”技术提供者提供服务前,应明确要求用户提供相关证明,并加强技术防范,避免 AI 产品侵犯他人合法权益或被用于欺诈等不法行为。相关部门要加强监管,推动建立行业标准,既保证技术创新,也要保障人类的价值和尊严。

IT之家此前报道,近日一名男子通过 AI 换脸技术成功“复活”去世的父亲。视频中,这名男子为了更像自己的父亲,剃掉了胡须,用 AI 换脸录制视频,并模仿父亲的语气向自己的奶奶报平安。

无独有偶,音乐人包小柏也使用了类似的形式来“复活”已故女儿,通过 AI 技术制作了“数位(数字)女儿”,成功重现爱女的嗓音。

AI“复活”逝者成生意,专家建议避免侵犯他人合法权益

2021 年,包小柏 22 岁的女儿病故,此后包小柏决定攻读博士、钻研 AI 相关技术,并希望 AI 技术让女儿能够在数字世界里“复活”。他希望能够通过 AI 技术来重现爱女的嗓音,但由于女儿生前仅留下 3 句与妈妈视频通话时的英文对话,与录音室规模落差太大,AI 专业工程人员直言“痴人说梦”。但包小柏决定自己钻研,花费 10 个月终于做出了 2 小时的声纹。

然而,并不是所有人都将这项技术运用到思念亲人。以美国为例,2023 年全美老年人因为诈骗而损失了 16 亿美元(IT之家备注:当前约 115.2 亿元人民币),其中就有许多诈骗是利用 AI 技术来“克隆”熟人的声音,以及其他依靠 AI 生成的伎俩。

相关资讯

OpenAI 前高管评“AI 复活亲人”:需分清人类与机器的界限

感谢2024 年全球开发者先锋大会于 3 月 23 日-24 日期间在上海徐汇滨江举行。据澎湃新闻报道,OpenAI 前全球商业化负责人 Zack Kass 上台演讲,谈到了时下热门的通用人工智能(AGI)、AI 对人类生活的影响等一系列话题。Zack Kass 认为,AI 技术发展可分为应用增强(功能日渐强大,如 ChatGPT 的出现)、AI 自动化阶段(未来两年内实现,AI 可自动执行任务)、AI 赋能操作系统(例如人们可通过戴眼镜来操作电器)三阶段,到 2030 年,AGI 时代即将到来。同时,他也呼吁要警

抖音发布清明期间内容创作提醒:慎用“AI 复活”技术

抖音安全中心日前发布公告,清明是我国慎终追远、访春踏青的节日,许多用户会在清明期间祭扫、出游并通过网络与亲友分享生活。平台观察到,有部分用户发布的内容不符合社区规则。平台给用户下列提醒:1、文明过节:请勿借清明节发布迷信、猎奇和有违公序良俗的内容,如配冥婚、鬼魂附体、坟头蹦迪、烧“二奶”纸扎等。2、爱护人民币:请勿发布焚烧人民币的内容。故意毁坏人民币是违法行为,可以通过其他文明、合法的方式表达对亲人的缅怀。3、尊重英烈:参观英雄、烈士及遇难同胞纪念场所时,应保持庄重的言谈举止,切勿发布在上述场所营销、喧哗或扰乱秩序

一男子用 AI 换脸“再现”已故父亲:将父亲面部“移植”至自己脸上以安慰奶奶

据红星新闻报道,近日一名男子通过 AI 换脸技术成功“复活”去世的父亲。视频中,这名男子为了更像自己的父亲,剃掉了胡须,用 AI 换脸录制视频,并模仿父亲的语气向自己的奶奶报平安。该男子姓孙,在接受采访时,谈到了借助 AI“复活”自己已故父亲的背后故事。孙先生表示,在父亲 2023 年因罹患阑尾黏液腺癌病去世之后,全家人一直瞒着生病的奶奶,怕老人家接受不了。但孙先生看奶奶太过思念父亲,不断追问自己“是否可以跟儿子通话”,便查阅各种资料,最终决定采用 AI 换脸技术将父亲的脸“移植”到自己的脸上,录制了一段视频,以父