据《法治日报》克日报导,在一些电商平台上,有不少做 AI“复生”生意的商家,标价从几元、几十元到上百元乃至数千元。与此同时,近年来,AI 换声、AI 换脸等欺骗手段也越来越高级,欺骗用户的情感和钱财。
受访专家建议,AI“复生”手艺提供者提供服务前,应明确要求用户提供相干证明,并加强手艺防范,避免 AI 产品侵犯他人合法权益或被用于欺诈等不法行为。相干部门要加强监管,推动建立行业标准,既保证手艺创新,也要保障人类的价值和尊严。
IT之家此前报导,克日一名夫君通过 AI 换脸手艺成功“复生”去世的父亲。视频中,这名夫君为了更像自己的父亲,剃掉了胡须,用 AI 换脸录制视频,并模仿父亲的语气向自己的奶奶报平安。
无独有偶,音乐人包小柏也使用了类似的形式来“复生”已故女儿,通过 AI 手艺制作了“数位(数字)女儿”,成功重现爱女的嗓音。
2021 年,包小柏 22 岁的女儿病故,此后包小柏决定攻读博士、研究 AI 相干手艺,并希望 AI 手艺让女儿能够在数字世界里“复生”。他希望能够通过 AI 手艺来重现爱女的嗓音,但由于女儿生前仅留下 3 句与妈妈视频通话时的英文对话,与录音室规模落差太大,AI 专业工程人员直言“痴人说梦”。但包小柏决定自己研究,花费 10 个月终于做出了 2 小时的声纹。
然而,并不是所有人都将这项手艺运用到思念亲人。以美国为例,2023 年全美老年人因为欺骗而损失了 16 亿美元(IT之家备注:当前约 115.2 亿元人民币),其中就有许多欺骗是利用 AI 手艺来“克隆”熟人的声音,以及其他依靠 AI 生成的伎俩。