AI在线 AI在线

《消费者报告》:热门语音克隆工具缺乏防欺诈滥用安全防护措施

作者:远洋
2025-03-11 03:17
《消费者报告》(Consumer Reports)发布的一项最新研究显示,市场上的多款热门语音克隆工具未能设置有效的安全防护机制,以防止欺诈或滥用行为的发生。
感谢《消费者报告》(Consumer Reports)发布的一项最新研究显示,市场上的多款热门语音克隆工具未能设置有效的安全防护机制,以防止欺诈或滥用行为的发生。

《消费者报告》:热门语音克隆工具缺乏防欺诈滥用安全防护措施

AI在线注意到,《消费者报告》对来自六家公司的语音克隆产品进行了调查,这些公司包括 Descript、ElevenLabs、Lovo、PlayHT、Resemble AI 和 Speechify。研究团队重点考察了这些产品是否具备能够阻止恶意用户未经授权克隆他人声音的机制。然而,调查结果显示,仅有 Descript 和 Resemble AI 两家公司采取了措施以防止工具被滥用。其他公司仅要求用户勾选确认自己拥有克隆声音的合法权利,或进行类似的自我声明。

《消费者报告》政策分析师格蕾丝・盖迪(Grace Gedye)指出,如果缺乏足够的安全措施,AI 语音克隆工具可能会极大地加剧冒名顶替诈骗的风险。她在声明中表示:“我们的评估表明,企业可以采取一些基本措施,增加未经授权克隆他人声音的难度,但遗憾的是,部分公司并未采取这些措施。”

相关标签:

相关资讯

AI语音独角兽ElevenLabs完成2.5亿美元C轮融资,估值突破30亿

人工智能语音公司ElevenLabs再次引发关注,该公司刚刚完成了一轮高达2.5亿美元的C轮融资,估值在30亿至33亿美元之间。 本次融资由ICONIQ Growth领投,显示出市场对AI语音技术的强烈信心。 仅在一年之前,ElevenLabs刚刚完成了一笔8000万美元的B轮融资,当时的估值仅为现在的三分之一,可见该公司发展之迅猛。
2/9/2025 8:59:43 AM
AI在线

HYBE旗下AI 声音工具Supertone Play上线:10秒搞定声音克隆

近日,HYBE 旗下的人工智能语音公司 Supertone 宣布推出了一款名为 “Supertone Play” 的文本转语音工具,旨在生成高质量、富有表现力的音频内容。 这款新工具目前支持英语、韩语和日语,预计在今年内将扩展至西班牙语和中文。 Supertone Play 提供了150种声音角色,适用于多种内容创作需求,包括自然对话、专业播报新闻和有声读物,以及潮流驱动的搞笑声音。
2/18/2025 10:00:23 AM
AI在线

已预览一年,OpenAI 语音克隆服务 Voice Engine 仍未正式推出

去年三月底,OpenAI 宣布了一项名为 Voice Engine(声音引擎)的人工智能服务的“小规模预览”,声称该技术能够在仅需 15 秒语音的情况下克隆一个人的声音。然而,近一年过去,这项工具仍未正式推出,OpenAI 也未透露其是否会全面上线,以及何时上线。
3/7/2025 5:00:17 PM
远洋