研究:2000 人中仅两人能准确识别深度伪造内容

随着深度伪造技术(deepfake)的不断发展,人们对虚假信息、诈骗和身份盗窃的担忧日益加剧。一项最新研究显示,人们对 AI 工具的认知水平极低,难以有效识别深度伪造内容。

随着深度伪造技术(deepfake)的不断发展,人们对虚假信息、诈骗和身份盗窃的担忧日益加剧。一项最新研究显示,人们对 AI 工具的认知水平极低,难以有效识别深度伪造内容。

研究:2000 人中仅两人能准确识别深度伪造内容

根据 iProov 的一项最新研究,大多数人在区分深度伪造内容与真实内容时存在困难。该研究邀请了来自英国和美国的 2000 名参与者,向他们展示了一系列真实和 AI 生成的图像及视频。结果显示,仅有 0.1% 的参与者 —— 也就是两个人,能够准确区分真实内容与深度伪造内容。

研究:2000 人中仅两人能准确识别深度伪造内容

研究还发现,老年人更容易受到人工智能生成的虚假内容的欺骗。大约 30% 的 55 至 64 岁人群和 39% 的 65 岁以上人群此前从未听说过深度伪造。尽管年轻参与者对自己的深度伪造检测能力更有信心,但他们在测试中的实际表现并未优于其他年龄段。

研究发现,深度伪造视频比图像更难被识别,参与者正确识别假视频的可能性比识别假图像低 36%。

AI在线注意到,社交媒体平台被认为是深度伪造内容的主要传播渠道。近半数参与者(49%)认为 Meta 旗下的平台,包括 Facebook 和 Instagram,是深度伪造内容最常见的来源,而 47% 的人则指向 TikTok。

即使人们怀疑某个内容是深度伪造,大多数人也不会采取行动。只有 20% 的受访者表示,如果在网上遇到疑似深度伪造内容,他们会进行举报。

随着深度伪造技术愈发逼真,iProov 认为仅靠人类感知已无法可靠地识别深度伪造内容,需要采用带有活体检测功能的生物识别安全解决方案来应对日益逼真的深度伪造威胁。

相关资讯

新加坡总理黄循财遭“AI 换脸”,被用于多种诈骗活动

3月7日消息,新加坡总理黄循财称网络现其深度伪造视频用于诈骗。近年新加坡金融诈骗案上升,2024年损失达11亿新元。政府考虑用鞭刑惩罚诈骗犯罪。#新加坡诈骗案 #黄循财AI换脸

印尼 DeepFake 深度伪造 AI 视频骗局泛滥,消息称有民众因“总统的脸”中招

随着AI技术普及,DeepFake视频诈骗在全球范围内泛滥。印尼总统普拉博沃的头像被犯罪分子盗用,制作虚假视频骗取民众钱财。自去年10月以来,已有至少22个虚假账号冒充普拉博沃,通过社交平台骗取“行政费”。#AI诈骗# #DeepFake##印尼深伪视频骗局泛滥#

15 名西班牙学生因滥用 AI 生成不雅照,被判 1 年缓刑

感谢英国卫报 7 月 9 日报道,15 名学生因利用 AI 制作并传播女同学的不雅照片,被西班牙地方法院判处 1 年缓刑,此案也引发了关于滥用 Deepfake 技术的广泛讨论。生活在西班牙阿尔门德拉莱霍(Almendralejo)市的家长去年报告称,有人利用 Deepfake 技术制作其女儿的不雅照,并在当地 WhatsApp 社交应用中传播,警方随即开始调查此事。其中一名受害者的母亲说,早在去年 7 月份,在 WhatsApp 上就出现了这些 Deepfake 照片。她当时告诉路透社记者:“许多女孩完全被吓坏了