深度伪造
如何识别和预防深度伪造诈骗
这些被篡改的内容在社交媒体、即时通讯应用和视频分享平台上广泛传播，模糊了现实与虚构之间的界限。 “Deepfake”一词是在2017年由一位Reddit用户创造的，当时该用户创建了一个以此命名的子论坛(subreddit)。 这个子论坛被用来分享AI生成的视频，其中经常包含名人换脸的色情内容。
防御人工智能驱动的Deepfake
由于人工智能技术不断发展，深度伪造（Deepfake）也越来越难以发现。 这对依赖于任何形式个人图像的可信身份验证都构成了严重的问题。 然而，一些应对Deepfake威胁的方法显示出希望。
西班牙拟立法打击 AI 生成的色情图像，保护未成年人隐私
西班牙政府于近日公布了一项新草案，旨在打击使用人工智能技术生成未成年人或他人面部或身体的图像。 此举引发了社会广泛关注，尤其是在当前数字技术日益普的背景下，深度伪造技术（deepfake）带来的风险日益凸显。 根据西班牙司法部长费利克斯・博拉诺斯的介绍，该草案的主要内容是将 “性别或严重侮辱性质的深度伪造” 视为对道德完整性的犯罪。
为什么批判性思维是应对即将到来的Deepfake海啸的最佳武器
这些内容并不全是“深度伪造”(deepfake)，后者特指设计得极具误导性的内容。 近年来，我们看到深度伪造被用于操纵选举、实施欺诈和盗窃，以及未经他人同意制作色情图片。 随着AI工具变得更加强大和易获取，这些问题只可能会愈演愈烈。
西班牙将推新法案：未标注 AI 生成内容将面临巨额罚款
西班牙政府近期通过了一项新法案，旨在对未正确标注的人工智能（AI）生成内容的公司处以高额罚款，以打击 “深度伪造” 现象。 数字化转型部长奥斯卡・洛佩斯（Oscar Lopez）在新闻发布会上表示，此项法案参考了欧盟的《人工智能法案》，规定了对被认为是高风险的人工智能系统实施严格的透明度要求。 图源备注:图片由AI生成，图片授权服务商Midjourney洛佩斯指出，人工智能在提升生活质量的同时，也可能被用来传播错误信息、攻击民主，具有潜在的风险。
新加坡总理黄循财遭“AI 换脸”，被用于多种诈骗活动
3月7日消息，新加坡总理黄循财称网络现其深度伪造视频用于诈骗。近年新加坡金融诈骗案上升，2024年损失达11亿新元。政府考虑用鞭刑惩罚诈骗犯罪。#新加坡诈骗案 #黄循财AI换脸
研究：2000 人中仅两人能准确识别深度伪造内容
随着深度伪造技术（deepfake）的不断发展，人们对虚假信息、诈骗和身份盗窃的担忧日益加剧。一项最新研究显示，人们对 AI 工具的认知水平极低，难以有效识别深度伪造内容。
深度伪造威胁升级：个性化伪造时代来临
谷歌DeepMind和斯坦福大学的研究人员仅通过简单的访谈，就创建出了1000多名人员的高效AI复制品。 谷歌和斯坦福大学的研究人员表示，与AI模型进行两小时的对话，就足以相当准确地刻画出真人的性格特征。 在最近的一项研究中，研究人员基于与每位参与者进行的两小时访谈，生成了1052名“模拟主体”(即AI复制品)，这些访谈遵循了美国之声项目(AmericanVoices .
AI 仿冒名人带货属违法行为，消费者可要求退一赔三
近年来，人工智能（AI）技术的快速发展为社会带来了诸多便利，但也伴随着安全隐患。其中深度伪造技术就带来了不小的隐患，其生成高度逼真但并非真实的视频或图像的能力，已经引发了一系列社会问题。
基于AI的深度伪造检测的局限性
在采访中，Reality Defender的首席执行官Ben Colman探讨了在实际应用中检测高质量深度伪造内容(deepfake)所面临的挑战。 他讨论了水印技术、基于AI的检测以及新兴技术在确保媒体真实性方面的潜力及其局限性。 Colman还强调了公众教育、针对特定行业的AI实施以及积极的研究合作对于应对快速发展的深度伪造策略的重要性。
- 1