AI在线 AI在线

虚假

国内金融领域虚假人脸检测标准“零的突破”，《虚假数字人脸检测金融应用技术规范》发布

国内金融领域虚假人脸检测标准“零的突破”，《虚假数字人脸检测金融应用技术规范》发布
感谢据 21 财经今天傍晚报道，为提升金融信息系统的安全性，9 月 6 日北京国家金融科技认证中心联合 10 多家金融机构发布的《虚假数字人脸检测金融应用技术规范》（AI在线注：下称《应用规范》）正式施行。《应用规范》规定了面向金融领域应用的虚假数字人脸检测服务的技术框架、功能要求、性能要求等，并提出对应的测试评估方法，专门针对通过生成式 AI、Deepfake（深度伪造）等技术制作的虚假人脸内容进行检测。其为金融机构防御虚假数字人脸攻击提供了重要参考，这是国内首个面向 Deepfake 进行安全检测的标准。《应用
9/14/2024 7:04:41 PM
清源
当心 AI 给你“洗脑”，MIT 最新研究显示大模型成功给人类植入错误记忆

当心 AI 给你“洗脑”，MIT 最新研究显示大模型成功给人类植入错误记忆
AI 竟然可以反过来“训练”人类了！（震惊.jpg）MIT 的最新研究模拟了犯罪证人访谈，结果发现大模型能够有效诱导“证人”产生虚假记忆，并且效果明显优于其他方法。网友辣评：仔细想想，AI 诱导人类产生虚假记忆，这个现象其实在我们生活中已经出现了！还有网友说：我觉得还挺有意思的！有种《2077》的既视感~而马库斯的观点也还是一如既往的悲观：这种发展趋势也太可怕了！AI 如何“训练”人类为了研究大模型对人类记忆的影响，团队找来了 200 位志愿者，并把他们平分成 4 个组：控制变量组：志愿者直接回答问题，没有任何干预
9/6/2024 2:21:40 PM
汪淼
《大都会》预告片风波：虚假影评人引言系 AI 生成

《大都会》预告片风波：虚假影评人引言系 AI 生成
近期备受瞩目的科幻电影《大都会》（Megalopolis）因其预告片中的虚假影评人引言而引发争议。经调查证实，这些虚假引言是由人工智能（AI）生成的。该预告片在发布数小时后被撤下。据《Deadline》报道，负责该片预告片宣传材料的负责人 Eddie Egan 已被撤职。经调查确认，这些引言并非 Egan 或片方狮门影业有意伪造，而是 AI 生成的结果。这些虚假引述内容声称是影评人对导演弗朗西斯・福特・科波拉过往作品的批评，例如将《教父》评价为“松散、自恋的电影”，将《现代启示录》称为“一部史诗级的垃圾”。然而，真
8/26/2024 7:34:35 AM
远洋
AI 马斯克“现身”数千条虚假广告，美国八旬老人被骗近 70 万美元

AI 马斯克“现身”数千条虚假广告，美国八旬老人被骗近 70 万美元
据《纽约时报》14 日报道，马斯克的形象在经过 AI 进行“深度伪造”之后，出现在数以千计的虚假广告中，造成数十亿美元的欺诈。报道提到一位受害者 ——82 岁的退休老人 Steve Beauchamp。他只是想要养家糊口的钱，并认为马斯克能帮得上忙。去年年底他看到了一段视频，视频中的“AI 马斯克”为一个承诺“快速回报”的激进投资机会代言。Steve 便联系上了该广告背后的公司，并以 248 美元的价格开了一个账户。通过几个星期的一系列交易，Steve 花光了他的退休账户，最终投资了超过 69 万美元（AI在线备注
8/16/2024 12:42:01 PM
清源
日本政府将探讨 AI 法律监管：约束虚假信息传播，监管不力或受罚

日本政府将探讨 AI 法律监管：约束虚假信息传播，监管不力或受罚
据日本共同社报道，日本政府将开始探讨针对大规模人工智能（AI）开发者采取法律监管，拟对未充分完善虚假信息对策等情况设置罚则。日本政府此前对于人工智能等领域的态度是“尊重企业的自主努力”，但由于 AI 带来虚假信息传播、侵权等多种问题，因而作出判断，认为有必要采取“以 AI 为直接对象”的有约束力的监管。报道提到，鉴于欧盟（EU）等各国和地区开始针对 AI 出台具有强制力的监管，日本也开始转变方针。该国将于近期召开专家等组成的“AI 战略会议”，该国政府预计将会就采取一定程度监管的必要性提出问题，并有意愿把法律监管的
3/18/2024 7:03:43 PM
清源
  • 1