印尼 DeepFake 深度伪造 AI 视频骗局泛滥,消息称有民众因“总统的脸”中招

随着AI技术普及,DeepFake视频诈骗在全球范围内泛滥。印尼总统普拉博沃的头像被犯罪分子盗用,制作虚假视频骗取民众钱财。自去年10月以来,已有至少22个虚假账号冒充普拉博沃,通过社交平台骗取“行政费”。#AI诈骗# #DeepFake##印尼深伪视频骗局泛滥#

随着 AI 逐渐进入当代人们生活,全球多地都出现各种犯罪分子利用 DeepFake 等 AI 技术伪造“真人视频”进行诈骗的例子。

综合新加坡《海峡时报》及印尼当地媒体,印尼目前相应 AI 深度伪造视频骗局也相当泛滥,因推动免费营养餐等福利政策被选民熟知并最终成功当选的印尼总统普拉博沃,他的头像频遭犯罪者盗用制作“深伪”视频。

自去年 10 月普拉博沃宣誓就职以来,至少有 22 个虚假账号冒充“普拉博沃”手法欺骗民众,以提供“援助”名义蒙骗不知情的民众给犯罪分子设置的社交平台转账 25 万至 100 万印尼盾(AI在线注:约人民币 109.75 元至 438.99 元)的“行政费”

据相应媒体介绍,其中一个账号有 7.7 万名追随者,1 月以来上传了 100 个视频,大部分是普拉博沃要给人“打钱”的 AI 伪造视频。目前部分账号已被关停。

相关资讯

研究:2000 人中仅两人能准确识别深度伪造内容

随着深度伪造技术(deepfake)的不断发展,人们对虚假信息、诈骗和身份盗窃的担忧日益加剧。一项最新研究显示,人们对 AI 工具的认知水平极低,难以有效识别深度伪造内容。

民警利用 AI 大模型找回 70 名失踪被拐儿童,其中 18 名童年时期无照片

据媒体“新法制报”报道,今年春节前夕,南昌铁路公安处庐山站派出所民警汪挺利用 AI 大模型,将被拐 36 年且无童年照片的刘水泉“带回”了家。

利用 AI 生成“小姐姐”照片视频实施“流水化”诈骗,上海破获一起“恋爱交友”电诈案件

上海市公安局闵行分局近期通报破获一起以“恋爱交友”为名的电信网络诈骗案,捣毁一个10人诈骗团伙,涉案资金200余万元,相应犯罪团伙主要利用AI生成“小姐姐”照片视频内容后在短视频平台引流,再用同一套话术“剧本”,对全国各地近千名男性实施“流水化”诈骗。 据悉,2024年8月,市民刘先生至上海市公安局闵行分局刑侦支队报案,称其在2个月前通过一则短视频结交了网友“焦女士”,接触后感觉十分投缘。不久,“焦女士”称在外出游玩时为他请了一串手串,刘先生深受感动,两人迅速发展为恋人关系。 随后,“焦女士”又称刚盘下一家服装店,希望刘先生能为她预订花篮支持开业,刘先生未多想就转账给了对方推荐的“花店老板”。接下来的一个月内,“焦女士”故伎重施,以家属生病、进货需要资金等理由,陆续向刘先生索要了近20万元。 其间,为博得信任,“焦女士”还向刘先生展示了“身份证”“家属病历”和“进货单”。然而,数月以来刘先生却连“焦女士”的面都没见过,察觉被骗后,刘先生遂向警方报案。 经查,2024年嫌疑人杨某组织同乡吴某、林某、仲某等人组成诈骗团伙。利用AI生成的视频或网络素材拼贴发布交友短视频引流,进行“广撒网式”行骗,诱导被害人添加微信。 待相应受害者“上钩”后,犯罪团伙中的“聊天业务员”便会使用“恋爱话术”与被害人聊天,通过建立人设、嘘寒问暖、赠送手串等方式确立“恋爱关系”。后续则与被害人谈婚论嫁、畅想未来,利用“购买礼物”“开业花篮”等理由进一步筛选潜在被害人。最后,嫌疑人会谎称家属住院需要高额手术费,并由嫌疑人仲某提供虚假身份证、病历。被害人往往会在层层套路中越陷越深,直至人财两空。 2025年1月,在当地警方支持下,上海闵行警方在广东、福建、山东等地开展集中收网行动。警方在嫌疑人租住的房屋内查获用于发布引流短视频和聊天的手机60余部、手机卡250余张,并发现嫌疑人使用的一套话术“剧本”和各地近千名潜在被害人的通讯录。 目前,犯罪嫌疑人杨某等4人因涉嫌诈骗罪已被检察机关批准逮捕,其余6名犯罪嫌疑人已被闵行警方依法采取刑事强制措施,案件还在进一步侦办中。