网民借 AI 编造“四川凉山山体滑坡”谣言,公安网安部门依法处罚

公安机关网安部门立即开展网络谣言打处工作,维护人民群众生活安宁。

AI在线从公安部网安局获悉,近期有网民为借“四川宜宾山体滑坡灾害”博取流量,使用 AI 技术炮制随意捏造灾害发生的时间、地点及受灾、救灾情况,形成“四川凉山发生山体滑坡灾害”系列谣言并传播,引发当地群众恐慌和网民质疑,扰乱视听。公安机关网安部门立即开展网络谣言打处工作,维护人民群众生活安宁。

两起案例如下:

  • 2025 年 2 月 9 日,重庆市垫江县网民周某为“蹭热点”赚取流量收益,使用 AI 工具生成“四川滑坡事件中有一名男子笑得那么开心”帖文并在网上发布。该信息系在互联网上搜索与不相关图片、文章后编辑而成,捏造四川凉山州美姑县发生山体滑坡事件、当地民众面对灾情不悲反笑等谣言,扰乱公共秩序,造成不良社会影响。属地公安机关已依法对周某处以行政处罚。

图片

▲ 图源公安部网安局,下同

二、2025 年 2 月 11 日,广东深圳网民许某鑫为吸粉引流、赚取流量收益,使用 AI 工具生成“四川山体滑坡”文案,但其中灾害发生地、救灾情况等内容均为 AI 工具凭空捏造,与事实严重不符,致使“四川凉山州遭遇山体滑坡”谣言扩散传播,扰乱公共秩序,造成不良社会影响。属地公安机关已对周某处以行政处罚。

图片

相关资讯

​谷歌利用ai拦截 236 万款恶意应用在Google Play上架

随着 Android 用户数量突破30亿,谷歌在保护用户安全方面的压力与日俱增。 为了应对日益猖獗的网络攻击,谷歌宣布加大对人工智能(AI)的投入,以提升恶意软件检测能力、加强隐私保护措施,并为开发者提供更完善的工具。 通过这些努力,谷歌在过去一年中成功阻止了236万款违反政策的应用程序发布在 Google Play 商店。

《人工智能安全治理框架》1.0 版发布

感谢据央视新闻今日报道,在 2024 年国家网络安全宣传周主论坛上,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版。制定该《框架》旨在落实《全球人工智能治理倡议》,遵循“以人为本、智能向善”的发展方向,推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方,就人工智能安全治理达成共识、协调一致,有效防范化解人工智能安全风险。《框架》提出了包容审慎、确保安全,风险导向、敏捷治理,技管结合、协同应对,开放合作、共治共享等人工智能安全治理的原则。针对模型算法安全、数据安全和系统安全等内生安全风险

为什么AI增强的威胁和法律不确定性成为风险主管最关心的问题

据Gartner称,2024年第三季度,企业面临的最大新兴风险是AI增强的恶意攻击。 关键的新兴风险这是连续第三个季度,这类攻击被列为首要新兴风险。 IT供应商的关键性以及动荡的监管和法律环境是新出现的首要企业新兴风险。