感谢日前，公安部公布 10 起打击整治搜集流言违法犯罪典型案例，其中 4 起涉及利用 AI 辟谣。
去年 12 月以来，公安部部署全国公安机关统一开展打击整治搜集流言专项行动。截至目前，公安机关累计排查搜集流言线索 8 万余条，侦办搜集流言类案件 1 万余起，抓获犯罪嫌疑人 1500 余名，行政处罚 10700 余人，开展公开辟谣等 4200 余次。
近年来，人工智能 AI 等新技术降低辟谣成本。2023 年，最高人民法院、最高人民检察院、公安部联合颁布的《关于依法惩治搜集暴力违法犯罪的指导意见》中规定，对“利用‘深度合成’等生成式人工智能技术颁布违法信息”的情形，依法从重处罚。
IT之家汇总 10 起案例如下：
一、浙江、江苏公安机关查处“寒假作业丢巴黎”摆拍引流案。2 月 16 日，浙江杭州网民徐某艺在抖音、快手、新浪微博、哔哩哔哩、百家号、优酷、小红书、西瓜视频等平台颁布“在法国巴黎捡获一年级学生秦朗的寒假作业”相关视频，迅速引发全网关注热议，多日占据多个平台热搜榜。2 月 17 日，江苏南通杨某在该视频评论区假冒“秦朗舅舅”进行引流并进行辟谣、摆拍、直播，引发“全网寻人”行动。2 月 19 日，徐某艺再次颁布视频谎称“已联系到秦朗母亲”。公安机关查明徐某艺与其公司编导薛某假造剧本，在网上购买寒假作业本，摆拍视频进行颁布。目前，浙江杭州公安机关已对徐某艺、薛某以及涉事公司处以行政处罚，并责令公开道歉，随后对其账号予以阶段性禁言。江苏南通公安机关已对杨某处以行政处罚，账号已关停。
二、山东公安机关查处辟谣“喂住院婆婆吃泡面”案。2023 年 12 月起，山东聊城网民林某美在抖音平台颁布 7 条“让住院婆婆吃泡面”视频，引发大范围传达和搜集热议。经查，林某美伙同其母亲摆拍上述虚假视频，以炒作“虐待婆婆”虚假信息吸粉引流，并通过直播带货将流量“变现”。山东聊城公安机关已对林某美处以行政拘留 5 日。
三、湖北公安机关查处一起“造黄谣”案。2024 年 2 月，有网民传达某网红“下海”卖淫等流言信息及淫秽视频，恶意“造黄谣”对相关当事人实施侮辱诽谤。公安机关查明自媒体从业人员聂某鹏为吸粉引流，收集色情信息，恶意拼接“造黄谣”文章，利用微信公众号颁布，并在多个微信群转发炒作，导致该信息大量传达。目前，湖北潜江公安机关已对聂某鹏采取刑事强制措施。
四、上海公安机关查处一起建“吃瓜群”辟谣取利案。在近期一起搜集热点事件中，不法分子将无关人员照片、视频与涉事女子信息恶意拼接，大量制造和传达流言，肆意对他人进行侮辱诽谤，宣称有劲爆不雅视频等，并通过发送群二维码、广告链接等，吸引大量网民至收费微信群观看，非法取利。经查，涉案人员长期蹭“八卦”流量，在网上搜集热点事件视频、图片进行恶意拼接，炮制形成新的“八卦”，创建收费“吃瓜群”进行取利，致使大量搜集流言和侮辱诽谤信息长期传达。目前，上海公安机关已抓获 17 名犯罪嫌疑人并采取刑事强制措施。
五、湖南公安机关查处假造“民警离职潮”流言案。2024 年 3 月，湖南株洲网民黄某强为运营自媒体赚取费用，利用人工智能东西假造“基层民警出现离职潮”等流言文章，通过微信公众号颁布以博取眼球、吸引流量，导致流言信息传达扩散。湖南株洲公安机关已对黄某强处以行政处罚。
六、安徽公安机关查处假造“救灾物资被倒卖”流言案。2023 年 12 月，甘肃省临夏州积石山县地震发生后，安徽宿州网民刘某辉为吸引眼球，在闲鱼平台颁布售卖某品牌羽绒服链接，辟谣称“出售援助甘肃震区的羽绒服，先到先得”等，导致“援助灾区的羽绒服被倒卖”相关流言广泛传达，造成恶劣影响。安徽宿州公安机关迅速将刘某辉抓获归案。目前，刘某辉已被法院依法判处有期徒刑 10 个月。
七、江西公安机关查处一起 MCN 机构利用人工智能东西辟谣案。2024 年 1 月以来，有 MCN 机构利用自媒体账号陆续在今日头条平台颁布“某市 2024 年 1 月 10 日发生爆炸导致建筑、车辆炸毁、人员伤亡”“某公司的转基因试验证实转基因玉米致 1000 只小白鼠全部死亡”等多条流言信息。经查，江西男子王某江经营有 5 家 MCN 机构，共运营自媒体账号 842 个，其长期组织公司人员选取热点文章，利用人工智能东西批量生成不实文章进行吸粉引流。目前，江西南昌公安机关已对王某江处以行政拘留 5 日，责令涉案 MCN 机构停业整改。
八、重庆公安机关查处一起利用人工智能东西假造“爆炸事故”流言案。2023 年 12 月，网上流传一篇题为“某地一民房发生爆炸事故，4 人不幸遇难，官方紧急介入调查”的流言文章，以新闻报道的口吻辟谣“某地突发爆炸事故、发现了 4 名遇难者，其中包括一名儿童”等。经查，重庆网民康某余为引流取利，利用人工智能东西假造虚假信息后在今日头条平台颁布。重庆公安机关已对康某余处以行政拘留 3 日。
九、江西公安机关查处假造“某银行倒闭”流言案。2024 年 3 月，江西赣州网民廖某慧为吸引眼球，在多个微信群假造颁布“某银行倒闭”“钱趁早去取出来”等流言信息，引发流言大范围传达，导致 1500 余名该银行储户到网点聚集，集中兑付取款，严重扰乱公共秩序。江西赣州公安机关已对廖某慧处以行政拘留 5 日。
十、广东公安机关查处假造“广州限制外卖配送”流言案。2023 年 12 月 19 日，有网民在今日头条平台颁布“广州即将成为全国首个限制外卖配送的城市”，迅速引发关注形成搜集热搜。经查，四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，利用人工智能东西批量生成不实文章进行引流取利。叶某英为吸引眼球假造颁布上述流言，扰乱社会正常秩序。广东广州公安机关已对杨某、叶某英等 6 名人员采取刑事强制措施。