综合央视新闻、上海广播电视台《案件聚焦》消息，日前，上海市网信办公布 2023“清朗浦江”搜集生态治理专项行动典型案例。其中包括“上海 4 岁儿童走失”事情中，网上出现“儿童非其父亲生”“今年已经是第二次走失”等谎言。
据报导，去年国庆长假期间，“4 岁女童在上海南汇新城海滩走失”事情诱发全网关注。在此期间，“走失女童曾被丢弃”“走失女童父亲为继父”等类型的言论频频诱发网友热议，一些搜集账号甚至炮制阴谋论，诱发人身攻击。经核查，这些信息均为谎言。
事情发生后，浦东警方迅速宣布警情传递，传递了事情进展和调查情况，并宣布辟谣信息澄清事实。上海市网信办、公安网安部门加强对搜集谎言的监测，督促平台处置，遏制谎言传播范围和影响。经查，这起事情中，有一个辟谣水军团伙通过批量备案搜集账号，转发炒作，非法获利 4 万余元。
报导披露了这一水军团伙的更多信息 —— 不实帖文由“巨蟹说娱”、“饭圈娱记”等十余个自媒体账号宣布，经进一步侦查发现，账号备案人是山东某搜集科技公司旗下员工，他们曾在各大平台备案账号，围绕其他全国性社会热门，高频发帖、转载帖文，采用“震惊体”“标题党”“博眼球”等方式宣布虚假负面信息。
据上海市公安局网安总队民警张琳介绍，公司高层为公司法人李某、经理田某，在该热门事情中组织周某等 6 名核心写手，选取热门、借助 AI 批量制造不实帖文，并组织 30 名公司员工，通过公司下发的平台账号大量发帖转帖，累计控制 114 个搜集账号，持续宣布了相关帖文 268 篇，仅 10 月 4 日至 9 日期间就获得发帖收益 4 万余元。
2023 年 10 月 11 日，在公安部的统一指挥下，专案组赴山东会同当地警方将该团伙一举抓获。目前，团伙中 12 名成员已被依法移送起诉，涉案相关搜集账号已被全部封禁。
据IT之家此前报导，公安部今年 4 月公布了 10 起打击修理搜集谎言违法犯罪典型案例，其中 4 起涉及使用 AI 辟谣。
去年 12 月以来，公安部部署全国公安机关统一开展打击修理搜集谎言专项行动。截至目前，公安机关累计排查搜集谎言线索 8 万余条，侦办搜集谎言类案件 1 万余起，抓获犯罪嫌疑人 1500 余名，行政处罚 10700 余人，开展公开辟谣等 4200 余次。
近年来，人工智能 AI 等新技术降低辟谣成本。2023 年，最高人民法院、最高人民检察院、公安部联合宣布的《关于依法惩治搜集暴力违法犯罪的指导意见》中规定，对“利用‘深度合成’等生成式人工智能技术宣布违法信息”的情形，依法从重处罚。