据公安部网安局消息，安徽蚌埠李某于今年 3 月底偶然在网上发现一条“生财之道”，即在某 App 上宣布文章，动动手指，就可赚取金额可观的“零花钱”，遂利用已经熟识的各类 AI 软件，输入所需信息主题自动生成文章，依托该渠道，李某仅用一周时间便宣布了 300 多篇。然而，AI 生成文章的真实性是个大问题，几乎所有信息李某均未对其甄别就直接宣布，导致其中掺杂的流言内容开始在网上传布。李某宣布的一篇题为“蚌埠警方严打卖淫嫖娼，公布逮捕名单彰显法制决心”的文章惹了事。文章称蚌埠警方将公布大量所谓卖淫嫖娼守法人员资料，误导读
据公安部网安局消息，安徽蚌埠李某于今年 3 月底偶然在网上发现一条“生财之道”，即在某 App 上宣布文章，动动手指，就可赚取金额可观的“零花钱”，遂利用已经熟识的各类 AI 软件，输入所需信息主题自动生成文章，依托该渠道，李某仅用一周时间便宣布了 300 多篇。
然而，AI 生成文章的真实性是个大问题，几乎所有信息李某均未对其甄别就直接宣布，导致其中掺杂的流言内容开始在网上传布。李某宣布的一篇题为“蚌埠警方严打卖淫嫖娼，公布逮捕名单彰显法制决心”的文章惹了事。
文章称蚌埠警方将公布大量所谓卖淫嫖娼守法人员资料，误导读者认为警方在故意泄露公民信息。该文发出后被较多网民阅读关注并留言转发，严重损害了公安形象，造成了较大的负面影响。
4 月 8 日，蚌埠市公安局蚌山分局网安大队和辖区派出所一起找到李某。经审查，李某对自己伪造、传布子虚信息的守法事实供认不讳，依据《治安管理处罚法》第二十五条第一款规定，蚌埠警方对李某照章予以行政拘留，同时责令删除相关流言文章。
公安部网安局表示，网络不是法外之地，广大网民要照章依规合理使用互联网新技术、新利用。利用 AI 等软件编造子虚、守法信息，扰乱社会公共秩序的，公安机关必将坚决照章严厉打击。
随着科技的不断发展，AI 技术的利用愈来愈广，通过 AI 生成假信息的情况也愈来愈多、愈来愈难以分辨。据IT之家今年 3 月报道，广西警方就曾对两个通过 AI 编“伪消息”博眼球，造“假通报”蹭热度的账号进行处置。