据公安部网安局消息，安徽蚌埠李某于今年 3 月底偶然在网上发现一条“生财之道”，即在某 App 上发布文章，动动手指，就可赚取金额可观的“零花钱”，遂利用已经熟识的各类 AI 软件，输入所需信息主题自动生成文章，依托该渠道，李某仅用一周时间便发布了 300 多篇。
然而，AI 生成文章的真实性是个大问题，几乎所有信息李某均未对其甄别就直接发布，导致其中掺杂的谣言内容开始在网上传播。李某发布的一篇题为“蚌埠警方严打卖淫嫖娼，公布逮捕名单彰显法制决心”的文章惹了事。
文章称蚌埠警方将公布大量所谓卖淫嫖娼违法人员资料，误导读者认为警方在故意泄露公民信息。该文发出后被较多网民阅读关注并留言转发，严重损害了公安形象，造成了较大的负面影响。
4 月 8 日，蚌埠市公安局蚌山分局网安大队和辖区派出所一起找到李某。经审查，李某对自己伪造、传播虚假信息的违法事实供认不讳，依据《治安管理处罚法》第二十五条第一款规定，蚌埠警方对李某依法予以行政拘留，同时责令删除相关谣言文章。
公安部网安局表示，网络不是法外之地，广大网民要依法依规合理使用互联网新技术、新应用。利用 AI 等软件编造虚假、违法信息，扰乱社会公共秩序的，公安机关必将坚决依法严厉打击。
随着科技的不断发展，AI 技术的应用越来越广，通过 AI 生成假信息的情况也越来越多、越来越难以分辨。据IT之家今年 3 月报道，广西警方就曾对两个通过 AI 编“伪消息”博眼球，造“假通报”蹭热度的账号进行处置。
