一天最高产出 7000 篇谣言扰乱公共秩序,江西一 MCN 机构用 AI 造谣被曝光

感谢据央视昨日报道,今年 1 月,有网络平台出现一条“西安发生爆炸”的消息,其时间地点等关键信息和配图齐备,极具迷惑性。经警方调查,消息发布账号归属于一家江西的 MCN 机构。IT之家注:MCN 指“多频道网络”,是与内容创作者合作或直接生产内容的任何实体或组织,并在发布内容的网络平台上执行业务和营销功能。该公司实际控制人为王某某。据南昌市公安局高新分局网络安全保卫大队大队长李毅介绍,上述“爆炸”消息经核实并未发生,就此初步判定该 MCN 机构发布的数条信息涉嫌网络造谣。警方立刻对该公司负责人进行约谈,同时勘察该公
感谢据央视昨日报道,今年 1 月,有网络平台出现一条“西安发生爆炸”的消息,其时间地点等关键信息和配图齐备,极具迷惑性。经警方调查,消息发布账号归属于一家江西的 MCN 机构。

IT之家注:MCN 指“多频道网络”,是与内容创作者合作或直接生产内容的任何实体或组织,并在发布内容的网络平台上执行业务和营销功能。

一天最高产出 7000 篇谣言扰乱公共秩序,江西一 MCN 机构用 AI 造谣被曝光

该公司实际控制人为王某某。据南昌市公安局高新分局网络安全保卫大队大队长李毅介绍,上述“爆炸”消息经核实并未发生,就此初步判定该 MCN 机构发布的数条信息涉嫌网络造谣

警方立刻对该公司负责人进行约谈,同时勘察该公司办公场所,对使用的电脑和软件工具进行现场取证。

经核实,上述谣言从文本到图片全部由 AI 生成。王某某通过国内一个网站 —— 其专门提供“近期可能生成热点的新闻报道”或“正在 / 即将发生的一类事情”,并分级分类将关键词提供给写作者。王某某通过该网站生成关键词,形成了文章的标题

王某某随后再通过具有语音交互功能的 AI 软件,说出关键词后软件自动从网络上抓取相关信息,生成数百到上千字的文本,并配上“貌似与事件相关”的虚假图片,从而形成看起来信息量很大、实际上子虚乌有的内容。

一天最高产出 7000 篇谣言扰乱公共秩序,江西一 MCN 机构用 AI 造谣被曝光

随后,王某某再将 AI 生成的内容使用另一款软件自动上传到该 MCN 机构控制的多网络平台不同账号上,并对外发布,全程基本不需要人工参与。因此,在操作过程中产生了此类谣言信息。这家 MCN 机构短时间内生成了大量文章,最高峰一天能生成 4000-7000 篇

警方在调查过程中发现,该 MCN 机构在网络上发布的内容以民生类信息为主,通过加入夸张故事情节或猎奇性成分,或编造不实信息来获取网民关注度、点赞量,进而实现流量变现。通过这一方式,王某某在短时间内获得了高额报酬。经警方初步估算,该机构每天的收入在 1 万元以上

经查,江西男子王某江经营有 5 家 MCN 机构,共运营自媒体账号 842 个,其长期组织公司人员选取热点文章,使用人工智能工具批量生成不实文章进行吸粉引流。目前,江西南昌公安机关已对王某江处以行政拘留 5 日,责令涉案 MCN 机构停业整改。

相关资讯

白宫要求美国各联邦机构设置“首席人工智能官”,确保 AI 使用情况公开透明

据彭博社报道,美国行政管理与预算局当地时间 28(今)日发布指令,要求各联邦机构监测、评估和测试人工智能对公众的影响,减轻算法歧视及侵犯隐私的风险,并提高政府使用人工智能技术的透明度。图源 Pexels各机构还必须建立 AI 治理委员会,设立“首席人工智能官”(IT之家注:Chief AI Officer 简称 CAIO)一职,负责协调政府各部门对人工智能的使用,同时将实行风险评估并设定运营和治理指标。 各机构还必须向管理和预算办公室(OMB)提交年度报告,列出其使用的所有人工智能系统、与之相关的任何风险以及计划如

AI 一键去衣“1 块 5 一张”,北京一男子非法制造七千余张不雅照片被捕

今天央视新闻 CCTV13《法治在线》曝光了一起“AI 脱衣”案件,北京一男子白某某在社交平台上刊载广告,声称可提供“一键去衣”服务,单价为“1 块 5 一张”,警方根据其留下的账号线索顺藤摸瓜抓获了嫌疑人。IT之家从报道中获悉,该男子在 2023 年 6 月至 8 月利用 Stable Diffusion 框架配合特定 AI 模型,在社交平台公然发布广告,并利用微信 / QQ 等聊天工具进行交流转账,将他人提供的女明星、女同事、女同学照片制作为裸体不雅照片。据检察机关统计,白某某在社交平台上发布的广告点击量有 3

使用 AI 软件生成未经证实假新闻,一网民被处以行政处罚

据“云南网警”消息,云南省迪庆州香格里拉市公安局网安大队查处了一起利用 AI 人工智能技术炮制虚假不实信息的案件。迪庆网警接群众举报,香格里拉市一网民在某网络平台发布了大量涉及全国各地的无法核实的事件消息,发布的文章格式一致,高度疑似 AI 合成。经调查,民警很快就锁定了陈某某,香格里拉市公安机关第一时间,将陈某某传唤到案。经询问,陈某某交代,其为吸引网民关注,博取流量牟利,使用 AI 软件生成系列未经证实的假新闻,并发布至其运维的网络账号。目前,陈某某因涉嫌虚构事实扰乱公共秩序被香格里拉市公安局依据,《中华人民共