小红书打击黑灰产账号,严控AI生成内容对社区的影响

近日,小红书发布了关于黑灰产账号治理的阶段性进展公告,显示该平台在过去三个月内共处理了超过320万的违规账号。 这项行动旨在遏制利用 AI 生成同质化内容的黑灰产团伙,保护社区生态。 小红书的治理工作从去年11月开始,专注于打击虚假营销和黑灰产养号行为。

近日,小红书发布了关于黑灰产账号治理的阶段性进展公告,显示该平台在过去三个月内共处理了超过320万的违规账号。这项行动旨在遏制利用 AI 生成同质化内容的黑灰产团伙,保护社区生态。小红书的治理工作从去年11月开始,专注于打击虚假营销和黑灰产养号行为。

根据小红书 “薯管家” 的公告,这些黑灰产团伙通常通过批量发布相似的影视内容来迅速积累关注者,然后再通过转售这些账号或发布虚假内容来进行盈利。这种现象严重扰乱了小红书的社区环境,使得用户难以找到真实、有价值的内容。

QQ20250219-110030.png

在这场斗争中,治理团队特别强调了 “真人养号” 的隐蔽性。黑灰产团伙利用 AIGC(人工智能生成内容)大模型批量生产的内容,采用热点跟风的方式,创建了大规模的账号矩阵。尤其是在旅游、教育等行业,黑灰产账号频繁出现,发布低质甚至恶意的营销内容,误导消费者。这种行为不仅损害了用户体验,也对平台的声誉造成了影响。

小红书的治理专项负责人表示,这项打击行动是该平台历史上最严厉的黑灰产账号治理行动。他们将继续加大力度,确保社区的健康发展。通过这样的措施,小红书希望能为用户提供一个真实可信的社交平台,让用户能够享受高质量的内容分享与交流。

相关资讯

小红书重点打击黑灰产团伙用AIGC大模型大规模矩阵养号行为

日前,小红书发布了最新的 “黑灰产账号治理阶段进展公告”,宣布在过去三个月内,共计处置了超过320万的黑灰产账号。 根据公告,截至2023年2月17日,小红书的 “薯管家” 团队在治理过程中,发现并处理了401个拥有10万以上粉丝的账号,以及9215个拥有1万以上粉丝的账号。 这表明黑灰产账号在社区内的影响力不容小觑。

小红书 AI 翻译加急上线:网友评论区玩起 Prompt,背后大模型被扒出

网友盛赞“最有用的大模型应用”,小红书 AI 翻译功能上线了!实测发现,实在是太好用了。翻译软件做到的它能做,翻译软件不能做的它也能做。比如一些网络热梗。

「称霸」20年的谷歌翻译,一朝被小红书干沉默了

AI好好用报道编辑:杨文莲花脚皮片、硬气体毛……谷歌翻译闹出的那些国际笑话。 每天都在小红书上找乐子。 因为中外网友语言不通,唠嗑全倚仗谷歌翻译器。