AI在线 AI在线

小红书重点打击黑灰产团伙用AIGC大模型大规模矩阵养号行为

作者:AI在线
2025-02-19 09:16
日前,小红书发布了最新的 “黑灰产账号治理阶段进展公告”,宣布在过去三个月内,共计处置了超过320万的黑灰产账号。 根据公告,截至2023年2月17日,小红书的 “薯管家” 团队在治理过程中,发现并处理了401个拥有10万以上粉丝的账号,以及9215个拥有1万以上粉丝的账号。 这表明黑灰产账号在社区内的影响力不容小觑。

日前,小红书发布了最新的 “黑灰产账号治理阶段进展公告”,宣布在过去三个月内,共计处置了超过320万的黑灰产账号。

根据公告,截至2023年2月17日,小红书的 “薯管家” 团队在治理过程中,发现并处理了401个拥有10万以上粉丝的账号,以及9215个拥有1万以上粉丝的账号。这表明黑灰产账号在社区内的影响力不容小觑。小红书方面表示,治理黑灰产账号主要集中在两个领域:黑灰产养号和恶意营销。

QQ_1739927948179.png

黑灰产养号是指某些团伙通过批量发布同质化的影视二次创作视频,来迅速增加账号的粉丝量。随后,他们通过售卖这些账号或发布虚假营销内容来获利。在过去三个月内,治理团队成功处置了超过100万个黑灰产养号账号。

QQ_1739927887358.png

值得关注的是,小红书明确指出,黑灰产团伙利用 AIGC 大模型批量生成同质化素材,或采取热点跟风手段,通过超大规模矩阵养号,严重扰乱社区生态。

另外,黑灰产恶意营销则是指这些团伙利用账号兜售非法或灰色商品和服务。例如,提供帮助债务人逃避债务的 “逾期协商” 服务,或是伪科学的 “占卜玄学” 服务。此外,他们还会通过多个行业进行违规营销,利用数千个黑灰产账号发布虚假、低质的营销内容,影响社区的正常秩序。在旅游和教育行业,他们打造 “素人人设”,并通过虚假内容引导用户购买课程。

划重点:

🔍3个月内,小红书治理团队共处置超过320万个黑灰产账号,包括401个10万粉以上的账号。

⚖️ 治理工作分为黑灰产养号和恶意营销两大领域,重点打击使用 AIGC 大模型生成同质化素材的行为。

🚫 小红书将继续加强对黑灰产账号的监管,以维护社区的良好生态。

相关资讯

小红书打击黑灰产账号,严控AI生成内容对社区的影响

近日,小红书发布了关于黑灰产账号治理的阶段性进展公告,显示该平台在过去三个月内共处理了超过320万的违规账号。 这项行动旨在遏制利用 AI 生成同质化内容的黑灰产团伙,保护社区生态。 小红书的治理工作从去年11月开始,专注于打击虚假营销和黑灰产养号行为。
2/19/2025 11:01:00 AM
AI在线

3个月吸粉15W!手把手教你做小红书超火的AI人间清醒语录卡片

一键出爆款! 如何用 Coze 搭建图文生成 排版一体化工作流? 一、完整工作流拆解,一张图看懂 最终会生成的内容:4 张图片(1 张封面页,3 张内容页),如下图:我们要实现上图工作流,需要先搭建「2 个图像流,1 个工作流,1 个卡片,1 个 Bot」,如下所示:二、图像流创建:封面页 通过搭建「图像流」来生成下图这张封面:图阅读文章 .
11/1/2024 7:55:49 AM
夏花生

小红书 AI 翻译加急上线:网友评论区玩起 Prompt,背后大模型被扒出

网友盛赞“最有用的大模型应用”,小红书 AI 翻译功能上线了!实测发现,实在是太好用了。翻译软件做到的它能做,翻译软件不能做的它也能做。比如一些网络热梗。
1/20/2025 3:01:27 PM
清源