小红书重点打击黑灰产团伙用AIGC大模型大规模矩阵养号行为

日前,小红书发布了最新的 “黑灰产账号治理阶段进展公告”,宣布在过去三个月内,共计处置了超过320万的黑灰产账号。 根据公告,截至2023年2月17日,小红书的 “薯管家” 团队在治理过程中,发现并处理了401个拥有10万以上粉丝的账号,以及9215个拥有1万以上粉丝的账号。 这表明黑灰产账号在社区内的影响力不容小觑。

日前,小红书发布了最新的 “黑灰产账号治理阶段进展公告”,宣布在过去三个月内,共计处置了超过320万的黑灰产账号。

根据公告,截至2023年2月17日,小红书的 “薯管家” 团队在治理过程中,发现并处理了401个拥有10万以上粉丝的账号,以及9215个拥有1万以上粉丝的账号。这表明黑灰产账号在社区内的影响力不容小觑。小红书方面表示,治理黑灰产账号主要集中在两个领域:黑灰产养号和恶意营销。

QQ_1739927948179.png

黑灰产养号是指某些团伙通过批量发布同质化的影视二次创作视频,来迅速增加账号的粉丝量。随后,他们通过售卖这些账号或发布虚假营销内容来获利。在过去三个月内,治理团队成功处置了超过100万个黑灰产养号账号。

QQ_1739927887358.png

值得关注的是,小红书明确指出,黑灰产团伙利用 AIGC 大模型批量生成同质化素材,或采取热点跟风手段,通过超大规模矩阵养号,严重扰乱社区生态。

另外,黑灰产恶意营销则是指这些团伙利用账号兜售非法或灰色商品和服务。例如,提供帮助债务人逃避债务的 “逾期协商” 服务,或是伪科学的 “占卜玄学” 服务。此外,他们还会通过多个行业进行违规营销,利用数千个黑灰产账号发布虚假、低质的营销内容,影响社区的正常秩序。在旅游和教育行业,他们打造 “素人人设”,并通过虚假内容引导用户购买课程。

划重点:

🔍3个月内,小红书治理团队共处置超过320万个黑灰产账号,包括401个10万粉以上的账号。

⚖️ 治理工作分为黑灰产养号和恶意营销两大领域,重点打击使用 AIGC 大模型生成同质化素材的行为。

🚫 小红书将继续加强对黑灰产账号的监管,以维护社区的良好生态。

相关资讯

小红书打击黑灰产账号,严控AI生成内容对社区的影响

近日,小红书发布了关于黑灰产账号治理的阶段性进展公告,显示该平台在过去三个月内共处理了超过320万的违规账号。 这项行动旨在遏制利用 AI 生成同质化内容的黑灰产团伙,保护社区生态。 小红书的治理工作从去年11月开始,专注于打击虚假营销和黑灰产养号行为。

小红书 AI 翻译加急上线:网友评论区玩起 Prompt,背后大模型被扒出

网友盛赞“最有用的大模型应用”,小红书 AI 翻译功能上线了!实测发现,实在是太好用了。翻译软件做到的它能做,翻译软件不能做的它也能做。比如一些网络热梗。

「称霸」20年的谷歌翻译,一朝被小红书干沉默了

AI好好用报道编辑:杨文莲花脚皮片、硬气体毛……谷歌翻译闹出的那些国际笑话。 每天都在小红书上找乐子。 因为中外网友语言不通,唠嗑全倚仗谷歌翻译器。