抖音:严厉打击利用 AI 骗取老年人互动,下架违规视频、处置违规账号

抖音官方于 10 月 25 日发布《抖音严厉打击利用 AI 骗取老年人互动的治理公告》。 抖音官方表示,鼓励创作优质内容,包括采用 AI 技术进行辅助创作,但所创作内容必须遵循平台规范。 平台对利用生成式人工智能技术创作和发布违背科学常识、弄虚作假、造谣传谣的内容进行持续打击。

抖音官方于 10 月 25 日发布《抖音严厉打击利用 AI 骗取老年人互动的治理公告》。

抖音官方表示,鼓励创作优质内容,包括采用 AI 技术进行辅助创作,但所创作内容必须遵循平台规范。平台对利用生成式人工智能技术创作和发布违背科学常识、弄虚作假、造谣传谣的内容进行持续打击。

近期平台发现,有账号不当利用 AI 技术,生成小和尚、军人、AI 女性等虚拟形象,却不在内容中进行 AI 标注提示,并采用特定话术,引诱老年人点赞、关注、发布评论,甚至进行导流获利,平台进行了严厉处置

抖音:严厉打击利用 AI 骗取老年人互动,下架违规视频、处置违规账号

AI在线附其中典型行为包括:

  • 生成小和尚形象,说出“我发现你身边有块绊脚石,我打算给你搬走”“如果觉得小和尚说得对,送给小和尚一朵小红花吧”等话语,利用迷信、心灵鸡汤等内容,骗取老年人互动

  • 生成军人形象,以“娘,别滑走,孩子想和您谈谈心”“亲爱的母亲,我正在执行任务,给我一点鼓励”“告诉你一个小秘密,点一下我头像下面的小加号”等口吻,利用军人正面形象及老年人想念子女心理,骗取老年人互动

  • 生成 AI 女性形象,以“大叔,感谢你又来看妹妹了,如果再送我一朵花我会感动一整天”“听说你很厉害,很多美女都喜欢你”“我会做饭、做家务、能聊天,你愿意把我带回家吗”等情感话术诱导,骗取老年人互动

抖音官方表示,以上内容严重违反了平台规则。针对使用 AI 生成虚拟人物发布违规内容的行为,平台会对违规视频下架,对违规账号进行取消其投稿和营利权限、封禁账号等处置,并利用模型、技术识别能力等手段,进行长期系统的识别发现和处置。

给TA打赏
共{{data.count}}人
人已打赏
应用

OpenAI 公布新型 AI 文生图方案“sCM”,号称效率是传统扩散模型 50 倍

2024-10-27 15:18:03

应用

因使用生成式 AI 制作恶意软件,日本一 25 岁男子首次被判有罪

2024-10-28 7:50:42

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索