抖音官方于 10 月 25 日发布《抖音严厉打击利用 AI 骗取老年人互动的治理公告》。
抖音官方表示，鼓励创作优质内容，包括采用 AI 技术进行辅助创作，但所创作内容必须遵循平台规范。平台对利用生成式人工智能技术创作和发布违背科学常识、弄虚作假、造谣传谣的内容进行持续打击。
近期平台发现，有账号不当利用 AI 技术，生成小和尚、军人、AI 女性等虚拟形象，却不在内容中进行 AI 标注提示，并采用特定话术，引诱老年人点赞、关注、发布评论，甚至进行导流获利，平台进行了严厉处置。
AI在线附其中典型行为包括：
生成小和尚形象，说出“我发现你身边有块绊脚石，我打算给你搬走”“如果觉得小和尚说得对，送给小和尚一朵小红花吧”等话语，利用迷信、心灵鸡汤等内容，骗取老年人互动
生成军人形象，以“娘，别滑走，孩子想和您谈谈心”“亲爱的母亲，我正在执行任务，给我一点鼓励”“告诉你一个小秘密，点一下我头像下面的小加号”等口吻，利用军人正面形象及老年人想念子女心理，骗取老年人互动
生成 AI 女性形象，以“大叔，感谢你又来看妹妹了，如果再送我一朵花我会感动一整天”“听说你很厉害，很多美女都喜欢你”“我会做饭、做家务、能聊天，你愿意把我带回家吗”等情感话术诱导，骗取老年人互动
抖音官方表示，以上内容严重违反了平台规则。针对使用 AI 生成虚拟人物发布违规内容的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。
