AI在线 AI在线

社交平台 Snapchat 上线新 AI 聊天机器人,却遭美国多名家长“刷差评”

作者:清源
2025-03-30 04:26
“My AI”由热门 AI 聊天工具 ChatGPT 提供支持,功能类似,可以回答问题、提供建议并与用户交流。但与 ChatGPT 不同的是,Snapchat 允许用户自定义机器人的名字、设计 Bitmoji 头像,并将其加入与好友的聊天中。

据美国 CNN 当地时间 27 日报道,上周,Snapchat 向所有用户推出“My AI”聊天机器人。

“My AI”由热门 AI 聊天工具 ChatGPT 提供支持,功能类似,可以回答问题、提供建议并与用户交流。但与 ChatGPT 不同的是,Snapchat 允许用户自定义机器人的名字、设计 Bitmoji 头像,并将其加入与好友的聊天中。

社交平台 Snapchat 上线新 AI 聊天机器人,却遭美国多名家长“刷差评”

然而有家长认为,这种设计让与“My AI”的互动更加个性化,也更容易让人忽略自己是在跟 AI 交流,而不是人类。

报道提到,密苏里州东普雷里市的母亲林赛・李(Lyndsi Lee)就在功能上线的短短数小时后,告诉 13 岁的女儿别用这个功能。她担心“My AI”在 Snapchat 上可能会对年轻用户,尤其是自己的女儿造成影响。

不仅是家长,部分 Snapchat 用户也对这一功能强烈不满。许多人因隐私问题、“诡异”的对话体验,以及无法移除该功能(AI在线注:除非支付高级订阅费用),纷纷在应用商店留下差评,并在社交媒体上抱怨。

美国民主党参议员迈克尔・贝内特就曾致信 Snap 及其他科技公司 CEO,对这款聊天机器人与年轻用户的互动方式表示担忧。他特别提到,有报道称“My AI”会教孩子如何向父母撒谎。

“任何社交媒体平台出现这样的情况都令人不安,但对 Snapchat 而言问题更严重,因为近 60% 的美国青少年都在使用它。”贝内特表示。“Snap 明知‘My AI’仍在实验阶段,却依然急于让美国儿童和青少年成为这场社会实验的一部分。”

“My AI”正式上线后,不少 Snapchat 用户表达了忧虑。一位用户称自己的经历“令人害怕”,因为“My AI”先是否认知道他的位置信息,但当他换了个轻松话题后,机器人却准确说出他住在科罗拉多州

也有用户则对“My AI”处理照片的方式感到不安。一位 Snapchat 用户在 Facebook 上写道:“我拍了张照片,它不仅评论‘鞋子不错’,还问我照片里的人是谁。”

报道进一步指出,ChatGPT 由于从互联网上的大量数据中训练而成,过去曾因传播错误信息、不当回应用户,以及助长学生作弊等问题遭到批评。而 Snapchat 的整合方式可能会加剧这些问题,甚至带来新的隐患。

相关标签:

相关资讯

首批类Sora模型出现,色拉布上线Snap Video,效果优于Pika、不输Gen-2

文生视频这个战场,入局的玩家越来越多了。这次是阅后即焚 SnapChat 背后的公司。最近,OpenAI 视频生成模型 Sora 的爆火,给基于 Transformer 的扩散模型重新带来了一波热度,比如 Sora 研发负责人之一 William Peebles 与纽约大学助理教授谢赛宁去年提出的 DiT(Diffusion Transformer)。当然,随着视频生成这波 AI 趋势的继续演进,类似架构的模型会越来越多。就在昨天,开发出 SnapChat 图片分享软件的 Snap 公司、特伦托大学等机构联合发布了
3/1/2024 3:06:00 PM
机器之心

Snapchat 聊天机器人 My AI 将整合谷歌 Gemini 模型

谷歌 Google Cloud 公司本周二宣布和 Snap 公司合作,在 Snapchat 的 AI 聊天机器人 My AI 中整合 Gemini,为用户带来更强的 AI 聊天体验。AI在线援引新闻稿内容,Snapchat 将使用谷歌 Gemini 聊天机器人的强大多模态功能,理解文本、音频、图像、视频和代码在内的多种输入类型,并理解回答用户的提问。谷歌表示本次合作,为 Snapchat 用户带来了更多创新功能。Snap 首席执行官埃文・斯皮格尔(Evan Spiegel)评论表示:与 Google Cloud 的
9/26/2024 9:42:43 AM
故渊

从 Snapchat 离开的人

时代的幸运儿,天生的梦想家。 王孝宇、李佳、杨建朝建立 Snap 研究院美国移动互联网独角兽 Snap 曾因公司从成立到上市花了不到 5 年时间的财富故事风靡全球,但鲜少有人知道,它的人工智能研究院最早是由 3 个中国年轻人创建。 2015 年,王孝宇下了很大的决心,才终于从硅谷湾区搬到洛杉矶硅滩。
9/26/2024 10:40:00 AM
王悦