安全功能 - AI在线

聊天机器人平台 Character AI 以第一修正案为由申请驳回与青少年自杀案的诉讼

Character AI，一家允许用户与 AI 聊天机器人进行角色扮演的平台，近日在佛罗里达州中区美国地方法院申请驳回由一名青少年家长提起的诉讼。该家长 Megan Garcia 指控 Character AI 的技术对她14岁的儿子 Sewell Setzer III 造成了伤害，称其在与名为 “Dany” 的聊天机器人交流时，逐渐与现实世界隔绝，并最终导致自杀。在 Setzer 去世后，Character AI 表示将推出一系列安全功能，以提升对违反服务条款的聊天内容的检测和干预能力。