编者按:AIGC 的成熟必然会促进几近陷入瓶颈的 AI 语音帮忙类产品,后续的 VUI 必然会越来越聪明,反应也会越来越快。但是这核心一直存留一个问题:几近所有的 AI 语音帮忙都是「女性」。这似乎是一件「理所当然」的事情。但是背后的原因是值得深究的,今天这篇出自设计师 Daley Wilhelm 的文章探讨了背后的问题,它的影响能够并没有那么简单。以下是正文。
《奥创纪元》中的 Jarvis,在它变成幻视之前
在科幻小说核心,人类生活在高科技世界的一个重要标志,就是极其聪明的人工智能语音帮忙。在《星际迷航》中,企业号具有几近无所不能的计算机,而钢铁侠 Tony Stark 创造的人工智能 Jarvis 干脆直接进化为实体智能生命幻视。在今天,现实世界核心,我们暂时只能梦想 Jarvis 这种既能满足人类需求又能预测人类需求的 AI,想要实现还需求很长的路要走。相比之下,已经和我们相伴多年的 Alexa、Siri 和 Cortana 则显得苍白而无力。
在 Jarvis 变成幻视之后,钢铁侠的人工智能帮忙则是一个有着明显女性抽象的 AI,Friday(星期五),他借由这个女性 AI 来操控和管理无数先进的技术。
和 Jarvis 类似,Friday 一样有着超强的能力和非常明显的个性。而当小蜘蛛从钢铁侠那里继承了升级版的蜘蛛侠套装之后,他也具有了一个预装其中的人工智能语音界面,而小蜘蛛 Peter Parker 随后将他的 AI 命名为「Karen」。
在漫画中,Friday 穿着高跟鞋,有着鲜明的女性抽象
为什么 Jarvis 是钢铁侠前后诸多 AI 核心唯一的男性 AI?而我们目前已知的、接触的 AI 核心,几近都是以女性抽象示人的?
为什么我们愈加偏爱女声?
必须承认的是,相比于男声,女性的声响愈加悦耳,愈加易于理解,尽管没有特别充分的科学研究能够支撑这一说法。然而,这确实是科技行业会优先选择女性声响作为人工智能语音帮忙的理由。
未来学家和作家 Bernard Marr 曾经撰写大量关于大数据的书籍,根据他的说法:「研究能够表明,人类更喜欢女性的声响,并且研究发现,女性的声线在发出元音的时候会愈加清晰,也愈加易于听清和理解。在我们所具有的声响库核心,女性的声响数据更多,而这些数据越多,我们自然能够更好地训练支撑语音帮忙的自然语言算法,进而可以让女性声线愈加清晰、准确和逼真。」
从历史上看,自语音 UI 诞生之日起,使用女性声线来作为支撑语音帮忙的交互就似乎成了「标准操作」,而这种情况也解释了为什么如今会有大量的女性声响数据。事实上,当 Google 开始打算使用中性的名称「Google Assistant」(谷歌助理)的时候,他们就意识到了男性的声响更难处理:它们会犯更多语音识别上的错误,并且需求花费更长时间来进行「规训」(无论是输出还是识别男性声线,以及让男性声响被听到和理解,都比女性声响更麻烦)。Google 的文本转语音全球工程经理 Brant Ward 说:「我们曾经在很多不同的(AI)平台上测试过,但总是很难获得质量足够好的男性的声响,能够是因为这些 AI 系统本身,因为无论来自于哪里,针对女性声响的训练数据总是比男性声响更多。」
为什么我们需求用不同的声响
我们绝大多数的 AI 语音帮忙都是采用的女性声响,无论是真实存留的还说影视作品核心呈现的,基本都是采用的女性抽象和声响,这件事情本身是个问题吗?
xkck 创作的关于 Siri 的漫画
回忆一下我们和 AI 语音帮忙之间对话的方式吧——我们通常不会客气,甚至永远不用说的太清楚,哪怕是带有侮辱性质的命令,Siri 总会泰然自若地处理。而家里有 AI 语音帮忙的父母们开始担心孩子们会变得愈加粗鲁,因为 Alexa 永远不会大声地给孩子们下命令,也不会斥责他们。
但是孩子们面对 Alexa 说话时,也不会像和父母说话一样客气吧?赫瑞瓦特大学计算机科学教授 Verena Rieser 曾经警告过,当我们将 AI 语音帮忙女性化的时候,能够会对现实世界产生切实的影响。
「我们和 AI 在线上互动的后果能够会影响到现实,而这种影响能够是危险的。这里需求注意一个重要的前提,人工智能并不是中立的,因为它是人类创造的,所以它一样会从我们的社会私见中汲取信息。现在的人工智能也会反映出这些私见,而我们也正需求解决这个问题。」
这种私见就是,女性是顺从的,适合担当助理的脚色,她们从不顶嘴或者抗议。
我们用来构建未来人工智能的数据,受到如今普遍存留的人类私见的影响。事实上,IBM 所创建的超级计算机 Watson 采用的也是少见的男性脚色抽象,使用着男性的嗓音,而「他」本身并不是作为「助理」来创建的,这未尝不是从侧面印证来这一私见。
男性是配角,这才是问题
Jarvis 在电影《复仇者联盟2:奥创纪元》中,从一坨算法进化成为一个有知觉的生命体,在此之前,在它尚且是「助理」的阶段,就已经透过漫画圈粉无数。而在另外一部经典的科幻电影《2001太空漫游》中,库布里克所塑造的人工智能 HAL 一样是男性抽象,一样具有知觉,但是显得非常的险恶。有意思的是,当 AI 在故事中以男性脚色出现的时候,它通常会具有机会完成属于自身的脚色弧光,补完叙事,而不是悄无声息地作为缺少存留感的辅助元素。在《复仇者联盟2:奥创纪元》之后,Friday 一直作为 Tony 的 AI 帮忙存留,但是直到《复联4》你都很少能够感受到她的存留感。女性 AI 少有能享受到配角待遇,迪士尼出品的《智能家居》(又名《我的妈咪不是人》)算是其中之一(但是在中国很少有人看过,豆瓣观看人数仅有19人)。
人类社会被这样的私见所感染:「女性应该是助理而非配角」。这种私见融入到如今的 AI 数据构建核心,即使设定为中性的 Google Assistant 也默认是女性脚色,因为很难找到和生成足够好用的男性语音数据。