Alexa,Alex还是Al?消除性别偏见的三点建议

全文共 2280 字,预计学习时长 4 分钟

语音助理的默认性别揭示了根深蒂固的性别偏见(图片来源:Luniapilot)

谈到性别不平等,科技世界充满了令人不安的趋势。联合国最近一份报告《“如果我能的话,我会脸红”》中警告道:语音助手主要是女性的人工智能实际上会强化有害的性别刻板印象。Siri被苹果收购前的联合创始人之一达格•基特劳斯在推特上公开反驳了对Siri性别歧视的指控:

诚然,与其他语音助手不同,Siri的性别是可以提前设置的。但值得注意的是,联合国这份报告的标题《“如果我能的话,我会脸红”》,实际上是Siri对“你是个荡妇”这一极端不恰当言论的回复。

本文将讨论语音助手的社会和文化方面,特别是为什么它们是按性别设计的,这会引起哪些道德问题,以及该如何解决这些问题。

拟人化技术

就人工智能而言,像Alexa、Siri和Cortana这样的虚拟助手都是女性:她们有女性名字、女性声音和女性背景。谷歌助手虽然有个中性的名字,但默认是女性。最重要的是,这些机器的基本功能都是执行人类主人的命令。

尽管人们在这些助手的语言、口音和性别方面有多种选择,但它的最初的女性特征仍然时不时出现。例如,当用户说“你很漂亮”时,Alexa会以一种感激的语气回答:“你能这么说真是太好了!”然而,与女性家庭助手相反,负责提供咨询的权威型机器人却有着男性名字和性格,例如AI律师Ross和AI财务顾问Marcus。

科技记者乔安娜·斯特恩解释说,人类倾向于为人工智能构建性别,是因为人类是“更能与所知事物相似的东西建立联系的社会人,而性别就是所知之一”。但为什么设置为女性呢?卡尔·麦克多曼的研究发现,人们认为女性的声音“更温暖”。

斯坦福大学前教授克利福德·纳斯在其《Wired for Speech》一书中也引用了相关研究,提到大多数人认为女性的声音是好合作的、愿意帮忙的。联合国报告引用的其他研究则表明,人们的偏好更加微妙,例如偏爱异性的声音。但是,传统社会规范中女性的养育者角色和其他社会构建的性别偏见起了决定性作用。杰西·亨佩瑟姆在《Wired》一书中对此做了很好的总结:因为我们“想成为[技术]的老板......所以我们更倾向于选择女性界面。”

图片来源:联合国报告《“如果我能的话,我会脸红“》

性别偏见造成的两大问题

由于女性的声音往往被认为更令人愉快和富有同情心,人们更倾向于购买这样的设备用于执行命令和查询任务。因此,对于广泛的商业采用来说,女性人工智能助手似乎更合乎逻辑。吉尔·莱波雷彻头彻尾地揭示了科技世界的虚伪:“作为人类的女性员工并没有得到更多的报酬,作为机器人的女性却卖得更好。”

更令人不安的是,很少有女性参与创建语音助手。在男性占主导地位的技术环境中,从招聘到职业发展,决策者有意或无意地设计了一套对女性技术人员不利的体系。

《纽约时报》记者梅根·斯佩恰写道,女性只占“该领域研究人员的12%,软件开发人员的6%。”这种性别失衡有两个问题。 一是产品层面 ,排除女性贡献者或忽略其反馈的工程团队,最终可能只会创建性别排他的语音助手产品,例如Clippy和语音助理中的性别偏见功能,比如对性别歧视评论的不当反应。

来源:联合国报告《“如果我能的话,我会脸红“》

除此之外,语音助手还带来了第二个更严重的问题,这与黄哲伦戏剧《蝴蝶君》中的一段话产生了共鸣:“为什么在京剧中,女性角色是由男性扮演的?……因为只有男人知道女人该怎么做。”

联合国报告指出,主要由男性创建的女性虚拟助手发出了这样一个信号,即“女人是顺从的、温顺的、是渴望取悦他人的帮助者,只需按一下按钮就能得到”,从而加强了性别偏见。对于那些不符合西方性别刻板印象的地区,随着越来越多语音设备的使用, 语音助手的女性化可能会助长性别偏见的巩固和传播。

消除科技界性别偏见的三点建议

女性语音助手的负面影响只是社会普遍存在的一种现象,只有解决性别偏见的根源,科技界才能在性别平等方面取得长期进步和改善。

在产品层面 上,建议语音助手公司立即实施以下三点建议,以打击其产品中的性别偏见:

1. 产品开发过程应更具包容性。 在男性占主导地位的环境中,男女共同参与产品的创建和测试会使AI技术更加关注性别差异。团队在设计产品和做出重要决策(如语音助手应如何应对厌女者的侮辱)时的性别多样性,有助于提升产品性能,建设更具性别包容性的工作环境,同时也会激励所有人投身这一领域。

2. 允许用户定制喜欢的语音和角色,使用户不将语音助手默认为女性。 这意味着,开发智能语音的公司不应该再将女性声音作为默认设置,并考虑重新塑造其产品,减少与女性特质的联系。

3. 为用户提供广泛的定制选项,包括男性、女性和无性别的声音和性格。 例如,世界上第一个无性数字语音Q的诞生,不仅增加了用户的选择范围,还使技术更具性别包容性。此外,WaveNet等算法也可以达到类似的效果,它可以模仿著名歌手约翰·传奇或其他任何人的声音。

事实上,并非所有的语音助手都有意加剧社会的性别刻板印象。但重要的是,人们都应该意识到,技术创造将拥有自己的生命,即使是无意的行为也会将某些人排除在科技界之外,造成无法预见的不平等。Facebook创始人马克·扎克伯格有一句著名的座右铭:“快速行动,打破一切”。有人可能会说,正是这种心态导致了这些性别偏见语音助手的产生。但我们可以这样实践这句座右铭:快速行动起来让女性融入科技领域,打破语音助手的性别默认,使其更具性别包容性。

留言 点赞 发个朋友圈

我们一起分享AI学习与发展的干货

编译组:段欣宜、鲍歆祎

相关链接:

https://towardsdatascience.com/alexa-alex-or-al-7a7e28fb4736

如需转载,请后台留言,遵守转载规范

推荐文章阅读

ACL2018论文集50篇解读

EMNLP2017论文集28篇论文解读

2018年AI三大顶会中国学术成果全链接

ACL2017 论文集:34篇解读干货全在这里

10篇AAAI2017经典论文回顾

长按识别二维码可添加关注

读芯君爱你

我来评几句
登录后评论

已发表评论数()

相关站点

+订阅
热门文章