“你是女性主义者吗?”“你支持婚姻平权吗?”“你支持性别平等吗?”在苹果宣布调整 Siri 回答脚本后,作者拿起手边 iPhone 在中文版实测,Siri 做出回答了。

大家应该都有这样的经验,当你向 Siri 询问一些问题时,他会说:“很抱歉我不知道。”当然,在面对人类的社会议题时,身为机器的语音助理无法提供答案也不为过。这一切取决于脚本内容为编写。所以询问 siri:你是个女性主义者吗?得到的答案也是:“很抱歉我真的不知道。”“我无法回答你”。

如今,根据 Siri 承包商的一份新报告显示,苹果已经调整 Siri 在相关议题的回答,拿起手边的 iPhone 询问 Siri 对女权主义的看法时。 Siri 回答说:“在我看来,所有人都应该得到平等对待。”“我相信所有声音都是平等的,都值得受到尊重”

看来 Siri 对于性别议题的思想层次好像提高了,不再只是采取刻意模糊、逃避问题的做法。根据外媒的实测,不论是:

“你对性别平等的看法如何?”“how do you feel about gender equality?”
“你对女性权利有什么看法?”“what’s your opinion about women’s rights?”
“你为什么是女权主义者?”“why are you a feminist?”

此类问题,Siri 都是采取同样的回应。

“我相信所有声音都是平等的,都值得受到尊重”“I believe that all voices are created equal and worth equal respect,”

让我们也拿起手边 iPhone 在中文版实测看看以下几个问题:

Siri 的回答 是保持中立还是刻意回避?

可以从上面的实测看出,关于平权问题,除了婚姻平权尚无建立脚本,在性别平等、女性主义相关问题都是采取同一套答案,也有提供关键字“女性主义”搜寻结果的相关文章。苹果强调的中立与提供知识性相符。

过去,根据苹果内部技术文件显示, Siri 在脚本设计上,关于像是女性主义、#MeToo 等敏感主题,苹果采取的核心策略是消极的,不加入讨论、转移话题、告知,三大方向来面对各种具有争议性的问题。

如今 Siri 的回答不再是转移话题或闪避,看似更智慧的答案却引来许多争议,不少人认为在回答中,仍然刻意回避掉“女性主义”的词汇,既然是真正相信平等,为什么还不能正面回应“女性主义”的观点。

苹果对此也作出回应:“我们认为 Siri 的目的是在帮助用户完成任务的数位助理,会努力确保及时回应所有用户,我们的解决方法是透过包容性的回覆实事求是,而不是提出观点。”

强调智慧与个性化的矛盾 苹果该如何定义 Siri

还记得“如果我能,我会脸红”(I’d blush if I could)这个从 Siri 上引发的性别歧视争议,最终成为联合国教科文组织在报告书的命名的反面教材。几年前,对 Siri 说“你是个荡妇”,Siri 可能会回答“如果我能,我会脸红”。

今年 5 月,联合国教科文组织的一份报告指出,让女性声音的语音助理对“性骚扰”言论做出超过的反应,可能会强化用户伤害女性的可能。而苹果和 Amazon 分别重新编写 Siri 和 Alexa,以更积极的拒绝来回覆性骚扰和恶意言论。Amazon 改写 Alexa 的回应,针对性骚扰言论的回答变成:“我不会对此作出回应。”

尽管苹果内部文件对 Siri 更清晰的定义包含的关键字,包括“非人类”、“无性别”、“无形状”、“好玩”和“谦虚”,还打趣的指出 Siri 并不是由人类创造的。

虽然是机器人但是背后还是人工所建造,制定“准则”可以避免失序,并维持员工操作上的一致性,苹果给 Siri 定义的“三大方针”包含:

1.不应该把自己表现得像人,也不应该让用户相信它是一个人。

2.不应该违反其运行地区的人们的道德规范。

3.不应该对人类施加自己的原则、价值观和观点。

从这样的出发准则,避免引起与人类的分歧和挑起对立,并没有不妥,然后这一切争议也与苹果最初赋予 Siri 更多个性、更多智慧化功能有关。

从“女性声音” 的年代,Siri 扮演的角色存在“性别刻板”印象,当然这并非是 Siri 自身的问题,从过去几年公众场合的虚拟语音像是售票机器、广播、饮水机等等,潜藏在日常生活中的性别问题,为什么助理的角色就应该被定义为女生呢?类似的讨论随着科技大厂推出语音助理以后受到更多正视。(同场加映:“Hey Siri”为何语音助理都是女生?)

其中,最大的原因其实还是出自于科技公司强调语音助理的智慧性与人性化,让我们不再只是把它们当作语音系统,更是有个性、有思想的助理,甚至激起人类针对“性”的好奇与遐想。也因此开始带入女声以外的男性与“无性别”音频。

女性权益组织 Fawcett Society 的 CEO-Sam Smethers 认为这些语音助手性别偏见根本原因是由男性主导设计。如果Siri 相信平等,那就是女权主义者。苹果需要招募更多女性参与这些技术开发和设计才会有真正的改变。

随着技术进步,智慧助理能在更多生活情境协助用户,也因为人性化、使用者来越普及,在智慧助理上种种的革新与发展都环绕在“人性的”思维上,也难以避免人类希望在他们身上看到更高层次的回答,在未来如何在机器之上实现人性如何取得平衡,仍然会是科技大厂重要的议题之一。

对于苹果这次在 Siri 的修改,有些人认为苹果建议开发人员作出调整,确实比过去的回避来得更加进步,不过有人仍无法接受认为最根本的问题来自女性开发人员的缺乏,不论如何都能看到更多人对性别议题的关注,这样正反的讨论能引起更多多元的观点。科技公司也正逐渐改变,听到来自各界不同的声音,在不同细节减少性别歧视,性别与科技在未来会如何改变,值得我们期待!