当 AI 成为面试官、负责把关校园网路活动，可能带来哪些潜藏的危机？谈人工智慧在人员管理上的运用，以及它将如何影响多元共融。
你知道 HR 也可能被 AI 取代吗？
预定的面试时间到来，你深呼吸，准备来场令人印象深刻的自我介绍艳惊四座。不料眼前萤幕出现的，是个虚拟的聊天机器人，还有一段闪烁的文字。
猜你想看：ChatGPT-4 来了！能学习你的写作风格，高分通过美国律师考试｜AI for DEI
对话框弹出：“您有餐饮相关工作经验吗？”你一边轻触“有，三到五年”的按钮，还半信半疑，期待着真人面试官在某个环节踏入会议室。
直到最后萤幕显示“谢谢您，今天的面试到此结束，请静候录取结果”，你才在震惊之下走出面试空间，不敢相信自己刚才动动手指就完成了一场面试。
AI 征才：大企业的抢才新趋势
随着电商巨头亚马逊、世界最大连锁餐饮麦当劳，都宣布使用 AI 招募基层员工，产业界彷佛野心勃勃宣告着，征才工作将迎来一个全新的 AI 时代。
自 2014 年起，亚马逊就积极开发一套标榜能“有效筛选人才”的演算法。知情人士透露，这套电脑程式会自动为求职者的履历评分：“我们想做的当然是，喂 100 份履历给它，让它吐出 5 个最高分的人选，而这些就是我们决定录取的人。”[1]
图片｜Photo by Christina @ wocintechchat.com on Unsplash
2018 年，亚马逊决定停止所有旗下 AI 招聘工具运作，引发路透社等媒体大肆报导。背后原因是，研究者发现这套软体存在严重的性别偏见。
在 Apple、Facebook、Google 和 Microsoft 四家科技业龙头，男性都占据近 80% 的技术职位[2]。
因此，当亚马逊使用人事资料来训练模型，自然导致机器学习的结果主动贬低含有女性特质的经历（例如“女子”足球队长），并为更阳刚的动词加权（如“贯彻了（executed）或“攫取了（captured）”）。
延伸阅读：你在跟聊天机器人面试吗？人工智慧的偏见如何影响面试？｜AI for DEI
AI 作为缺工新解方，还是制造更多问题？
但跨国企业没有就此放弃运用 AI 节省人资管理成本、争取效率。
麦当劳发布名为“招来速（Apply Thru）”的招聘计画，宣称能让求职者能透过 Amazon Alexa 或 Google 语音助理应聘初级职位。疫情影响下，全球缺工问题蔓延，吸引各家速食业者纷纷跟进。
同场加映：AI 运用必看书单！10 本人工智慧书籍，教你自动生成报表、写履历！
2023 年，美国商业趋势报 Insider 即刊登了一篇名为〈我申请了麦当劳和其他 4 份速食餐厅的职位，但聊天机器人与自动化申请程序让我根本无法被录取〉的文章。
作者 Amanda 描述自己投递履历至 5 家连锁餐饮，都遇上招聘机器人。但这些虚拟 HR 有的将她安排在国定假日面试导致她扑空，有些到最后一刻才揭露工资详情；有的则在她填写资料后，再也没有下文。
图片｜Photo by Austin Distel on Unsplash
这些软体错误地将无数像 Amanda 这样识字、拥有电子设备与资讯应用技巧的求职者拒于门外，遑论其他不熟悉电子产品的人。
聊天程式的应用，等于是直接拒绝了没有科技能力的贫困者、老人和部分身心障碍者，加深了资讯落差。机器人也无法像真人一样，为有障碍或特殊需求的求职者，提供量身订做的替代选项。
AI 学生追踪软体的风险：揭露个人资讯，怀有性别及种族偏见
如果学校人力已经不足以个别辅导高风险学生、管理学生在网路上的大量资讯活动，那么用 AI 取代传统校安人员，主动追踪电子装置、分析学生背景，会是个好方法吗？
延伸阅读：多元共融限制了你的言论自由吗？美国十多个州研拟箝制 DEI，公立校园多元共融逐步噤声！
根据华盛顿民主与科技中心（CDT）的调查，88% 的学校教师回报，学校设备里安装了“网路活动监控软体”，而高达 4 成指出，学校在学生的个人装置上也运用活动监控技术。
许多侦测与回报机制也与社会安全系统相连。有三分之一的教师回答，自己的学生曾经因为设备的数位监控而“陷入麻烦”，被校安人员、甚至校外执法人士关切。
图片｜Photo by Brett Jordan on Unsplash
该中心的评估报告进一步发现，部分学校使用的演算法会扫描学生收发的讯息、浏览的文件和造访的网站，查找“同性恋”相关词语（Gay、Lesbian），并自动标记这些资讯提供给学校教师。
报告中断言，此种行为无异于“未经同意强制出柜”，将对 LGBTQ+ 族群造成心理创伤。
猜你想看：国际跨性别现身日：当歧视出现在校园，我们还要将同志教育赶出课本吗？
综合研究发现，人工智慧入校园对 LGBTQ+ 还有身障族群学生产生的冲击最为负面，但讽刺的是，网路异常活动警示系统的建置，最初就是为了确保学生的安全，尤其是保护那些易受伤害的弱势群体。
另外，几乎所有教师（99%）都表⽰，自己的学校使⽤“内容滤阻软体”来限制学⽣存取线上内容。
但分析指出，这些内容筛查导致身心障碍以及 LGBTQ+ 学生难以取得生活所需的指引，达成如同威权时代禁书的效果，已经危害民主自由、超出法律所允许的内容过滤及屏蔽范围。
AI 是多元共融的推手，还是性别盲、种族主义者？
显然，“管理人群”这个长久以来被认为“非人不可”的行业，其性质与执行方式，都出现了革命性的逆转。面对新科技主导的时代来临，我们不免要问，人工智慧和真人相比，究竟是更公正无私，还是抱持更多偏见？
同场加映：OpenAI 会有隐性歧视与偏见吗？多元共融在 AI 时代将成关键｜AI for DEI
有些招募平台认为，人工智慧辅助招募，在消除偏见与维护公正性上有其不可取代的功能，例如：
- 没有语气起伏、中性地发问并协助消除招募文案、职位描述中的歧视语言。
- 一次性隐藏求职者的隐私资讯，排除揭露身分的不公正影响
- 把资历、技能等条件化为客观的判断式，实现无偏见的资格审核
- 不带预设地搜集额外资讯，不因语气、肢体动作等表现对求职者造成压力或限制
然而，剑桥大学的研究[3]严厉指出，号称 AI 能利用演算法来分析性格特征、语言模式和脸部表情，诱使企业相信这些新技术会读心术或看面相，这种看法具有误导性，并且存在潜在危险。
图片｜Photo by Hitesh Choudhary on Unsplash
研究人员与电脑科学研究生合作，证明了服装、灯光和背景的变化，会导致截然不同的性格解读。这证明用人工智慧尝试判断求职者的人格特质是否符合要求，仍然属今天技术所无法达成。
这群研究者担心，即使声称可以用大数据、机器学习来“消除种族歧视”，也只是用演算法来平衡了数字，而非数据背后那些真正操控种族、性别的权力系统。研究人员建议，AI 终究只该用在辅助达成招聘多元性的目的上，不应作为独立判断的工具。
延伸阅读：找工作、写职缺只需几秒钟？Yourator AI 工具自动产出履历、职缺！
细想，当筛选人的演算法，就像串流平台推荐你电影、音乐一样，谁会在“推荐清单”里脱颖而出？站在促进多元的角度，在校园与职场运用 AI，实在有待更审慎的考量。