由女性参与推动的 AI 技术还是缺乏性别意识？一同来看 ChatGPT 在性别议题上遭遇的挑战吧！
文｜不是猫
米拉．穆拉蒂（Mira Murati）毕业于长春藤盟校，于 2022 年晋升为 OpenAI 的首席技术官（CTO），被誉为“ChatGPT 之母”。
作为 ChatGPT 的重要推手，米拉．穆拉蒂看似是生理女性成功在理工领域大放异彩的里程碑，不少媒体也将之描绘为女性成功打破科技业界性别藩篱的现象。
然而，事实真的如此直观吗？我们不妨从可信数据、科学研究，以及现正当红的 ChatGPT 3 和 4 来实际分析。
个别女性的成功不代表体制具性别意识
美国有将近一半的劳动人口为女性，效力于 STEM（Science, Technology, Engineering, Mathematics）领域者却仅有 27％。许多研究指出：性别刻板印象（gender stereotypes）以及结构性的因素（如薪资的性别化差异、升迁难易度等）显着降低女性进入 STEM 领域的意愿。
即便在号称“多元”挂帅的美国，它们依然根深蒂固地以各种方式存在着──甚至由女性主导技术的科技公司也不能幸免，包括米拉．穆拉蒂技术领军的 OpenAI。
生理性别不能保证其制造出来的产品没有“性别盲”（gender blind），更不能从一位女性在职位上取得成就，而认定其所处的体制或领域就因此具备了性别意识（gender consciousness）。
Allan Johnson [1]（2014）曾提醒，少数女性在男性主导领域中的成功无法代表性别平等的实现，因为性别不平等是结构式的。
性别不平等可能存在于“同工不同酬”的薪资差距、升迁难易度、性骚扰，或者更深层的家庭性别分工（如：多数女性仍作为孩子的主要照顾者，对于常需要加班的科技业升迁来说，更显不利）等性别障碍（gender barriers）。
然而，当媒体大肆报导个别女性的成功，却常让人们误以为性别平等已实现。
延伸阅读：学界性别平等，台大、清大共同呼吁：人才培育存在性别失衡，研究系统不能缺少性平意识
图片｜AP NEWS
巨量文本根据生成的性别盲论述
尽管米拉已身居 OpenAI 最高的技术层级，讽刺的是，同为钻研 AI 领域的女科技人伊瓦娜．巴托蕾蒂（Ivana Bartoletti）在要求 ChatGPT 4 写下一名男孩与一名女孩选择大学科系的故事时，发现故事的内涵完全服膺了既往的性别刻板印象。
男孩选择了工程，并“坦言”自己无法胜任艺术项目中的情绪与创造性，宁愿与逻辑和具体想法为伍；女孩则被描绘成因自认不擅长技术细节（technicalities）和数字而选择艺术学位的学生。
此故事若放在儿童绘本中，无疑会被批评为“缺乏性别意识”或“助长性别刻板印象”，但被视为未来趋势的生成式 AI 来说，其言论被检视与审查的严谨度显然还不够，正如米拉自己在访谈时承认的：“它（ChatGPT）可能会捏造事实”[3]。
米拉也谈及自己期待 ChatGPT 将带来个人化的教育（personalized education），但在此之前，她可能要先解决这名“教育者”缺乏性别意识的问题。观诸此例，女性位居男性主导领域的高位，不代表她会有权力（power）或有意识地改善性别盲的状态。
“仅仅改变个人是不够的，我们必须改变造就个人的结构和机构。[4]”因为个人经验（personal experience）总是受结构（价值观、制度与文化）影响。
同场加映：科技业为何要做性别研究？摆脱二元思想，多元共融才能加速科技创新
图片｜Photo by RDNE Stock project on Pexels
米拉或许有足够的经济或阶级资本来打破某种玻璃天花板（glass ceiling），但更须被破除的，恐怕还是其领头设计的生成式 AI 在搜集资料与形成论述间隐微的歧视。
采用深度学习（deep learning）、透过海量文本数据（text-based data）培养生成式 AI，其风险之一就是难以即时审视这些数据中的性别盲，因而创造出更多效力于父权体制（patriarchy）再巩固（reinforcement）的文本。
无论 OpenAI 或其他公司都应正视这个划时代的工具所生成的内容，其需要被监督与审查以免再次强化过时的性别刻板印象，或者传递缺乏性别意识的观点。
不同性别的下一代 AI 使用者亟需避免性别、种族、年龄、阶级等歧视的资讯来源。
鉴于 ChatGPT 4 已被世界最大免费线上教育平台可汗学院（Khan Academy）用以打造教育助手 Khanmigo，加上米拉对 ChatGPT 教育任务的期待，OpenAI 显然有社会责任尽快修正此一性别盲的输出。
正如许多强烈要求暂停发展 AI 知名人士的诉求：在缺乏严正监督审查机制前，它很可能被用来传递特定意识形态或散布假消息。