DEI 纳入企业 AI 策略的 3 种方法、Google Cloud 拥抱多元化 AI 团队｜DEI 快讯

生成式 AI 虽带来革命性发展，但受训练资料、演算法等影响，我们也看见人工智慧有可能扩大偏见，因此 DEI 便格外重要。企业该如何将多元共融纳入 AI 策略？本篇提供 3 个关键解方。

将 DEI 纳入企业 AI 人工智慧策略的 3 种方法

生成式 AI 带来了革命性的发展，然而我们也发现，训练资料、演算法和其他指导它的输入中存在偏见。Midjourney 和 ChatGPT 等工具接受了大量资料的训练，但其中包含了有偏见的内容。

这些现象引发更多人思考：AI 的发展是否真的让社会变得更加公平？那些过去获得机会的人，是否仍是同一批人？而历史上被边缘化的群体会变成怎样？他们是否会因为 AI 的智慧化而变得更加不利，甚至被迫离开职场？

图片｜generated from Canva

为了消弭落差、创造更永续的未来，企业组织制定 AI 策略时，必须将多元、公平与共融（DEI）纳入原则。安永会计师事务所（EY）全球客户经理 Andy Baldwin 提出三步骤将 DEI 纳入企业 AI 人工智慧策略的方式：

确保开发期即有多元化代表参与，和多样性的资料数据输入，避免演算法偏差风险。设计不当的 AI 系统会放大偏见、排除某些用户。以诊断皮肤癌为例，如果仅使用白人患者的图像，来训练演算法来发现黑色素瘤，那么黑人患者可能会被遗漏，导致他们难以提前预防，或获得适当的照护或诊断。

透过培训让员工了解如何使用和管理 AI 工具，学习无意识偏见、认知到没有 DEI 的风险（例如演算法可能有对特定族群的偏见），可以预防 AI 强化现有的不平等。

可利用 AI 识别并解决现有的不平等（例如薪资差距），并促进同工同酬或更公平的升迁流程。或透过 AI 协助改善身碍者的工作环境，例如通过语音识别系统，帮助言语障碍者沟通，或利用影像识别技术，辅助视觉障碍者。

Andy Baldwin 指出：“人们应更重视长期存在语言与行为中的偏见和歧视，AI 才能发挥其应有的价值。”企业必须专注于开发能够促进所有使用者的 AI 系统，并确保它们遵循 DEI 原则，以实现更加共融和有影响力的生活。

在 Google Cloud UKI 董事总经理（MD） Helen Kelisky 接受 AI Business 的专访中，他强调：“本质上，AI 公司能够将越多元的观点融入团队中，他们的产品就会越强大。”

而领导 Google Cloud UKI 团队的 Helen ，怎么看待 AI 产业的 DEI 应用？AI 公司应要注意哪些事？

人工智慧工具的“好坏”取决于它们所训练的资料。从脸部辨识功能，到语音和语言能力的一切，都受到“技术团队人员组成”的限制。

如果用于训练的数据产生基于种族、性别、能力等的偏见，这些偏见将会被 AI 模型继承，并透过持续的使用而强化。这将导致歧视和不公平问题长期存在。例如，在美国 pwc 针对演算法偏差的报告显示，黑人在使用自动语音辨识技术 (ASR) 时，遇到的错误数量是白人的两倍。

在 Google Cloud 的招募流程中，会不断重新评估面试方式，并扩大灵活的工作选择。这些积极的变化，有助于吸引新人才加入 Google Cloud 团队，并为代表性不足群体创造更多公平的机会，同时透过无意识偏见培训，也让团队接受更多样化的观点，成为更强大的团队。