AI 时代来临,让台湾看见更多“国际化”的可能,但缺乏多元的训练数据,会引发更严重的歧视、偏见,作为人类,我们该怎么做?

中国终于明白有 Open 才有 AI。

简立峰

前天听简立峰老师分享 AI 时代的看见,立峰老师一如以往,总是能看见时代最大的机会和挑战。

其实看到挑战与机会的人总是有,但我衷心仰慕与佩服的,是立峰老师总是能有最大的格局,替台湾和企业看见最有机会的定位。他不断强调,OpenAI 让台湾可以获得新的机会。

延伸阅读:为什么要懂 GPT-4?ChatGPT 之父:掌握 AI 让你不再被工作绑架!

无论从政治、国防还是经济,台湾都是个非常需要“国际化”的地方,但我们一直还没有应该是与生俱来的“海洋思维”,相反的,台湾更习惯“岛内思维”,不断向内排挤、冲突。

而 OpenAI 有机会带来新的刺激,让更多人看见“国际化”的可能,更快速的阅读与翻译,让最新的知识以及被听见的可能。立峰老师,有他一惯的乐观主义,看见台湾最有可能获益,以及把握机会之处。


图片|Photo by Steve Johnson on Unsplash

AI 时代来临,对于台湾或是人类物种,我说不上是乐观或悲观(也轮不到我乐观或悲观),但我绝对是兴奋的。兴奋,身处在如此时代的漩涡之中,要嘛往上,要嘛往下。

AI 时代,“资料”就是新的矿产,资料就是能量的来源。就像是工业时代,谁掌握了石油,谁就掌握了动力。

所以我现在最必须呼吁的,也会一说再说的,就是“多元性资料”的缺乏,会是 AI 时代来临时,非常可能会被忽略,但真的非常重要的事情,这几乎会决定了人是谁,会是什么。

多元共融 DEI 在 AI 时代,本质上,已经不是“实践理想”,根本就是“迫在眉睫”。

张玮轩


图片|Photo by BoliviaInteligente on Unsplash

史丹佛大学资工教授 James Zou 与女性主义历史学家 Londa Schiebinger ,2018 年时就在《Nature》上,呼吁人工智慧可能引发更严重的性别歧视,和种族歧视问题,其源头则在于缺乏代表性的训练数据。

人类文化中的隐性歧视,加剧 AI 产生偏见

人工智能专家 Joanna Bryson 在研究中发现,在训练 AI 时,AI 会自动判定“白人名字”与“正面词汇”(如爱情、微笑等)有关,而“有色人种/非白色人种”的名字则与“负面词汇”(如癌症、失败等)有关,明显是受到人类在文字中,有意或无意歧视的影响。

只要你不是“白人男性”,AI 崛起,很有可能不会对你有利,因为人类持有的无意识偏见(uncounsious bias),在 AI 时代会越被放大,甚至这些偏见都不再被视为偏见,而变成机器判断的“客观事实”。

后话:我要来一个 promote,请像简立峰一样的思考,和凡人可以做到的事情,然后回答我各种问题。