刑事警察局于 2021 年 10 月 18 日主动破获“台湾网红合成”犯罪集团,主谋为知名百万订阅 Youtuber 朱玉宸(小玉),利用“深度伪造(DeepFake)”技术,将数十位女性网红、Youtuber、实况主,甚或女性政治人物的脸部影像纪录,以 AI 科技合成于日本 A 片,并透过 Telegram 加密通讯软体加以贩售,不法获利高达五百万。

勿再轻纵 DeepFake 数位性别暴力!我们应有更积极作为!

社团法人台湾数位女力联盟声明稿

台湾数位女力联盟(WIDI)早于 2020 年 7 月,即公开国内已有一“台湾网红合成”犯罪集团,系利用“深度伪造(DeepFake)”技术,将数十位女性网红、Youtuber、实况主,甚或女性政治人物的脸部影像纪录,以 AI 科技合成于日本 A 片,并透过 Telegram 加密通讯软体加以贩售,对被害女性所生危害甚钜且深远。

推荐阅读:性别观察|解析数位性暴力:有人把我 P 成裸体,我如何证明那身体不是我?


图片|数位女力联盟 提供

刑事警察局于 18 日主动破获此犯罪集团,且主谋竟是知名百万订阅 Youtuber 朱玉宸(小玉),不法获利高达五百万,委实令人错愕!

WIDI 在此呼吁,请我国政府单位及社会各界共同正视此一数位性别暴力问题的严重性,盘点相关法规之不足,以及科技侦查跟不上数位发展的现实状况!

“台湾网红合成”此一犯罪集团,利用 DeepFake 将知名女性的脸部移植到色情影片的 AV 女优身上,这即是一种满足父权意淫窥探想像的供需产业链。

根据周刊媒体的调查,集团自 2020 年起将大量几可乱真的影片制作为 30 秒的试看短片,并散布于各大色情网站与社群媒体,短短两个月内就吸引近 6,000 人付费成为会员。

数位女力联盟当时即尝试联络十多位被害女性,询问是否有提告意愿,并愿意提供法律面的协助。

然而,绝大多数被害人都因为担心这种数位犯罪难以侦破,一旦被发现提告,可能会因此遭到更严重的报复性羞辱。

此外,面对如此可恶之犯行,我国现阶段的法律规范,只能由被害人主动提告刑法第 310 条加重诽谤罪(告诉乃论之罪)、刑法第 235 条散布猥亵物品罪,以及民事肖像权侵权损害赔偿,明显不足以惩罚此类犯行,更难以遏止此种恶行的变本加厉,故而不愿亦不敢提告,担心将事情闹大,遭到报复却仍无法让犯嫌获得惩处。

如今刑事局主动破获本案,足见相关单位之重视,数位女力联盟予以最诚挚的肯定与鼓励。

实务上,因为本案所涉犯行,在国内现行法规均未达最重本刑三年以上之罪,无法适用通讯保障及监察法第 11-1 条规定,声请调阅通联者使用资讯与通联纪录,未来应如何有效查缉,实面临严峻之考验。

同场加映:【性别观察】从偷拍外流到 Deepfake:用不道德的方式意淫我,真的爽吗?

数位女力联盟在此呼吁,恳请政府相关机关及社会各界共同正视此一问题的严重性:

一、盘点相关法规是否足备

如前所述,目前国内相关法规对此显难遏止犯行,行政与立法机关应考量民间团体这几年来积极推动的《侵害个人性私密影像防制条例》,比照美国维吉尼亚州将之列为非自愿色情禁制范围之一,以罪责相当的惩处条款对被告科以相应之罚则。

即此,我国相关立/修法进度不应再推托延宕,请主管机关与立法者重视本案背后隐含的新兴数位犯罪问题,尽早完成相关法规的修订进度。

二、精进科技侦查知能与作为

法务部日前提出订定《科技侦查法》一案,虽有人权与国家侦查犯罪之间的争辩,但面对数位科技日新月异的当代环境,政府单位仍应在不违反人权侵害的原则下制定相关科技侦查法律规范,并积极补充且培育科技侦查人力,以因应数位犯罪的泛滥现况。

三、提供被害人适切的保护机制

对于是类被害人,其影像虽为非真实的虚拟影像,但仍极有因为 AI 技术伪造得过于拟真,而对被害人造成心理层面的伤害;再加上许多不肖网路使用者将影像不断地下载转传于各大境外色情网站,导致被害人遭刻印上永远无法消弭的“数位烙印”而长期备受折磨。

对此,卫生福利主管机关应考量让心卫谘商经评估后提供必要之协助,且国家对于网路规范作为不应再延续落后国际的“低度管制”思维,应适时介入并课责网路业者协助移除下架相关影像,避免被害持续扩大。

四、扭转父权凝视的社会氛围

根据美国新创公司 Deeptrace 的报告显示,网路上高达 96% 的 Deepfake 影片,是未经当事人许可下合成的色情影片,这样的状况在我国亦属常态,更是一种父权对于女体的窥探、凝视、想像与意淫的实践。

在此之间,女性的容貌是可以被合成为意淫窥视并且消费贩售的客体,这样的社会氛围若不改变,我们永远无法消弭这种犯罪再度发生的可能性。

最后,我们仍诚挚地邀请被害人勇敢地站出来,对主嫌与整个犯罪集团提出刑事告诉与民事求偿,数位女力联盟愿意提供法律层面的意见谘询或其他如心理谘商等转介协助,请不要因害怕而姑息这样的数位犯罪恶行,我们愿意陪伴妳们一同对抗恶意的数位性犯罪!

新闻联络人:秘书长 张凯强 0936090710