- 作者/黃伊平,執業律師,台北大學法學碩士。
編按:在出現Deepfake之後,網路世界進入了「眼見不為憑」的年代。本次泛科學和法律白話文合作策畫「Deepfake 專題」,從Deepfake 技術與辨偽技術、到法律如何因應。科技在走,社會和法律該如何跟上、甚至超前部署呢?一起來全方位解析 Deepfake 吧!
有一部美國前前任總統歐巴馬咒罵前任總統川普的影片,在網路上廣為流傳。但是,只要看到片尾就會發現拍攝者並不是歐巴馬本人,而是透過編輯技術製作的。在這個使用深度造假 deepfake 技術完成的影片中,演員皮爾的聲音和嘴巴被換成歐巴馬的聲音和臉,顯示此類技術的危險和力量──這類影片足以讓任何人、說出任何話。
「深度造假」一詞廣為流傳,起源於美國社交網站 Reddit 的用戶「deepfakes」。該名用戶 deepfakes 的興趣,是和其他用戶分享其所製作的影片──尤其是把色情影片的女主角的臉替換成名人的面孔,包括影星蓋兒加朵(Gal Gadot-Varsano)、麥茜威廉姆斯 (Margaret Constance “Maisie” Williams) 和泰勒斯 (Taylor Alison Swift) 等。另一位用戶「deepfakeapp」甚至創建專門設計的應用程序「FakeApp」,讓沒有技術背景的用戶,只要下載 App 就可以製作假色情影片。而製作這些影片所需的種種工具都是免費的,並附有指導手冊,協助新手完成整個過程。
Deepfake的相關技術在網路的傳播下越來越普遍,除了色情影片,利用造假技術來誹謗、冒充和傳播虛假信息的現象,在美國也越來越氾濫。
遏止虛假信息,立法處罰詐欺視聽製作
為了管制這樣的現象,美國參議院先在 2018 年提出《禁止惡意深度造假法案》(Malicious Deep Fake Prohibition Act)草案,處罰製造詐欺視聽紀錄的犯罪行為,包括深度造假任何視聽影音媒體的電子紀錄、照片或電子影像等。
而且,不管是否發生在美國境內,只要從事這些行為的人都會被罰款,或同時處以 2 年以下的有期徒刑;而若犯罪行為影響聯邦、州等政府機關的任何程序(無論行政、立法或司法程序),像是選舉辦理、甚或導致暴力行為發生的話,則會被處 10 年以下的有期徒刑。
此外,美國眾議院更在 2019 年,提出限制深度造假影片篡改技術的《深度造假問責法》(DEEP FAKES Accountability Act)草案,要求使用深度造假技術製作影片的人負起責任。例如,影片若內含虛假人物的視覺元素,製作者應嵌入數字水印,讓閱聽者能清楚識別這份影音包含更改後的音檔或視覺元素,或要求提出更改聲明,以及對更改程度的簡單描述。
而若影片含有羞辱性虛假信息,足以製造暴力或人身傷害、煽動武裝或外交衝突、干涉包括選舉在內的官方程序、或與詐欺有關,違者將處罰款或可併處 5 年以下的有期徒刑。被侵害的個人,也可以向行為人請求最高 15 萬美元的民事賠償、或其他適當的救濟措施。
由國家情報總監介入,防範 Deepfake 危害國家安全
前面的管制,都是攸關私人之間的侵害;面對深度造假對國家安全的干擾,前美國總統川普在 2019 年簽署了美國第一部處理「Deepfake 深度造假」的聯邦法律,並成為 《2020 財政年度國防授權法案》(National Defense Authorization Act for Fiscal Year 2020NDAA)的部分內容。
換句話說,即針對深度造假,要求國家情報總監(Director of National Intelligence,簡稱 DNI)完成以下任務:
- 做出深度造假對國家安全的潛在影響評估報告,報告內容應評估外國政府的深度造假技術能力,以及外國政府或外國人如何使用深度造假來損害國家安全利益。
- 當未來發現有明確來自國外,針對美國選舉或國內政治的深度造假信息,DNI 應立即通知國會。
- 舉辦深度造假競賽,提供一名或多名獲獎者高達 500 萬美元的獎金獎勵,以刺激深度造假技術的研究、開發或商業化。
時間來到 2021 年,美國參議院國土安全和政府事務委員會(The U.S. Senate Committee on Homeland Security and Governmental Affairs)通過《深度造假專案小組法案》(Deepfake Task Force Act),旨在建立一個公私合作成立的團隊。小組須提出足以檢測數位內容是否偽造的技術和系統,供大眾驗證資訊是否真實,以遏止深度造假技術帶來的危害。
各地州政府針對Deepfake管制立法
而在州等級,也有關於深度造假的管制立法,像是維吉尼亞州、德州、加州。
2019 年,維吉尼亞州成為美國第一個針對未經同意的深度偽造色情內容,決定課以刑責的州。其設立「非法傳播或出售他人圖像罪」(Unlawful dissemination or sale of images of another),處罰任何以脅迫、騷擾或恐嚇為目的,或是未經他人同意,惡意傳播或出售以任何方式製作他人裸露影片或照片的行為。該罪被列為第 1 類輕罪,可處 2 年以下監禁、得併處罰款。
之後德州參議院,也在同年通過第 751 號法案,明定禁止捏造意圖影響選舉結果的欺騙性影片。
加州州長也頒布了 AB-602 號及 AB-730 號兩項法案。前者允許被害人有權向影片製作者提起損害賠償訴訟或其他救濟,並求償合理的律師費和懲罰性賠償,如果違法行為出於惡意,法定損害賠償金最高可增至 15 萬美元。後者則禁止對競選公職的候選人在當選後 60 天內,分發惡意的深度造假影片的行為,受到名譽侵害的候選人可以依法對犯罪者啟動刑事追訴。
管制Deepfake 迫在眉睫,言論創作自由如何保障有待討論
面臨深度造假濫用來勢洶洶,可以看見美國近年所做的立法努力,但這些管制也不免受到一些質疑。像是某些條文用語太過廣泛,就有人擔憂這會侵害《美國權利法案》增修條文第一條所確保的「言論自由」。
無論如何,管制深度造假技術的需求迫在眉睫。如何同時確保使用者的言論自由、創作自由,又提供適當管制免於濫用,避免名譽和個資侵害、詐欺案等刑事犯罪、或是影響選舉結果,甚至是國家安全的危害,相關政策亟待全面啟動!