編按：在出現Deepfake之後，網路世界進入了「眼見不為憑」的年代。本次泛科學和法律白話文合作策畫「Deepfake 專題」，從Deepfake 技術與辨偽技術、到法律如何因應。科技在走，社會和法律該如何跟上、甚至超前部署呢？一起來全方位解析 Deepfake 吧！
有一部美國前前任總統歐巴馬咒罵前任總統川普的影片 ，在網路上廣為流傳。但是，只要看到片尾就會發現拍攝者並不是歐巴馬本人，而是透過編輯技術製作的。在這個使用深度造假 deepfake 技術完成的影片中，演員皮爾的聲音和嘴巴被換成歐巴馬的聲音和臉，顯示此類技術的危險和力量──這類影片足以讓任何人、說出任何話 。
歐巴馬被 deepfake 的示範影片。 「深度造假」一詞廣為流傳，起源 於美國社交網站 Reddit 的用戶「deepfakes」。該名用戶 deepfakes 的興趣，是和其他用戶分享其所製作的影片──尤其是把色情影片的女主角的臉替換成名人的面孔，包括影星蓋兒加朵(Gal Gadot-Varsano)、麥茜威廉姆斯 (Margaret Constance “Maisie” Williams) 和泰勒斯 (Taylor Alison Swift) 等。另一位用戶「deepfakeapp」甚至創建專門設計的應用程序「FakeApp」，讓沒有技術背景的用戶，只要下載 App 就可以製作假色情影片。而製作這些影片所需的種種工具都是免費的，並附有指導手冊，協助新手完成整個過程。
Deepfake的相關技術在網路的傳播下越來越普遍，除了色情影片，利用造假技術來誹謗、冒充和傳播虛假信息的現象，在美國也越來越氾濫。
遏止虛假信息， 立法處罰詐欺視聽製作 為了管制這樣的現象，美國參議院先在 2018 年提出《禁止惡意深度造假法案 》（Malicious Deep Fake Prohibition Act）草案，處罰製造詐欺視聽紀錄的犯罪行為，包括深度造假任何視聽影音媒體的電子紀錄、照片或電子影像等。
而且，不管是否發生在美國境內，只要從事這些行為的人都會被罰款，或同時處以 2 年以下的有期徒刑；而若犯罪行為影響聯邦、州等政府機關的任何程序（無論行政、立法或司法程序），像是選舉辦理、甚或導致暴力行為發生的話，則會被處 10 年以下的有期徒刑。
此外，美國眾議院更在 2019 年，提出限制深度造假影片篡改技術的《深度造假問責法 》（DEEP FAKES Accountability Act）草案，要求使用深度造假技術製作影片的人負起責任。例如，影片若內含虛假人物的視覺元素，製作者應嵌入數字水印，讓閱聽者能清楚識別這份影音包含更改後的音檔或視覺元素，或要求提出更改聲明，以及對更改程度的簡單描述。
而若影片含有羞辱性虛假信息，足以製造暴力或人身傷害、煽動武裝或外交衝突、干涉包括選舉在內的官方程序、或與詐欺有關，違者將處罰款或可併處 5 年以下的有期徒刑。被侵害的個人，也可以向行為人請求最高 15 萬美元的民事賠償、或其他適當的救濟措施。
由國家情報總監介入，防範 Deepfake 危害國家安全 前面的管制，都是攸關私人之間的侵害；面對深度造假對國家安全的干擾，前美國總統川普在 2019 年簽署了美國第一部處理「Deepfake 深度造假」的聯邦法律，並成為 《2020 財政年度國防授權法案》（National Defense Authorization Act for Fiscal Year 2020NDAA）的部分內容。
換句話說，即針對深度造假，要求國家情報總監（Director of National Intelligence，簡稱 DNI）完成以下任務 ：
做出深度造假對國家安全的潛在影響評估報告，報告內容應評估外國政府的深度造假技術能力，以及外國政府或外國人如何使用深度造假來損害國家安全利益。 當未來發現有明確來自國外，針對美國選舉或國內政治的深度造假信息，DNI 應立即通知國會。 舉辦深度造假競賽，提供一名或多名獲獎者高達 500 萬美元的獎金獎勵，以刺激深度造假技術的研究、開發或商業化。 時間來到 2021 年，美國參議院國土安全和政府事務委員會（The U.S. Senate Committee on Homeland Security and Governmental Affairs）通過《深度造假專案小組法案》（Deepfake Task Force Act ），旨在建立一個公私合作成立的團隊。小組須提出足以檢測數位內容是否偽造的技術和系統，供大眾驗證資訊是否真實，以遏止深度造假技術帶來的危害。
各地州政府針對Deepfake管制立法 而在州等級，也有關於深度造假的管制立法，像是維吉尼亞州、德州、加州。
2019 年，維吉尼亞州成為美國第一個針對未經同意的深度偽造色情內容，決定課以刑責的州。其設立「非法傳播或出售他人圖像罪 」（Unlawful dissemination or sale of images of another），處罰任何以脅迫、騷擾或恐嚇為目的，或是未經他人同意，惡意傳播或出售以任何方式製作他人裸露影片或照片的行為。該罪被列為第 1 類輕罪，可處 2 年以下監禁、得併處罰款。
之後德州參議院，也在同年通過第 751 號法案 ，明定禁止捏造意圖影響選舉結果的欺騙性影片。
加州州長也頒布了 AB-602 號及 AB-730 號兩項法案。前者允許被害人有權向影片製作者提起損害賠償訴訟或其他救濟，並求償合理的律師費和懲罰性賠償，如果違法行為出於惡意，法定損害賠償金最高可增至 15 萬美元。後者則禁止對競選公職的候選人在當選後 60 天內，分發惡意的深度造假影片的行為，受到名譽侵害的候選人可以依法對犯罪者啟動刑事追訴。
管制Deepfake 迫在眉睫，言論創作自由如何保障有待討論 面臨深度造假濫用來勢洶洶，可以看見美國近年所做的立法努力，但這些管制也不免受到一些質疑 。像是某些條文用語太過廣泛，就有人擔憂這會侵害《美國權利法案》增修條文第一條所確保的「言論自由」。
無論如何，管制深度造假技術的需求迫在眉睫。如何同時確保使用者的言論自由、創作自由，又提供適當管制免於濫用，避免名譽和個資侵害、詐欺案等刑事犯罪、或是影響選舉結果，甚至是國家安全的危害，相關政策亟待全面啟動！
編按：請讓你的模擬市民經常洗澡、沐浴和洗手來保持清潔。開心度才會++噢！
水熊蟲真的能跟量子位元「量子糾纏」嗎？
狐禪