• 作者／黃伊平，執業律師，台北大學法學碩士。

編按：在出現Deepfake之後，網路世界進入了「眼見不為憑」的年代。本次泛科學和法律白話文合作策畫「Deepfake 專題」，從Deepfake 技術與辨偽技術、到法律如何因應。科技在走，社會和法律該如何跟上、甚至超前部署呢？一起來全方位解析 Deepfake 吧！

有一部美國前前任總統歐巴馬咒罵前任總統川普的影片，在網路上廣為流傳。但是，只要看到片尾就會發現拍攝者並不是歐巴馬本人，而是透過編輯技術製作的。在這個使用深度造假 deepfake 技術完成的影片中，演員皮爾的聲音和嘴巴被換成歐巴馬的聲音和臉，顯示此類技術的危險和力量──這類影片足以讓任何人、說出任何話。

「深度造假」一詞廣為流傳，起源於美國社交網站 Reddit 的用戶「deepfakes」。該名用戶 deepfakes 的興趣，是和其他用戶分享其所製作的影片──尤其是把色情影片的女主角的臉替換成名人的面孔，包括影星蓋兒加朵(Gal Gadot-Varsano)、麥茜威廉姆斯 (Margaret Constance “Maisie” Williams) 和泰勒斯 (Taylor Alison Swift) 等。另一位用戶「deepfakeapp」甚至創建專門設計的應用程序「FakeApp」，讓沒有技術背景的用戶，只要下載 App 就可以製作假色情影片。而製作這些影片所需的種種工具都是免費的，並附有指導手冊，協助新手完成整個過程。

Deepfake的相關技術在網路的傳播下越來越普遍，除了色情影片，利用造假技術來誹謗、冒充和傳播虛假信息的現象，在美國也越來越氾濫。

遏止虛假信息，立法處罰詐欺視聽製作

為了管制這樣的現象，美國參議院先在 2018 年提出《禁止惡意深度造假法案》（Malicious Deep Fake Prohibition Act）草案，處罰製造詐欺視聽紀錄的犯罪行為，包括深度造假任何視聽影音媒體的電子紀錄、照片或電子影像等。

而且，不管是否發生在美國境內，只要從事這些行為的人都會被罰款，或同時處以 2 年以下的有期徒刑；而若犯罪行為影響聯邦、州等政府機關的任何程序（無論行政、立法或司法程序），像是選舉辦理、甚或導致暴力行為發生的話，則會被處 10 年以下的有期徒刑。

此外，美國眾議院更在 2019 年，提出限制深度造假影片篡改技術的《深度造假問責法》（DEEP FAKES Accountability Act）草案，要求使用深度造假技術製作影片的人負起責任。例如，影片若內含虛假人物的視覺元素，製作者應嵌入數字水印，讓閱聽者能清楚識別這份影音包含更改後的音檔或視覺元素，或要求提出更改聲明，以及對更改程度的簡單描述。

而若影片含有羞辱性虛假信息，足以製造暴力或人身傷害、煽動武裝或外交衝突、干涉包括選舉在內的官方程序、或與詐欺有關，違者將處罰款或可併處 5 年以下的有期徒刑。被侵害的個人，也可以向行為人請求最高 15 萬美元的民事賠償、或其他適當的救濟措施。

由國家情報總監介入，防範 Deepfake 危害國家安全

前面的管制，都是攸關私人之間的侵害；面對深度造假對國家安全的干擾，前美國總統川普在 2019 年簽署了美國第一部處理「Deepfake 深度造假」的聯邦法律，並成為 《2020 財政年度國防授權法案》（National Defense Authorization Act for Fiscal Year 2020NDAA）的部分內容。

換句話說，即針對深度造假，要求國家情報總監（Director of National Intelligence，簡稱 DNI）完成以下任務：

1. 做出深度造假對國家安全的潛在影響評估報告，報告內容應評估外國政府的深度造假技術能力，以及外國政府或外國人如何使用深度造假來損害國家安全利益。
2. 當未來發現有明確來自國外，針對美國選舉或國內政治的深度造假信息，DNI 應立即通知國會。
3. 舉辦深度造假競賽，提供一名或多名獲獎者高達 500 萬美元的獎金獎勵，以刺激深度造假技術的研究、開發或商業化。

時間來到 2021 年，美國參議院國土安全和政府事務委員會（The U.S. Senate Committee on Homeland Security and Governmental Affairs）通過《深度造假專案小組法案》（Deepfake Task Force Act），旨在建立一個公私合作成立的團隊。小組須提出足以檢測數位內容是否偽造的技術和系統，供大眾驗證資訊是否真實，以遏止深度造假技術帶來的危害。

各地州政府針對Deepfake管制立法

而在州等級，也有關於深度造假的管制立法，像是維吉尼亞州、德州、加州。

2019 年，維吉尼亞州成為美國第一個針對未經同意的深度偽造色情內容，決定課以刑責的州。其設立「非法傳播或出售他人圖像罪」（Unlawful dissemination or sale of images of another），處罰任何以脅迫、騷擾或恐嚇為目的，或是未經他人同意，惡意傳播或出售以任何方式製作他人裸露影片或照片的行為。該罪被列為第 1 類輕罪，可處 2 年以下監禁、得併處罰款。

之後德州參議院，也在同年通過第 751 號法案，明定禁止捏造意圖影響選舉結果的欺騙性影片。

加州州長也頒布了 AB-602 號及 AB-730 號兩項法案。前者允許被害人有權向影片製作者提起損害賠償訴訟或其他救濟，並求償合理的律師費和懲罰性賠償，如果違法行為出於惡意，法定損害賠償金最高可增至 15 萬美元。後者則禁止對競選公職的候選人在當選後 60 天內，分發惡意的深度造假影片的行為，受到名譽侵害的候選人可以依法對犯罪者啟動刑事追訴。

管制Deepfake 迫在眉睫，言論創作自由如何保障有待討論

面臨深度造假濫用來勢洶洶，可以看見美國近年所做的立法努力，但這些管制也不免受到一些質疑。像是某些條文用語太過廣泛，就有人擔憂這會侵害《美國權利法案》增修條文第一條所確保的「言論自由」。

無論如何，管制深度造假技術的需求迫在眉睫。如何同時確保使用者的言論自由、創作自由，又提供適當管制免於濫用，避免名譽和個資侵害、詐欺案等刑事犯罪、或是影響選舉結果，甚至是國家安全的危害，相關政策亟待全面啟動！

• 作者／庫基耶（Kenneth Cukier）、麥爾荀伯格（Viktor Mayer-Schönberger）、德菲爾利科德（Francis de Véricourt）
• 譯者／林俊宏

2015 年 6 月，被稱為「文化大熔爐」的美國，宣布同性婚姻合法化。然而，這一路走來充滿顛簸，因為每個人對於婚姻都有獨特的見解，當想法與他人發生摩擦時，也未必能夠尊重、擁抱不同的價值觀。現在，就讓我們來讀讀《造局者》，以美國同婚合法化為例，瞭解為何多元化的思考框架是文明進步的象徵吧！

多元化策略之一：擁抱變化

社會如果能培養出思考框架多元性，就能讓各式各樣的觀點都繁榮興盛。可行的策略有四種，前兩種在個人層面，分別是：擁抱變化、運用教育；後兩種在社會層面，分別是：鼓勵遷徙、容許摩擦。讓我們逐一討論這四種策略。

首先是擁抱變化。這指的是要主動追求不同觀點，而不只是被動希望它們自己出現。同時，也要把「觀點眾多」看成是值得高興的事，而不是生活中應該避免的狀態。簡單的一句「對這件事，我有另一個角度的看法」，一方面能點出雙方的差異，另一方面，也是尊重彼此的觀點。這也就能證實，即使有不同的思考框架，仍然能享受互動帶來的豐富成果。這也代表著接受每個人的認知並非同質，而且社會上能有各式各樣的心智模型，正是文明進步的象徵。

在美國，同性婚姻的推動者，就用巧妙且細膩的方式做到了這一點。在 1995 年，支持同婚的美國人只有四分之一，但在 2020 年，數字已經來到將近 70%。究竟發生了什麼事？一部分原因在於社會人口統計上的變化：夫妻生的小孩比以前少，於是讓婚姻的重點，逐漸從生育下一代，轉向穩定兩人之間的關係。除此之外，還有一些更深層的原因。

從 1980 年代起，同志權利運動一直把婚姻當成核心議題，也一直把爭取這種法律權利作為重點。然而，同志權利運動就是沒有獲得顯著的進展。保守人士高聲怒喊：「上帝是創造亞當與夏娃，不是亞當和史蒂夫！」尼克斯（Kevin Nix）是「婚姻自由」（Freedom to Marry）這個組織的溝通策略主任，他解釋道：「當時那種法律思考框架，講的是權利，但就是沒有效。那種框架缺乏想像、太唯物、沒有說服力。」

成功翻轉民意的關鍵：調整「愛與承諾」的框架

到了 2000 年代初期，尼克斯等人仔細研讀各種輿論數據、民意調查與焦點團體的意見，想弄清楚大眾為何還有疑慮。尼克斯說：「對於那些民眾、還有從前的反對者，我們得瞭解怎樣用他們的思考模式來談，設法讓他們成為我們的一份子。我們最後選定了一個價值觀的框架，鎖定大部分人結婚的原因：愛、奉獻、家庭。」

換言之，「婚姻自由」組織改變了他們對同性婚姻所強調的特性，不是視為一種自由或權利，而是對愛的表達與承諾。這是一項決定性的轉變。他們請來各行各業的同志證明這一點。他們也請了第三方來「認可」，像是請異性戀父母捍衛他們孩子的結婚權，或是投放廣告、將論述放進政治媒體、名人新聞，甚至插進電視新聞的字幕跑馬燈。

他們並不是要推翻或破壞他人對世界的觀點，證明只有自己的框架才「正確」；他們只是要讓大家知道，世界上有許許多多不同的框架，而且都同樣正當。於是，他們把同性婚姻放進許多異性婚姻同樣使用的「愛與承諾」的框架。

後來，他們成功了。2011 年，出現了黃金交叉，美國支持同婚的人數，正式超過反對的人數。講到同婚，只有 14% 的人會說到這是一種自由，而竟然已有 32% 的人會說這是一種愛、一種人類的情感。2015 年 6 月26 日，聯邦最高法院裁定憲法保障同性伴侶結婚的權利。這是一項重大的社會勝利，而且並不是靠著強迫民眾接受某種特定的思考框架，而是在於一項見解：一個多元社會的重要基礎，就是讓各種心智模型能夠共存。

——本文摘自《造局者：思考框架的威力》，2021 年 7 月，天下文化。

A 編按：班奈狄克．康柏拜區主演的《脫歐之戰》，主角透過散布假消息製造群眾恐慌，進而操弄選情。從古至今，民主政體在選舉期間，多少都會出現不實的抹黑謠言或陰謀論，企圖影響選情，而在網路發達的現代，情況又更加嚴峻。

《一切都是泛科學的陰謀》專題與你一同挖掘各種陰謀論的脈絡！這回我們邀請 #法科地史 好夥伴法律白話文，一起聊聊陰謀論對現代民主的影響！

• 作者 / 王鼎棫，喜歡微醺下的寫作與閱讀。法律白話文運動網站主編、東吳、靜宜與國防大學法律學系兼任講師。

自從 COVID-19 疫情爆發，並隨著社群平台成為傳遞資訊的主要媒介，全球各處出現了各式各樣的陰謀論，像是病毒是某國的生化武器，抑或疫情只是政府擴權的騙局。一不小心，就會變成有心人士點燃群眾仇恨的火種。

這樣的遍地開花，如同〈為什麼會有人相信「病毒是生化武器」？——從台灣政治地景談起〉提及：

當人們面臨過去從未見過的問題，同時感到極大的不確定性時，即使缺乏實際的證據，陰謀論卻提供了一個在常識上言之成理的解釋，自然也給予人們心理上的寬慰。

而網路時代，人們一天接收的訊息量非常龐大，已超越個人所能負荷的程度。往往只能用破碎的直覺與情感，來挑選放在眼前的資訊。這個趨勢顯示，人們辨識「何為客觀真相」的能力已被嚴重削弱，也讓無處不在的陰謀論開始顛覆我們所熟知的安穩環境。

陰謀論對民主運作的侵蝕

回顧人類歷史發展，可發現每次當有重大新科技問世，都會造成社會的變遷。像是蒸汽機之於工業革命與資本主義的大躍進，而當代的社群平台也改變了人們彼此溝通與串聯的方式，還有認知並處理資訊之後對社會所帶來的影響。

比方說，人們因為購物，會在搜尋引擎中主動留下關鍵字，查找心儀的商品，而這樣的情形如果反覆多次，平台業者也就可以趁勢蒐集，並搭配該等使用者的性別、年齡、地域等參數，綜合研判不同族群會對特定事物有何種更多的喜愛；如此，之後也就能更精準對不同族群提供投放，形成一個生產與銷售更有效率的體系。

而這樣的行銷自然也可以用在某種說法之上，於是陰謀論等不實在的資訊，不再是業餘人士抒發時間的無聊嗜好，而進化成可以兌現資金的商業模式，甚至左右政局的終極武器。如同〈當陰謀論成為產業，民主社會將向專制傾斜〉一文所言：

一旦散佈不實資訊有利可圖，自然吸引更多人炮製各種聳人聽聞的故事；陰謀論就像是永遠不死的陰魂，在資訊市場裡四處流竄，淹沒了真實資訊的音量。

如此一來，接收資訊的向下沈淪模式也就正式開啟。換句話說，平台使用者所接收到的資訊，也就隨著「自我喜好」愈來愈封閉；我們總以為自己是自由地摘取各種資訊，但慢慢地可能都變成是在他人偷偷塞進來的陰謀論中作出選擇。

於是當民主制度的初心，是採取「1 人 1 票」還有「多數決」的作法，讓取得贊同意見較多者，站上啟動國策的制高點。並在審議民主的預設下，一個完善的選舉制度，應思考如何讓「人選與政策」都能在充分資訊的培力之間，經過各界好好審議，方作出決定。

這些美好的想像，碰到了陰謀論充斥的現代政治運作，猶如高速撞上山壁的火車，只能支離破碎。就像臺灣 2018 年的公投，由於某些倡議者不斷製造虛偽與誤導，也讓許多選民在極短暫的時間內，在連題目都弄不清楚或不知其利弊得失的前提下，一次性地對數量眾多的提案作出重大的政治決定。

而當這樣廉價且無深謀遠慮的選擇反覆幾次之後，不可否認地將對民主社會的發展造成難以回復的損害。除了社會各部門之間的信任蕩然無存，政策是否達標也將不再能有期待；陰謀論會是未來選舉經費的支出大宗，更主宰了之後選舉的每次結果——我們將看到更多擅長嘴上功夫的候選人登上大位。

這樣的結局，是否是現代民主社會不可避免的宿命？而如果我們同意這樣的趨勢卻不採取防衛行動，是否也是一種對民主衰敗的冷眼旁觀？

是否該對陰謀論進行管制？

前面說到，社群平台是傳遞陰謀論的主要管道。因此，即有聲音認為應以法律規範要求網路中介業者，負責將相關虛假訊息從其平台移除，是最直接有效的手段之一。好比德國《網路執行法》的立法先例，就是交由平台業者負責移除不實言論。

這樣起身防衛民主的行動，即「防衛性民主」的理念，剛好也源自於德國。這是因為德國過去並無類似防衛機制，導致希特勒等極端分子透過民主程序奪取政權，進而自我毀滅於民主之手。因此，二戰之後，德國制憲者就著手為全新的共和國建構一套具有自我防衛能力的民主制度，以免重蹈覆轍。

因此政府如果為了捍衛民主機制的健全，擬具草案要求社群平台在一定條件下移除某些言論內容、刪除其帳號等其他處置，即命業者代替政府——從事篩選過濾特定內容或資訊的工作，以防止不當或煽動言論內容的擴散，回到我國法秩序的脈絡之下，就必須考量言論自由與公共利益間的權衡。

如同司法院釋字第 613 號中，大法官即從民主政治的運作原理，闡述傳播媒體之「公共功能」，強調立法者有妥善管制媒體的義務。

該號解釋指出：通訊傳播媒體是形成公共意見之媒介與平台，在自由民主憲政國家，具有監督包括總統、行政、立法、司法、考試與監察等所有行使公權力的機關，及監督贏取執政權，意欲影響國家的政黨等功能。

所以為了維護這樣的「公共功能」，政府即有在合乎比例原則的權衡前提下，進行合理管制的權限。

而針對政治性言論內容所做的管制；在台灣，一般認為應該出於具體迫切的需求。最著名的爭論，就是過往用「集會遊行法」禁止「主張共產主義或分裂國土」的行徑。

負責該案的司法院釋字445號明白指出：在一開始申請集會、遊行的時候，主管機關若只是因為申請人有推動此一主張的想法，卻對社會秩序、公共利益毫無「明顯而立即危害」的事實，即不予許可或逕行撤銷許可，則無異僅因主張共產主義或分裂國土，即禁止集會、遊行，乃過度干預集會、遊行參與者表達政治意見的自由，進而違反了憲法第 23 條所定的比例原則。

這樣的觀點，也如美國 Holmes 前大法官所說：當人們堅信自己所說的是正確的，想要鎮壓不同的意見是很合於邏輯的；而不同危機狀態下所衍生的集體恐慌，不免放大了人民對安全受到威脅的想像。因此對言論內容的管制審查，是不可輕言放棄檢驗「目的是否足夠正當」。

社群平台上的陰謀論是否能造成明顯而立即的危害？

林子儀前大法官曾在《言論自由與內亂罪——「明顯而立即危險原則」之闡釋》這篇經典論文指出：「急迫性之內容是具有彈性的，是要衡量客觀環境之各種因素以確定個案所面臨之急迫性之內涵。當所面對之危害是越嚴重之時，急迫性所要求之緊急危難也就在時間上越早呈現，吾人即可適時地防止其發生。」換言之，危害的嚴重程度，可能會影響到政府限制特定言論的時間點。

而在平台上對政治事件，散布不實或煽動性的陰謀論，影響民主法治的嚴重程度是否迫切與具體，可自媒體影響力來輔助觀察：

第一，根據數據（註）：2018 年 4 月的統計，Facebook 的積極使用者帳戶已達22億3千4百萬，居全球之冠（其後為 YouTube 與 WhatsApp 的15億，Facebook Messenger 的 13 億，WeChat 的 9 億 8 千萬及 Instagram 的 8 億1千3百萬餘）。

2019年，德國聯邦憲法法院也在相關裁判中提到：「Facebook 是以言論相互交換為目的的開放論壇，又憑藉其遙遙領先的使用者人數成為最為重要的社群網站，對於意圖傳播政治議程和政治理念的聲請人而言，Facebook 的利用就深具價值且不可替代，而其排除也會明顯影響聲請人與其他使用者主動開啟討論的機會（註一）。」

第二，網路具備同時性（synchronicity），而有大規模資訊傳布的功能，可以在同一時間，廣泛迅速地對多個傳輸對象，傳輸不同資訊——尤其是不實或煽動性的政治言論，進而創造輿論、話題，乃至意識型態的植入，以刺激公眾討論，操縱議題風向，影響力可謂無遠弗屆。

第三，平台演算法的變遷，都是為了極大化使用者的注意力，再依據個人偏好主動推送給個別使用者，讓不同使用者容易置身於同質資訊所共築而成的回音室（echo chamber）之中。

特別是攸關公共議題的政治資訊，若是來自熟識的社群成員，更容易引發閱聽者對相關內容的信賴，進一步改變閱聽者對政治人物的認同，逐漸改變政局的走向，所以當資訊的信賴基礎有所動搖，此種散佈方式對民主政治的正常運作，不免有所衝擊。

綜合前述，不實甚或煽動的陰謀論，若在網路上散佈，將視其言論的內容、傳播速度、衍生規模與所帶來的急迫性，不排除在個案中被認定有「明顯立即危害」的可能。

但是，若不考慮下架，只要求國家「事後」追究違法內容的民、刑事責任，一方面會因為網路跨國性和匿名性的現實條件，產生執法的困難，二方面上也不可能消化因許多不實言論所帶來的爆炸性案件量。

所以，鑑於公權力處理案件的客觀能力，除非國家完全放棄管制公共秩序的任務，否則基於社群平台掌控資訊流動的關鍵隘口地位，即有要求網路中介者發動適度管制的餘地。

管制之外，不忘用對話形成共善

美國哥倫比亞法學院吳修銘教授曾著有《注意力商人》(The Attention Merchants)。書中強調：現代有心人士，若要控制或影響言論，將透過「注意力稀缺」的現象；也就是重心會放在資訊接收者，並以「更多的言論」作為手段，以言論來限制言論。

換句話說，由於言論市場上的閱聽者注意力有限，所以有心人士只要讓資訊大量泛濫，本來好好論述議題的言論，就會瞬間變得很難被人注意，也就順勢達到混淆視聽的效果。

因此，我們也找到了管制社群媒體的正當性。但所謂兩權相害取其輕，一方面我們不允許社群媒體上有惡意放出的錯誤或煽動資訊，使市民無法接近正確並完整的資訊，進而破壞政策的充分討論，讓公共監督的機制形同虛設，二方面我們也不該允許用漫無邊際的公務順行或國家安全，輕易地封殺言論自由，戕害民眾的知的權利，逐漸蠶食民主的運作基礎。

像是比較法上，社群平台若不移除違法內容，就會面臨罰鍰風險，就很容易讓網站在無法明辨內容違法與否的前提下，就先移除內容。且當用戶因為社群規模，而難以切換平台之際，網站甚至可能根本欠缺好好判定內容是否妥適的動機，就逕自採取自動且系統化的方式，讓資訊眼不見為淨。

在這些情況下，都將導致平台做出過度的管制，成為另類的言論壓迫者。

對此，如學者倡議，可以考慮的因應手段像是：規範社群平台讓用戶陳述意見，並說明決定理由的義務，並保障用戶言論的重新上架權，或對於社群網站過度阻擋的情況，設計一定罰鍰因應等等（註三）。

然而，管制之外，民主的政治過程之所以可貴，正因為人民有機會面對不同立場的人們，透過真誠的對話與溝通，超越自己侷限的眼界與立場，面對共同體的未來，思考「共善」的所在；若一味取向管制，最終只會帶來寒蟬效應，而適度在各種取向之間，動態保持平衡，是不可或缺的。

近幾年不是流行所謂「亡國感」一詞嗎？所謂的「亡國感」，並不是針對任何一個國號，而是擔心以民為主的生活方式，在無力之中消逝。

這是因為當我們選擇了法治社會，也就選擇了定期改選、權力分立、基本權利保障、照顧少數族群等基本價值觀。因此所謂的「亡國感」，正是設想前述民主要素會因為政治情勢消失，而對這樣的生活方式感到憂慮。

2019 年的香港反送中事件，多少喚起了台灣人對於民主的珍惜，啟發了對未來政治的投入，毋寧是這座島嶼環繞在國際陰影下，一道可貴的天光。也願大家共同用這道天光，照向陰謀論對政局那深不可測的影響。

備註

1. 相關數據援引自胡元輝，商營社群媒體的自律與問責：政治經濟學取徑的批判，傳播、文化與政治，第8期，頁58。
2. 翻譯引自蘇慧婕，正當平台程序作為網路中介者的免責要件：德國網路執行法的合憲性評析，臺大法學論叢，第49卷第4期，2020年，頁1960。
3. 同前註，頁1962。