• 作者／黃伊平，執業律師，台北大學法學碩士。

編按：在出現Deepfake之後，網路世界進入了「眼見不為憑」的年代。本次泛科學和法律白話文合作策畫「Deepfake 專題」，從Deepfake 技術與辨偽技術、到法律如何因應。科技在走，社會和法律該如何跟上、甚至超前部署呢？一起來全方位解析 Deepfake 吧！

有一部美國前前任總統歐巴馬咒罵前任總統川普的影片，在網路上廣為流傳。但是，只要看到片尾就會發現拍攝者並不是歐巴馬本人，而是透過編輯技術製作的。在這個使用深度造假 deepfake 技術完成的影片中，演員皮爾的聲音和嘴巴被換成歐巴馬的聲音和臉，顯示此類技術的危險和力量──這類影片足以讓任何人、說出任何話。

「深度造假」一詞廣為流傳，起源於美國社交網站 Reddit 的用戶「deepfakes」。該名用戶 deepfakes 的興趣，是和其他用戶分享其所製作的影片──尤其是把色情影片的女主角的臉替換成名人的面孔，包括影星蓋兒加朵(Gal Gadot-Varsano)、麥茜威廉姆斯 (Margaret Constance “Maisie” Williams) 和泰勒斯 (Taylor Alison Swift) 等。另一位用戶「deepfakeapp」甚至創建專門設計的應用程序「FakeApp」，讓沒有技術背景的用戶，只要下載 App 就可以製作假色情影片。而製作這些影片所需的種種工具都是免費的，並附有指導手冊，協助新手完成整個過程。

Deepfake的相關技術在網路的傳播下越來越普遍，除了色情影片，利用造假技術來誹謗、冒充和傳播虛假信息的現象，在美國也越來越氾濫。

遏止虛假信息，立法處罰詐欺視聽製作

為了管制這樣的現象，美國參議院先在 2018 年提出《禁止惡意深度造假法案》（Malicious Deep Fake Prohibition Act）草案，處罰製造詐欺視聽紀錄的犯罪行為，包括深度造假任何視聽影音媒體的電子紀錄、照片或電子影像等。

而且，不管是否發生在美國境內，只要從事這些行為的人都會被罰款，或同時處以 2 年以下的有期徒刑；而若犯罪行為影響聯邦、州等政府機關的任何程序（無論行政、立法或司法程序），像是選舉辦理、甚或導致暴力行為發生的話，則會被處 10 年以下的有期徒刑。

此外，美國眾議院更在 2019 年，提出限制深度造假影片篡改技術的《深度造假問責法》（DEEP FAKES Accountability Act）草案，要求使用深度造假技術製作影片的人負起責任。例如，影片若內含虛假人物的視覺元素，製作者應嵌入數字水印，讓閱聽者能清楚識別這份影音包含更改後的音檔或視覺元素，或要求提出更改聲明，以及對更改程度的簡單描述。

而若影片含有羞辱性虛假信息，足以製造暴力或人身傷害、煽動武裝或外交衝突、干涉包括選舉在內的官方程序、或與詐欺有關，違者將處罰款或可併處 5 年以下的有期徒刑。被侵害的個人，也可以向行為人請求最高 15 萬美元的民事賠償、或其他適當的救濟措施。

由國家情報總監介入，防範 Deepfake 危害國家安全

前面的管制，都是攸關私人之間的侵害；面對深度造假對國家安全的干擾，前美國總統川普在 2019 年簽署了美國第一部處理「Deepfake 深度造假」的聯邦法律，並成為 《2020 財政年度國防授權法案》（National Defense Authorization Act for Fiscal Year 2020NDAA）的部分內容。

換句話說，即針對深度造假，要求國家情報總監（Director of National Intelligence，簡稱 DNI）完成以下任務：

1. 做出深度造假對國家安全的潛在影響評估報告，報告內容應評估外國政府的深度造假技術能力，以及外國政府或外國人如何使用深度造假來損害國家安全利益。
2. 當未來發現有明確來自國外，針對美國選舉或國內政治的深度造假信息，DNI 應立即通知國會。
3. 舉辦深度造假競賽，提供一名或多名獲獎者高達 500 萬美元的獎金獎勵，以刺激深度造假技術的研究、開發或商業化。

時間來到 2021 年，美國參議院國土安全和政府事務委員會（The U.S. Senate Committee on Homeland Security and Governmental Affairs）通過《深度造假專案小組法案》（Deepfake Task Force Act），旨在建立一個公私合作成立的團隊。小組須提出足以檢測數位內容是否偽造的技術和系統，供大眾驗證資訊是否真實，以遏止深度造假技術帶來的危害。

各地州政府針對Deepfake管制立法

而在州等級，也有關於深度造假的管制立法，像是維吉尼亞州、德州、加州。

2019 年，維吉尼亞州成為美國第一個針對未經同意的深度偽造色情內容，決定課以刑責的州。其設立「非法傳播或出售他人圖像罪」（Unlawful dissemination or sale of images of another），處罰任何以脅迫、騷擾或恐嚇為目的，或是未經他人同意，惡意傳播或出售以任何方式製作他人裸露影片或照片的行為。該罪被列為第 1 類輕罪，可處 2 年以下監禁、得併處罰款。

之後德州參議院，也在同年通過第 751 號法案，明定禁止捏造意圖影響選舉結果的欺騙性影片。

加州州長也頒布了 AB-602 號及 AB-730 號兩項法案。前者允許被害人有權向影片製作者提起損害賠償訴訟或其他救濟，並求償合理的律師費和懲罰性賠償，如果違法行為出於惡意，法定損害賠償金最高可增至 15 萬美元。後者則禁止對競選公職的候選人在當選後 60 天內，分發惡意的深度造假影片的行為，受到名譽侵害的候選人可以依法對犯罪者啟動刑事追訴。

管制Deepfake 迫在眉睫，言論創作自由如何保障有待討論

面臨深度造假濫用來勢洶洶，可以看見美國近年所做的立法努力，但這些管制也不免受到一些質疑。像是某些條文用語太過廣泛，就有人擔憂這會侵害《美國權利法案》增修條文第一條所確保的「言論自由」。

無論如何，管制深度造假技術的需求迫在眉睫。如何同時確保使用者的言論自由、創作自由，又提供適當管制免於濫用，避免名譽和個資侵害、詐欺案等刑事犯罪、或是影響選舉結果，甚至是國家安全的危害，相關政策亟待全面啟動！

A 編按：班奈狄克．康柏拜區主演的《脫歐之戰》，主角透過散布假消息製造群眾恐慌，進而操弄選情。從古至今，民主政體在選舉期間，多少都會出現不實的抹黑謠言或陰謀論，企圖影響選情，而在網路發達的現代，情況又更加嚴峻。

《一切都是泛科學的陰謀》專題與你一同挖掘各種陰謀論的脈絡！這回我們邀請 #法科地史 好夥伴法律白話文，一起聊聊陰謀論對現代民主的影響！

• 作者 / 王鼎棫，喜歡微醺下的寫作與閱讀。法律白話文運動網站主編、東吳、靜宜與國防大學法律學系兼任講師。

自從 COVID-19 疫情爆發，並隨著社群平台成為傳遞資訊的主要媒介，全球各處出現了各式各樣的陰謀論，像是病毒是某國的生化武器，抑或疫情只是政府擴權的騙局。一不小心，就會變成有心人士點燃群眾仇恨的火種。

這樣的遍地開花，如同〈為什麼會有人相信「病毒是生化武器」？——從台灣政治地景談起〉提及：

當人們面臨過去從未見過的問題，同時感到極大的不確定性時，即使缺乏實際的證據，陰謀論卻提供了一個在常識上言之成理的解釋，自然也給予人們心理上的寬慰。

而網路時代，人們一天接收的訊息量非常龐大，已超越個人所能負荷的程度。往往只能用破碎的直覺與情感，來挑選放在眼前的資訊。這個趨勢顯示，人們辨識「何為客觀真相」的能力已被嚴重削弱，也讓無處不在的陰謀論開始顛覆我們所熟知的安穩環境。

陰謀論對民主運作的侵蝕

回顧人類歷史發展，可發現每次當有重大新科技問世，都會造成社會的變遷。像是蒸汽機之於工業革命與資本主義的大躍進，而當代的社群平台也改變了人們彼此溝通與串聯的方式，還有認知並處理資訊之後對社會所帶來的影響。

比方說，人們因為購物，會在搜尋引擎中主動留下關鍵字，查找心儀的商品，而這樣的情形如果反覆多次，平台業者也就可以趁勢蒐集，並搭配該等使用者的性別、年齡、地域等參數，綜合研判不同族群會對特定事物有何種更多的喜愛；如此，之後也就能更精準對不同族群提供投放，形成一個生產與銷售更有效率的體系。

而這樣的行銷自然也可以用在某種說法之上，於是陰謀論等不實在的資訊，不再是業餘人士抒發時間的無聊嗜好，而進化成可以兌現資金的商業模式，甚至左右政局的終極武器。如同〈當陰謀論成為產業，民主社會將向專制傾斜〉一文所言：

一旦散佈不實資訊有利可圖，自然吸引更多人炮製各種聳人聽聞的故事；陰謀論就像是永遠不死的陰魂，在資訊市場裡四處流竄，淹沒了真實資訊的音量。

如此一來，接收資訊的向下沈淪模式也就正式開啟。換句話說，平台使用者所接收到的資訊，也就隨著「自我喜好」愈來愈封閉；我們總以為自己是自由地摘取各種資訊，但慢慢地可能都變成是在他人偷偷塞進來的陰謀論中作出選擇。

於是當民主制度的初心，是採取「1 人 1 票」還有「多數決」的作法，讓取得贊同意見較多者，站上啟動國策的制高點。並在審議民主的預設下，一個完善的選舉制度，應思考如何讓「人選與政策」都能在充分資訊的培力之間，經過各界好好審議，方作出決定。

這些美好的想像，碰到了陰謀論充斥的現代政治運作，猶如高速撞上山壁的火車，只能支離破碎。就像臺灣 2018 年的公投，由於某些倡議者不斷製造虛偽與誤導，也讓許多選民在極短暫的時間內，在連題目都弄不清楚或不知其利弊得失的前提下，一次性地對數量眾多的提案作出重大的政治決定。

而當這樣廉價且無深謀遠慮的選擇反覆幾次之後，不可否認地將對民主社會的發展造成難以回復的損害。除了社會各部門之間的信任蕩然無存，政策是否達標也將不再能有期待；陰謀論會是未來選舉經費的支出大宗，更主宰了之後選舉的每次結果——我們將看到更多擅長嘴上功夫的候選人登上大位。

這樣的結局，是否是現代民主社會不可避免的宿命？而如果我們同意這樣的趨勢卻不採取防衛行動，是否也是一種對民主衰敗的冷眼旁觀？

是否該對陰謀論進行管制？

前面說到，社群平台是傳遞陰謀論的主要管道。因此，即有聲音認為應以法律規範要求網路中介業者，負責將相關虛假訊息從其平台移除，是最直接有效的手段之一。好比德國《網路執行法》的立法先例，就是交由平台業者負責移除不實言論。

這樣起身防衛民主的行動，即「防衛性民主」的理念，剛好也源自於德國。這是因為德國過去並無類似防衛機制，導致希特勒等極端分子透過民主程序奪取政權，進而自我毀滅於民主之手。因此，二戰之後，德國制憲者就著手為全新的共和國建構一套具有自我防衛能力的民主制度，以免重蹈覆轍。

因此政府如果為了捍衛民主機制的健全，擬具草案要求社群平台在一定條件下移除某些言論內容、刪除其帳號等其他處置，即命業者代替政府——從事篩選過濾特定內容或資訊的工作，以防止不當或煽動言論內容的擴散，回到我國法秩序的脈絡之下，就必須考量言論自由與公共利益間的權衡。

如同司法院釋字第 613 號中，大法官即從民主政治的運作原理，闡述傳播媒體之「公共功能」，強調立法者有妥善管制媒體的義務。

該號解釋指出：通訊傳播媒體是形成公共意見之媒介與平台，在自由民主憲政國家，具有監督包括總統、行政、立法、司法、考試與監察等所有行使公權力的機關，及監督贏取執政權，意欲影響國家的政黨等功能。

所以為了維護這樣的「公共功能」，政府即有在合乎比例原則的權衡前提下，進行合理管制的權限。

而針對政治性言論內容所做的管制；在台灣，一般認為應該出於具體迫切的需求。最著名的爭論，就是過往用「集會遊行法」禁止「主張共產主義或分裂國土」的行徑。

負責該案的司法院釋字445號明白指出：在一開始申請集會、遊行的時候，主管機關若只是因為申請人有推動此一主張的想法，卻對社會秩序、公共利益毫無「明顯而立即危害」的事實，即不予許可或逕行撤銷許可，則無異僅因主張共產主義或分裂國土，即禁止集會、遊行，乃過度干預集會、遊行參與者表達政治意見的自由，進而違反了憲法第 23 條所定的比例原則。

這樣的觀點，也如美國 Holmes 前大法官所說：當人們堅信自己所說的是正確的，想要鎮壓不同的意見是很合於邏輯的；而不同危機狀態下所衍生的集體恐慌，不免放大了人民對安全受到威脅的想像。因此對言論內容的管制審查，是不可輕言放棄檢驗「目的是否足夠正當」。

社群平台上的陰謀論是否能造成明顯而立即的危害？

林子儀前大法官曾在《言論自由與內亂罪——「明顯而立即危險原則」之闡釋》這篇經典論文指出：「急迫性之內容是具有彈性的，是要衡量客觀環境之各種因素以確定個案所面臨之急迫性之內涵。當所面對之危害是越嚴重之時，急迫性所要求之緊急危難也就在時間上越早呈現，吾人即可適時地防止其發生。」換言之，危害的嚴重程度，可能會影響到政府限制特定言論的時間點。

而在平台上對政治事件，散布不實或煽動性的陰謀論，影響民主法治的嚴重程度是否迫切與具體，可自媒體影響力來輔助觀察：

第一，根據數據（註）：2018 年 4 月的統計，Facebook 的積極使用者帳戶已達22億3千4百萬，居全球之冠（其後為 YouTube 與 WhatsApp 的15億，Facebook Messenger 的 13 億，WeChat 的 9 億 8 千萬及 Instagram 的 8 億1千3百萬餘）。

2019年，德國聯邦憲法法院也在相關裁判中提到：「Facebook 是以言論相互交換為目的的開放論壇，又憑藉其遙遙領先的使用者人數成為最為重要的社群網站，對於意圖傳播政治議程和政治理念的聲請人而言，Facebook 的利用就深具價值且不可替代，而其排除也會明顯影響聲請人與其他使用者主動開啟討論的機會（註一）。」

第二，網路具備同時性（synchronicity），而有大規模資訊傳布的功能，可以在同一時間，廣泛迅速地對多個傳輸對象，傳輸不同資訊——尤其是不實或煽動性的政治言論，進而創造輿論、話題，乃至意識型態的植入，以刺激公眾討論，操縱議題風向，影響力可謂無遠弗屆。

第三，平台演算法的變遷，都是為了極大化使用者的注意力，再依據個人偏好主動推送給個別使用者，讓不同使用者容易置身於同質資訊所共築而成的回音室（echo chamber）之中。

特別是攸關公共議題的政治資訊，若是來自熟識的社群成員，更容易引發閱聽者對相關內容的信賴，進一步改變閱聽者對政治人物的認同，逐漸改變政局的走向，所以當資訊的信賴基礎有所動搖，此種散佈方式對民主政治的正常運作，不免有所衝擊。

綜合前述，不實甚或煽動的陰謀論，若在網路上散佈，將視其言論的內容、傳播速度、衍生規模與所帶來的急迫性，不排除在個案中被認定有「明顯立即危害」的可能。

但是，若不考慮下架，只要求國家「事後」追究違法內容的民、刑事責任，一方面會因為網路跨國性和匿名性的現實條件，產生執法的困難，二方面上也不可能消化因許多不實言論所帶來的爆炸性案件量。

所以，鑑於公權力處理案件的客觀能力，除非國家完全放棄管制公共秩序的任務，否則基於社群平台掌控資訊流動的關鍵隘口地位，即有要求網路中介者發動適度管制的餘地。

管制之外，不忘用對話形成共善

美國哥倫比亞法學院吳修銘教授曾著有《注意力商人》(The Attention Merchants)。書中強調：現代有心人士，若要控制或影響言論，將透過「注意力稀缺」的現象；也就是重心會放在資訊接收者，並以「更多的言論」作為手段，以言論來限制言論。

換句話說，由於言論市場上的閱聽者注意力有限，所以有心人士只要讓資訊大量泛濫，本來好好論述議題的言論，就會瞬間變得很難被人注意，也就順勢達到混淆視聽的效果。

因此，我們也找到了管制社群媒體的正當性。但所謂兩權相害取其輕，一方面我們不允許社群媒體上有惡意放出的錯誤或煽動資訊，使市民無法接近正確並完整的資訊，進而破壞政策的充分討論，讓公共監督的機制形同虛設，二方面我們也不該允許用漫無邊際的公務順行或國家安全，輕易地封殺言論自由，戕害民眾的知的權利，逐漸蠶食民主的運作基礎。

像是比較法上，社群平台若不移除違法內容，就會面臨罰鍰風險，就很容易讓網站在無法明辨內容違法與否的前提下，就先移除內容。且當用戶因為社群規模，而難以切換平台之際，網站甚至可能根本欠缺好好判定內容是否妥適的動機，就逕自採取自動且系統化的方式，讓資訊眼不見為淨。

在這些情況下，都將導致平台做出過度的管制，成為另類的言論壓迫者。

對此，如學者倡議，可以考慮的因應手段像是：規範社群平台讓用戶陳述意見，並說明決定理由的義務，並保障用戶言論的重新上架權，或對於社群網站過度阻擋的情況，設計一定罰鍰因應等等（註三）。

然而，管制之外，民主的政治過程之所以可貴，正因為人民有機會面對不同立場的人們，透過真誠的對話與溝通，超越自己侷限的眼界與立場，面對共同體的未來，思考「共善」的所在；若一味取向管制，最終只會帶來寒蟬效應，而適度在各種取向之間，動態保持平衡，是不可或缺的。

近幾年不是流行所謂「亡國感」一詞嗎？所謂的「亡國感」，並不是針對任何一個國號，而是擔心以民為主的生活方式，在無力之中消逝。

這是因為當我們選擇了法治社會，也就選擇了定期改選、權力分立、基本權利保障、照顧少數族群等基本價值觀。因此所謂的「亡國感」，正是設想前述民主要素會因為政治情勢消失，而對這樣的生活方式感到憂慮。

2019 年的香港反送中事件，多少喚起了台灣人對於民主的珍惜，啟發了對未來政治的投入，毋寧是這座島嶼環繞在國際陰影下，一道可貴的天光。也願大家共同用這道天光，照向陰謀論對政局那深不可測的影響。

備註

1. 相關數據援引自胡元輝，商營社群媒體的自律與問責：政治經濟學取徑的批判，傳播、文化與政治，第8期，頁58。
2. 翻譯引自蘇慧婕，正當平台程序作為網路中介者的免責要件：德國網路執行法的合憲性評析，臺大法學論叢，第49卷第4期，2020年，頁1960。
3. 同前註，頁1962。

• 作者／ 班‧歐林 (Ben Orlin)；譯者／王年愷

若說人類「不擅長」機率，太過簡化又太讓人難堪了。

機率是現代數學裡一門相當精妙的分支，當中處處有悖論陷阱。即使是基本的問題，也可能讓冷靜無情的專家暈頭轉向。嘲諷別人機率算錯，就像是在笑他們怎麼那麼不會飛，或是怎麼那麼不會喝下一整個海洋的水，或是怎麼那麼不防火。

如果真要說句公道話，應該說人類處理機率的能力實在爛透了。康納曼和特沃斯基在心理學研究中發現，人類對於不確定的事件有頑固的錯誤想法。他們會一而再、再而三地高估可能性微乎其微的事件，並低估幾乎鐵定會發生的事件。

這沒什麼大不了的，不是嗎？老實說，我們什麼時候看過機率在真實世界裡冒出頭來呢？又不是一輩子都在想辦法抓住知識性的工具，讓我們也許能在每一個清醒時刻的種種不確定性混沌中稍稍有些安穩⋯⋯

好吧，為了以防萬一——本章是一個操作指南，說明各種不同的人類怎麼去思考不確定性。這個東西就算再難，也不表示我們不能拿它來玩一玩。

如果你是政治記者

哈囉！你是一位政治記者。你會報導即將到來的選舉。你會報導失敗的選戰。在罕見的特別日子裡，你甚至還會報導像是「政策」和「治理」的事。

另外，稍微不可能的事情發生時，你好像會感到困惑。情況並非一直如此。在某個遙遠的過去，你會把選舉視為無限可能的神奇時刻。你輕描淡寫最可能發生的結果來增加刺激感，讓每一場選戰看起來都像是比賽結束鈴聲響起時從中場丟球正中籃框定勝負的。

2004 年美國總統大選當天晚上，小布希在俄亥俄州領先 100,000 票，未開出的選票不到 100,000 張時，你卻說俄亥俄州的選舉結果「太接近，無法確定」。到了 2012 年的總統大選，機率模型預測歐巴馬獲勝的可能性是 90%，你卻說選戰是「兩邊都有可能贏」。

然後，2016 年又把你的世界完全顛倒過來了。川普贏了希拉蕊．柯林頓。第二天醒來時，你覺得你經歷了一次量子奇異點，選舉結果就像是一隻突然憑空冒出來的兔子一樣完全無法預料。但對機率學家席佛（Nate Silver）及看法相近的人來說，這個結果只不過有一點意外而已，發生的機率為三分之一—就像丟骰子丟出 5 或 6 一樣。

如果你是氣象預報員

哈囉！你是一位氣象預報員，是電視上的雲層先知。你的一舉一動都自信滿滿，每一次交談的結尾都是「現在把現場交還棚內主播」。

另外，你會故意把機率說得模稜兩可，讓觀眾不會對你生氣。當然，你會盡可能誠實。如果你說明天的降雨機率是 80%，你所說的完全正確：在這樣的日子當中，降雨的日子總共有 80%。

但是，當降雨比較不可能發生時，你會誇大這些數據。你害怕有人把雨傘留在家裡，天空卻下起雨來，他們跑到網路上罵你。因此，當你說明天降雨機率是 20% 時，這種日子實際上只有 10% 會降雨。你會增加機率，來減少觀眾的咒罵。

假如觀眾更了解機率是什麼，也許你就能夠說出真話。當觀眾聽到「10%」的時候，好像會理解成「不會發生」。假如他們真的理解真正的意思（「每十次會發生一次」），你就能放鬆講出心裡真正想說的數據。在這一天到來以前，你仍然只能兜售半真半假的數據。

現在把現場交還棚內主播。

如果你是千年鷹號太空船船長

哈囉！你是「千年鷹號」（Millennium Falcon）¹ 太空船船長。你是一位星際暴徒、壞蛋，也是心腸寬大的俠盜。你一生的伙伴是一隻身上只穿一條子彈帶的 8 英尺長太空狗。

另外，你完完全全否認有「可能性」這件事。你不是一個會冷靜反思和考慮戰略的人。你會走私違禁品，也會顛覆整個帝國。你是快速拔槍殺人的冒險之士，只要稍有遲疑便會喪命，多猶豫幾下的話還會更慘。

在散兵坑裡沒有機率專家，而且你一生都躲在散兵坑裡。對你來說，繁複的機率算式只是累贅，和某個一直說「我的天啊」及「請容我建議」的神經質金色機器人一樣是拖油瓶。

我會覺得，我們每一個人的心裡都有一點你的特質。在需要冷靜、細心評估的時候，機率是相當有用的東西，但有時候我們需要一種自信，是頑強的量化數據給不了的。在需要直覺和行動的時刻，被機率拴住的人可能會畏縮，不敢跳出非跳不可的一大步。在這種時候，我們必須忘掉數據，儘管去飛。

註解：

1. 譯注：《星際大戰》中的宇宙飛船，用於走私業務，影史上最著名的太空船之一。

——本文摘自《塗鴉學數學：以三角形打造城市、用骰子來理解經濟危機、玩井字遊戲學策略思考，24堂建構邏輯思維、貫通幾何學、破解機率陷阱、弄懂統計奧妙的數學課》，2020 年 5 月，臉譜出版