網路匿名制度如何造成責任分散「道德解離」？從南韓「N號房」性犯罪事件談起

• 作者／賴昭正｜前清大化學系教授、系主任、所長；合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒，那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬．霍金（Stephen Hawking）　英國理論物理學家

大約在八十年前，當第一台數位計算機出現時，一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧；但七十年後，還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」（Artificial Intelligent，簡稱 AI）的能力最近十年突然起飛，在許多（所有？）領域的測試中擊敗了人類，正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元（graphic process unit，簡稱 GPU）是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia（英偉達）股票從每股不到 $5，上升到今天（5 月 24 日）每股超過 $1000（註一）的全世界第三大公司，其創辦人（之一）兼首席執行官、出生於台南的黃仁勳（Jenson Huang）也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人！可是多少人了解圖形處理單元是什麼嗎？到底是時勢造英雄，還是英雄造時勢？

在回答這問題之前，筆者得先聲明筆者不是學電腦的，因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事，不是我們外行人需要了解的；但作為一位現在的知識分子或公民，了解基本原理則是必備的條件：例如了解「能量不滅定律」就可以不用仔細分析，即可判斷永動機是騙人的；又如現在可攜帶型冷氣機充斥市面上，它們不用往室外排廢熱氣，就可以提供屋內冷氣，讀者買嗎？

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」（central process unit，簡稱 CPU）。CPU 是電腦的「腦」，其電子電路負責處理所有軟體正確運作所需的所有任務，如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作；但為了簡單化，我們在這裡所談的工作將只是執行算術和邏輯運算的工作（arithmetic and logic unit，簡稱 ALU），如將兩個數加在一起。在這一簡化的定義下，CPU 在任何一個時刻均只能執行一件工作而已。

在個人電腦剛出現只能用於一般事物的處理時，CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後，CPU 開始顯示心有餘而力不足：例如電玩動畫需要應用程式處理數以萬計的像素（pixel），每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年，英偉達將其一「具有集成變換、照明、三角形設定／裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」（註二）定位為「世界上第一款 GPU」，「GPU」這一名詞於焉誕生。不像 CPU，GPU 可以在同一個時刻執行許多算術和邏輯運算的工作，快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢？因每一時刻只能做一件事，所以其步驟為：

• 計算 7×5；
• 計算 6/3；
• 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢？很多工作便可以同時（平行）進行：

• 同時計算 7×5 及 6/3；
• 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間，但如果我們有 16 對 a×b 要相加呢？單獨的 CPU 需要 31 個運算的時間（16 個 × 的運算時間及 15 個 + 的運算時間），而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間（1 個 × 的運算時間及 4 個 + 的運算時間）！

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了，如何將它擺正成右圖呢？ 一句話：「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點（座標 x, y）組成的，所以這句簡單的話可讓 CPU 忙得不亦樂乎了：每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

即每一點均需要做四個 × 及兩個 + 的運算！如果每一運算需要 10^-6 秒，那麼讓《我愛科學》一書做個簡單的角度旋轉，便需要 6 秒，這豈是電動玩具畫面變化所能接受的？

人類的許多發明都是基於需要的關係，因此電腦硬件設計家便開始思考：這些點轉換都是獨立的，為什麼我們不讓它們同時進行（平行運算，parallel processing）呢？於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 10⁶ 運算，那上圖的轉換只需 10^-6 秒鐘！

GPU 的興起

GPU 可分成兩種：

• 整合式圖形「卡」（integrated graphics）是內建於 CPU 中的 GPU，所以不是插卡，它與 CPU 共享系統記憶體，沒有單獨的記憶體組來儲存圖形／視訊，主要用於大部分的個人電腦及筆記型電腦上；早期英特爾（Intel）因為不讓插卡 GPU 侵蝕主機的地盤，在這方面的研發佔領先的地位，約佔 68% 的市場。
• 獨立顯示卡（discrete graphics）有不與 CPU 共享的自己專用內存；由於與處理器晶片分離，它會消耗更多電量並產生大量熱量；然而，也正是因為有自己的記憶體來源和電源，它可以比整合式顯示卡提供更高的效能。

2007 年，英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後，科學家發現獨立 GPU 不但能夠快速處理圖形變化，在需要大量計算才能實現特定結果的任務上也非常有效，因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理，不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化，也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬（註三）等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分，正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲，遠遠落在英偉達（80%）及超微半導體公司（Advance Micro Devices Inc.，19%，註四）之後，大約只有 1% 的市場。

事實上現在的中央處理單元也不再是真正的「單元」，而是如圖二可含有多個可以同時處理運算的核心（core）單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心，因此其核心功能不如 CPU 核心強大，但它們能同時高速執行大量相同的指令，在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心；GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書，不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等，也知道它擺斜了。這種「平行運作」的能力不僅限於視覺，它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是：嘴巴在講，腦筋思考已經不知往前跑了多少公里，常常為了追趕而越講越快，將不少學生拋到腦後！這不表示筆者聰明，因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技，因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣（matrix）的讀者應該知道，如果用矩陣和向量（vector）表達，上面所談到之座標轉換將是非常簡潔的（註五）。而矩陣和向量計算正是機器學習（machine learning）演算法的基礎！也正是獨立圖形處理單元最強大的功能所在！因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石：它們的架構就是充分利用並行處理，來快速執行多個操作，進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」（deep learning）。

黃仁勳在 5 月 22 日的發布業績新聞上謂：「下一次工業革命已經開始了：企業界和各國正與英偉達合作，將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升，幫助企業降低成本和提高能源效率，同時擴大收入機會。」

附錄

人工智慧的實用例子：下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後，讀者是不是認為筆者該退休了？

GPU（圖形處理單元）和 AI（人工智慧）之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力，特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步，使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率，使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐，而且使其更具成本效益，因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展，GPU 的角色可能會變得更加不可或缺，推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標，這些神經元網路可以獨立但有凝聚力地工作，使我們能夠執行複雜的任務，例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外，研究表明，與非人類動物相比，人類大腦具有更多平行通路，這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上，一邊聽音樂一邊做飯，或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技，因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵：透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

（註一）當讀者看到此篇文章時，其股票已一股換十股，現在每一股約在 $100 左右。

（註二）組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」（GeForce 256）插卡吧?

（註三）筆者於 1984 年離開清華大學到 IBM 時，就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士（fellow）」Enrico Clementi 的團隊：因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層，我們只能自己寫軟體將 8 台中型電腦（非 IBM 品牌！）與一大型電腦連接來做平行運算，進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

（註四）補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商：英偉達及 ATI（Array Technology Inc.）。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立，2006 年被超微半導體公司收購，品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐（Lisa Tzwu-Fang Su）博士為執行長後，股票從每股 $4 左右，上升到今天每股超過 $160，其市值已經是英特爾的兩倍，完全擺脫了在後者陰影下求生存的小眾玩家角色，正在挑戰英偉達的 GPU 市場。順便一題：超微半導體公司現任總裁（兼 AI 策略負責人）為出生於台北的彭明博（Victor Peng）；與黃仁勳及蘇姿豐一樣，也是小時候就隨父母親移居到美國。

（註五）或。

延伸閱讀

• 「熱力學與能源利用」，《科學月刊》，1982 年 3 月號；收集於《我愛科學》（華騰文化有限公司，2017 年 12 月出版），轉載於「嘉義市政府全球資訊網」。
• 「網路安全技術與比特幣」，《科學月刊》，2020 年 11 月號；轉載於「善科教育基金會」的《科技大補帖》專欄。

• 作者／賴宜欣，台北大學法律系法學組學士，政治大學法律學系碩士，日本國立名古屋大學特別研究生，現為執業律師。

編按：在出現Deepfake之後，網路世界進入了「眼見不為憑」的年代。本次泛科學和法律白話文合作策畫「Deepfake 專題」，從Deepfake 技術與辨偽技術、到法律如何因應。科技在走，社會和法律該如何跟上、甚至超前部署呢？一起來全方位解析 Deepfake 吧！

看完國外針對深度造假技術的相關規範，讓我們回過頭來看看台灣。現行台灣法規，對於使用深度造假的數位性犯罪，其實規範相當不足，常見質疑包括有人提出「罪刑是否相當」或有謂「對於未經同意拍攝散布、或是未真實發生的性影像，並沒有特別規範」等。

而在諸多立委、婦女團體及法界人士的促請下，連蔡英文總統也都跳出來發文，呼籲民眾關注此類事件，並宣示政府會重新盤點法規，研擬推動修法。法務部也稱將朝「加重刑法相關刑責」的方向辦理。

不過不少聲音認為，雖然修正《刑法》相關規定是較為簡便，但《刑法》目的只在「究責」，如果真要防制數位性暴力，應該要從前端宣導與預防著手，並於事後保護被害人的身心發展。舉例來說，如若進入刑事訴訟，被害人可能會因公開審理的緣故，形成二度受創。種種因素都指出，相關管制應較適合朝制定「專法」的方向發展。

先來看看刑法修正草案的內容

2021 年 11 月 17 日，法務部提出《刑法》修正草案。將保護的範圍主要分成三種：

第一，針對「真實的性私密影音」，加重處罰「竊錄性影音」的行為，明文處罰竊錄性影音以及進一步散布、傳送或供他人觀覽的行為，最重可處五年有期徒刑。且不但未經同意竊錄會構成犯罪，即使在經同意後所收錄的性私密影音，也不能在未經同意下散布播送。

第二是針對「不實的性影音」，不論是製作合成、散布、播送、交付或以他法供人觀覽，這些都是犯罪行為，最重處 5 年以下有期徒刑；如果還意圖營利，更會加重處罰到 7 年。

第三則是針對「不實活動、言論、談話的影音或其電磁紀錄」，若是意圖散布而製作前述內容，或散布、播送、交付或以他法供人觀覽相關內容，則會受到 3 年以下有期徒刑的處罰，如果意圖營利，更會加重到 5 年以下有期徒刑。

參考國外規範，台灣或有可借鏡之處

透過上述的《刑法》修正草案，台灣對於「性私密影音」的管制，終於有了較為清楚的規範。不過，這樣的修法是否足以遏止數位性犯罪了呢？跟國外規範比一比，筆者此處整理幾點，或可供後續立法借鏡的地方。

一、性犯罪配套對策與保安處分的多元性

韓國相關立法有相當多元的「保安處分」，其中針對性犯罪，設有「性暴力治療計畫、人身情報公開、兒少及身障等福利機構之就業禁止、電子腳鐐」等配套。

舉例來說，2021 年 11 月，N 號房中主要犯罪者們，陸續被判以 15 年到 42 年不等的刑期，而法院在刑期外，更另外作成了多種「保安處分」，除了要求主要營運者及初始創房者「公開身分情報 10 年」，並「限制其在兒少機關及身心障礙人士福祉設施就職」外，也須「配戴定位追蹤的電子裝置 30 年」（註）。

回來看看台灣，因為台灣沒有制定專法，性犯罪在判刑之餘，相關配套措施是依《刑法》第 91 條之 1 規定，以及《性侵害防罪防治法》相關規定辦理，其中最廣為所知的是對性犯罪行為人進行「強制治療」。

但問題來了，大法官在司法院釋字 799 號解釋中，認為「現行強制治療制度長年運作結果，有趨近於刑罰之可能。」也就是說，長期接受強制治療者，如果仍未達到或無法達到，顯著降低再犯危險的治療目標，就會被一而再強迫接受治療，等同讓受治療者變相被無限期剝奪人身自由，猶如終身監禁，而有牴觸憲法之疑慮。

因此，衛福部因此研擬《性侵害犯罪防治法》修正草案，在第 37 條增訂：「經鑑定、評估，認有繼續執行之必要或認無法達到其再犯危險顯著降低治療目標者，法院得依直轄市、縣（市）主管機關聲請延長強制治療或命接受科技設備監控；其延長或監控期間，每次以三年為限。」 

簡單來說，對於接受強制治療的加害人，是採以 3 年為限度施以監控。雖然這是在權衡「病人的治療」跟「犯人的人權」兩難下的決定，但也讓民間非常擔心是否有縱放社會，提升再犯風險的問題，並呼籲政府應予強化社會安全機制。

有鑑於此，韓國法在處理性犯罪時配套措施的多元，以及從 N 號房判決中看到，賦予法官對保安處分期間訂定的權限，也比台灣寬鬆許多，在這些做法或許是台灣可參考之處。

二、修法似漏未規範處罰未遂犯？

本次台灣的刑法修正，似乎並未囊括未遂犯的處罰。在韓國的《性暴力犯罪法》中，對於數位性暴力的犯罪行為，都設有處罰未遂犯的規定。由於未遂犯的處罰，必須有明文規定才能辦理，這應該是個法規漏洞，希望未來能立法加以補足。

三、考量組織犯罪可能性，制定加重條款防範

在數位性犯罪的問題中，也必須要注意組織犯罪的態樣。從韓國 N 號房事件可以清楚發現，當數位性暴力以組織犯罪形式開始擴大時，受害程度會急遽上升，受害人也更加難以抵抗。

韓國法院就認為，N 號房的主要犯罪者們，創設色情房並加以營運分工，是構成組織犯罪 。台灣其實也有前車之鑑，在詐騙集團盛行時，為了應對這種犯罪行為組織化的情況，修訂了詐欺罪的規定──若是三人以上共同犯詐欺罪時，會受到比單純詐欺罪更重的處罰。

既然數位性犯罪，非常有可能發展成組織化的犯罪，筆者認為在立法上可以考量像詐欺罪一樣，制定集團犯罪的加重條款來加以防範。

四、應考量將「持有與購買者」納入規範

由於台灣這次修法並沒有將「持有與購買者」入罪，但因為有「散布、營利」之人，就一定會有「購買、持有」之人，對於這種只處罰一方的疑慮，韓國法界已出現促請立法規範的聲音 ，台灣是不是也應該考慮一起處罰「持有與購買者」呢？

對此，有論者擔心，若貿然將持有購買性影像的行為定罪，會因為付費會員過多造成打擊過廣的問題；甚至多數行為人可能只是抱持「性好奇」，甚至是心理尚未成熟、未能認知犯罪的未成年人──這樣貿然處罰可能會與兒少保護有所衝突，因此需要考量比例原則 。

然而，正所謂「殺頭生意有人做，賠錢生意無人做」，若僅單向處罰產出性影像的一方，而對為數眾多的持有與購買者完全不規範，行為人在評估營利利潤大於刑責風險下，仍會前仆後繼的進行數位性犯罪行為。

這麼一來，將無法根本性地遏止數位性犯罪。被害人必須經歷的心理創傷，甚至對名譽、事業的影響，都是對於被害人無法抹滅的痛苦 。

因此，筆者仍傾向贊成韓國律師界的意見「不能再讓當事人的犯罪受到好奇心的保障，任何一次的收看、分享、儲存或散布都是犯罪」，應該將持有與購買列入處罰。但同時也應該在教育及基層機關上，積極推動「犯罪預防」、「青少年事前性教育宣傳」、「成立兒少性犯罪調查專責部門」等，處罰與教育兩者並行不悖。

五、對「強暴脅迫」的數位性暴力，漏未規範？

韓國《性暴力犯罪法》在 2021 年 1 月 24 開始，將「涉及性私密影像的強暴脅迫」列入犯罪 ，也就是明確規定用性私密影像來強暴脅迫被害人的行為，是一種犯罪。而參考 N 號房事件，脅迫的對象應不只限於被害人本人，如以被害人的性私密影像來脅迫他人，也是犯罪 。

就像報導指出，前述事件的被害人，就受到行為人脅迫「將公開人身情報並對親友不利」，讓其直接自行製作性剝削影片。甚至對青少年們進行強姦、類似性行為後，將影像攝影傳送，以要散布子女的裸照，脅迫被害青少年的父母。

性私密影像的產生，並不一定是由犯罪行為人製作，也很有可能是脅迫被害人自己製作。這常見於雙方過往曾有親密關係，也因此取得相關性私密素材，事後卻將此私密內容作為脅迫工具。

台灣的《刑法》修正草案，目前並沒有就「涉及性私密影像的強暴脅迫」有所規範。對比近來立委高嘉瑜受到家暴及被威脅外流性私密影像的事件，這也彰顯了法規缺陷的問題，應該即時檢討。           

六、考量搭配事前規範的可行性

台灣及韓國，目前都較著重在處罰「利用當下（製作、編輯、合成加工）」及「利用後（散布、營利）」的行為，並未有針對事前的規範。

或許可以考量搭配日本和歐盟的模式，在利用深度造假等技術前就予以分類，賦予行為人相對應的事前注意義務（如：告知影像是以深度造假技術製作的通知義務、加註警語等），以減少後續不當使用的產生。並可透過專家會議及政府部門定時檢討等方式，達成與時俱進的 AI 利用規範。

又或像是美國的《深度造假問責法》（DEEP FAKES Accountability Act）草案，要求使用深度造假技術製作影片的人負起責任。例如，若影片內含有虛假人物的視覺元素，製作者應嵌入數位浮水印（Digital watermarking），讓閱聽者能清楚識別這份影音包含更改後的音檔或視覺元素，或要求提出更改聲明，以及對更改程度的簡單描述。

遏止AI濫，用前置作業、處罰、教育宣導應三方並行

台灣目前在數位性犯罪的整體應對上，仍有許多可以檢討的地方。在前置階段，可以參考歐盟、日本或美國，針對　AI 功能進行分類採取如通知義務、加註警示等對應措施。在處置不當利用深度造假等技術時（如數位性犯罪），則應注意「處罰未遂犯、處罰購買及持有者、列入數位性犯罪的強暴脅迫、注意組織犯罪防範」等面向，以期細緻化處罰或配套措施。而防治數位性犯罪的相關教育宣導，更是不可或缺的。畢竟良善的文化才能確保人人尊重彼此，從源頭杜絕類似情況再次發生。

本文爬梳現狀，整理可供借鏡之處，希望本文有助於未來數位性暴力的防制更加完善。

註解

• 註：包含「博士房營運人（確判 42 年有期徒刑)、最初創設 N 號房之人（確判 34 年有期徒刑）、協助營運的副手們（各確判 15 年有期徒刑）」。此參韓國日報相關報導如：「N번방’ 최초 개설자 문형욱 징역 34년, ‘박사방’ 2인자 강훈 15년 확정」、박사방’ 운영자 조주빈, 대법서 징역 42년 확정…공대위 “끝이 아닌 시작。

參考資料

一、中文部分

1. 婦女救援基金會，侵害個人性私密影像防制條例草案。 
2. 江鎬佑，小玉換臉罪責如「轉傳A片」？數位性暴力法制的缺角。
3. 姜冠霖、王碩勛，從陌生人到熟人凌辱，韓國Deepfake數位性犯罪修法的啟示。
4. 洪敏隆，數位性暴力在台灣無法可管？民團訴求專法防止挖面事件再發生。
5. 現代婦女基金會， 大法官「性侵犯強制治療」釋憲出爐!民間呼籲:高再犯風險回歸社區，須強化安全機制。

二、外文部分

1. 韓國日報，「N번방’ 최초 개설자 문형욱 징역 34년, ‘박사방’ 2인자 강훈 15년 확정」、「박사방운영자 조주빈, 대법서 징역 42년 확정…공대위“끝이 아닌 시작」
2. ‘딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다 。
3. 韓國《性暴力犯罪之處罰等相關特例法》。
4. 대법원 2021도11753, 2021전도112(병합) 대법원 2021도11816‘n번방’ 최초 개설자 ‘갓갓’, 징역 34년… 박사방 ‘부따’, 징역 15년 확정

• 作者／賴宜欣，台北大學法律系法學組學士，政治大學法律學系碩士，日本國立名古屋大學特別研究生，現為執業律師。

編按：在出現Deepfake之後，網路世界進入了「眼見不為憑」的年代。

本次泛科學和法律白話文合作策畫「Deepfake 專題」，從Deepfake 技術與辨偽技術、到法律如何因應。科技在走，社會和法律該如何跟上、甚至超前部署呢？一起來全方位解析 Deepfake 吧！

網紅小玉的「換臉私密影片」犯罪事件，讓深度造假（DeepFake）技術一夕之間成為台灣廣為人知的的技術。而此次風波，更讓社會大眾注意 AI 技術被濫用的嚴重性，呼請修法的聲浪不斷，希望政府能盡速遏止科技犯罪，不要再有下一個受害者。本文則介紹韓國、日本、歐盟各國的相關管制，擬以他山之石，一窺未來台灣可能的相關管制之道。

韓國：以 N 號房事件為鑑，修訂「性暴力犯罪法」

2019 年底，韓國爆發「N 號房事件」──受害規模之大不但震驚了整個韓國社會，也引發國際矚目。

「N 號房」營運的方式，是隨著付費等級提高，就能進入內容更加腥羶的色情房（總會員人數據傳高達 27 萬人）；而在那些色情房中，也包含了以深度造假合成的不雅影像及照片為主題的群組。由於付費會員中不乏高社經地位人士，受害者眾多，也讓韓國的社會大眾意識到「數位性犯罪」的嚴重性。

當時韓國法規對數位性犯罪的規範相當不足 ，如同韓國的網路新聞所報導的，面對「換臉加散布」這樣的情況，只能用如《刑法》「提供猥褻物品（包含文書、圖畫或其他物品）罪」或《情報通信網法》中的「透過情報通信網對公眾散布、販賣、提供猥褻影像罪」來處罰，並以毀損名譽及侵害肖像權為由「請求損害賠償」。因此即使是如此眾所矚目的嚴重案件，在法律上實際要進行處罰，最重也不過是 1 年的有期徒刑及 1000 萬韓元（約台幣 25 萬元）的罰金，可說是相當輕微^註一。

此外，法律專家們也指出另一個大漏洞──當時的法律並沒有依據能針對「使用深度造假製作虛偽影像的行為本身」施加處罰。也就是說，製作影片本身在當時並不違法，法律必須要等到行為人散布虛偽合成影像、讓影片接觸社會大眾，才能夠啟動處罰。

鑒於利用 AI 技術、合成虛偽影像對受害人已經是一大傷害；而至散佈虛偽影像對受害人來說（特別是被運用在成人情色片等猥褻物品方面），則應被視為極大的二度傷害。根據韓國法律新聞指出，2019 年統計受到「深度造假」換臉程式合成的被害人，高達 96% 是女性，其中 25% 是韓國的女性演藝人員。因此，韓國法界多半認為應直接針對活用深度造假虛偽影像的行為，量身打造可以直接適用的法律；也讓該國開始修定《性暴力犯罪之處罰等相關特例法》（下稱「性暴力犯罪法」）。

修法直接處罰「製作、散布及利用虛偽影像營利的行為」 

就在前述的修法呼聲中，2021 年 1 月 21 日，韓國修正施行了《性暴力犯罪法》相關規定，明文禁止利用深度造假製作虛偽影像等數位性暴力行為。

首先，該法會處罰「製作虛偽影像的人」，只要「抱著散布目的」，在「違反當事人的意思」的前提下，利用「他人面孔、身體或聲音製作攝影、影像、聲音等物」，進行「誘發性慾望和性羞恥心」的「編輯、合成、加工等行為」，就會受到 5 年以下有期徒刑和 5000 萬韓元（約台幣 125 萬元）以下罰金的處罰。

其次， 修正後的《性暴力犯罪法》 也會處罰「散布虛偽影像的人」。換句話說，只要將上述「經過編輯合成加工的虛偽影像（包含影像的複製物）」散布出去；且即使在「編輯當時」沒有違反當事人的意願，但事後散布這些虛偽影像時，已經違反當事人意願的話，也是違法的。針對散布的行為，將處以 5 年以下有期徒刑和 5000 萬韓元以下罰金。

接著，如果是「違反當事人意願，利用情報通信網散布虛偽影像來營利」的行為，更會處以 7 年以下有期徒刑。更嚴重的，如果「製作、散布、營利」三種行為全包了，則會加重總合刑度的 2 分之 1。並且，以上這些行為，全部都有處罰未遂犯。

另外，韓國更進一步把利用影片進行「強暴、脅迫及行無義務之事」的行為也列入處罰。像是「利用能夠誘發性慾望和性羞恥心的攝影物和複製物來進行脅迫」，處 1 年以下有期徒刑；又或是利用前述影片「脅迫妨害他人行使權利或使其行無義務之事」者，則處 3 年以下有期徒刑。而若有人統包這兩種行為的話，更會加重總合刑度的 2 分之 1。

修法之後仍未懲罰虛偽影像的「消費者」?

但是，即使制定了專門的處罰法規，還是有不足的地方。比方說，該法並未處罰「購買、消費深度造假影像的視聽者」。律師解釋，修改後的法規只處罰「製作、散布虛偽影像者」一方，並未針對「購買、消費虛偽影像」的另一方，設下處罰規範，也就難以針對「購買、消費虛偽影像的視聽者」予以管制^註二。

那麼，對於購買深度造假虛偽影像的人，真的沒辦法處罰嗎？律師表示，《性暴力犯罪法》還是會針對「單純持有影像者」，處以 3 年以下有期徒刑及 3000 萬韓元（約 75 萬台幣）以下罰金──不過，本條的處罰前提是：必須證明行為人「把虛偽影像當成真實影像」購買保存，才可以認定為不法持有影像的行為而加以處罰。

但這樣的證明方式過於迂迴，因此韓該國法界多認為，應正視購買視聽對受害人帶來的莫大創傷，未來應明文處罰「購買及消費影像」之人，才能予以平衡。

日本及歐盟：以「AI 倫理規範」防治不當使用

相對於韓國制定專法來防治數位性暴力，日本及歐盟則是建立「AI 利用倫理規範」，在利用 AI 的前階段，對未來的使用方式進行分類，賦予不同程度的行為義務。

2021 年 4 月 21 日，歐盟發表了《人工智慧統一管理規則的立法草案》（Proposal for a Regulation on a European approach for Artificial Intelligence）簡稱「人工智慧法」，依照危險性的高低及重要程度，將利用 AI 的行為分成 4 個類型——「不可接受的風險、高度風險、具限定性風險（有限風險）、極小／無風險」，並要求採取「禁止使用、提供情報、使用情況（如登入）之紀錄、協助主管機關監視 AI、由 AI 進行動作之通知義務、警告標示」等相對應義務。

其中，如同日本學者川嶋雄作專欄文章所討論的，「使用深度造假操作技術，形成畫面、聲音、動畫」等利用行為，是被分類在「具有限定性的危險」。依據該法案，使用深度造假技術做出虛偽影像者，具有通知義務、需附加警告標語，必須告知觀眾這是使用 AI 技術所形成的影像^註三。

根據日本律師相關的分析內容，日本也採取了和歐盟相同的路線，不走法制化的路線，而著重推廣 AI 倫理 ，由政府部門和國際性企業為首，定期召開會議來檢討國內利用 AI 的情況。

像是日本學界就成立了「人工智慧學會」、內閣府（相當於我國的行政院）也召集了「人工智慧和人類社會之懇談會」、「AI 網絡社會促進會議」等組織，提出人工智慧倫理指南；該指南指出：不能透過人工智慧，直接或間接造成他人情報或財產侵害（安全原則），需尊重他人隱私，並落實誠實義務（透明化原則），並確保不得惡意使用之社會責任（適切原則）。而包括 SONY、日立等日系大廠，也都制定了自家的 AI 守則，來因應國際發展。

總的來說，日本與歐盟沒有立法，主要是針對 AI 的潛在危險性進行分類，並賦予相對的使用義務規範。不過，這樣的方式多少會限定特定 AI 的使用方式，因此是否有必要明文賦予拘束力，目前在歐洲委員會仍在檢討，各國仍尚未定案。而日本目前則是以公部門和企業為首，在配合國際趨勢下進行自主規範，並沒有打算進一步做出強制性的立法 。

相較於韓國因發生嚴重案件而具體修正《性暴力犯罪法》，以遏止類似惡性事件再度發生；歐盟與日本目前仍採取倫理推廣的路線，透過針對 AI 技術的研發起源進行規範。孰優孰劣、未來又將如何發展？恐怕只有時間才能告訴我們了。

註解

• 註一：韓國律師所舉出 2019 年當時可能用來處罰 DeepFake濫用的三個法規：首先是刑法第 244 條「提供猥褻物品（包含文書、圖畫或其他物品）罪」，可處罰 1 年以下有期徒刑和 500 萬韓元（約台幣 12.5 萬元）以下罰金。第二，依「情報通信網利用促進及情報保護等相關法律（情報通信網法）」第 44 條之 7，在「使公共得以接觸下，透過情報通信網散布、販賣、提供猥褻之符號、文件、聲音、畫像和影像等」，處 1 年以下有期徒刑和 1000 萬韓元（約台幣 25 萬元）以下罰金。最後是「名譽毀損」相關法規，對合成並提出猥褻物品者主張名譽毀損，及主張肖像權受侵害，提出損害賠償。
• 註二：本標題段落參自：딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다 。
• 註三：體系圖參照「報道から見る欧州AI規則案の日本での受容と影響」，其中的圖 1：AI 規則案の全体像 。

參考資料

1. 취향대로 골라보세요?” 한국 아이돌로 장사하는 딥페이크 포르노 ，2019年10月18日。
2. 韓國《性暴力犯罪之處罰等相關特例法》。
3. 딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다 ，2021年1月14日
4. 川嶋 雄作，AI規制は時期尚早か？「EUによる規制法案から考えるAI倫理」 ， 独立行政法人経済産業研究所。
5. InFoCom T&S World Trend Report，情報通信総合研究所主任研究員 栗原佑介，2021.5.31，「報道から見る欧州AI規則案の日本での受容と影響」。
6. BUSINESS LAWYERS，注目度が高まるAI倫理と個人情報保護の関係 – カメラ画像の利活用を題材に – 。
7. 經濟產業省，「我が国の AI ガバナンスの在り方 ver. 1.0 AI 社会実装アーキテクチャー検討会 中間報告書 」，令和３年１月 15 日 ，頁12。
8. 網路安全所助理研究員 吳宗翰，「歐盟公布草案禁止 AI 用於社會評等」，國防安全雙周報。