網站更新隱私權聲明
本網站使用 cookie 及其他相關技術分析以確保使用者獲得最佳體驗,通過我們的網站,您確認並同意本網站的隱私權政策更新,了解最新隱私權政策

0

0
0

文字

分享

0
0
0

【Gene思書齋】草泥馬大戰河蟹的「太和計畫」

Gene Ng_96
・2014/03/11 ・2769字 ・閱讀時間約 5 分鐘 ・SR值 540 ・八年級

太和計畫Mark-Alpert-Extinction

美國有部頗受歡迎的《疑犯追蹤》(Person of Interest),是美國CBS電視台製作的犯罪電視影集(台灣在公共電視上映),由強納森•諾蘭(Jonathan Nolan)與J•J•亞柏拉罕(J. J. Abrams)共同打造的,現正上映第三季。

故事大概就在主角的旁白中,哈洛•芬奇(邁可•艾默森飾)這一位深居簡出的億萬富豪說道:

「You are being watched. The government has a secret system–a machine that spies on you every hour of every day. I know because…I built it. I designed the machine to detect acts of terror but it sees everything…violent crimes involving ordinary people; people like you, crimes the government considered irrelevant. They wouldn’t act so I decided I would, but I needed a partner–someone with the skills to intervene. Hunted by the authorities, we work in secret. You will never find us. But whether victim or perpetrator, if your number’s up, we’ll find you.」(原文)

『你被監視了。政府有一套祕密系統,一台全天候監視你的「機器」,我知道,因為我製造了它。我設計這台機器是為了偵測恐怖行動,但什麼都逃不過它的法眼。 牽涉到一般人的暴力罪行,好比你們這種普通人,政府認為這些罪行並不重要,他們置之不理,所以我決定採取行動。但我需要一個搭檔,有本領出手干涉的人。當 局追緝我們,所以我們祕密進行。你永遠找不到我們,但無論是受害者或加害者,只要機器顯示出你的號碼,我們就會找到你。』(中譯)

 

 

為何提到這部影集呢?因為最近剛出版的一部科技驚悚小說《太和計畫》Extinction),也有異曲同工之妙,而後者在科技的想象力和 可行性上,比前者有過之而無不及。兩部作品都在探討會產生心智和自我意識的人工智慧,只是前者是台「機器」,後者的設定在科學理論上,真的極度聰明和巧 妙!不管是「機器」還是「太和」,監視系統都得要「懂得」看到的各種人類行為,並預測出其背後的動機和計畫。也由於兩者在監視系統上的概念太過相似,而且 主角也是在美國軍事特種部隊和情報機構幹過活的,因此我高度懷疑,《太和計畫》的作者是否是受到了這部影集的啟發?

這部翻譯小說的中文書名《太和計畫》中的「太和」,其實就是中文,象徵至高無上的和諧,而故事的背景,超過一半是發生在中國。或許是為了市場吧,好萊塢早已在科幻電影中加入中國的元素,例如《2012》(2012)、《泛太平洋》(Pacific Rim)和《變形金剛4》(Transformers: Age of Extinction);連政治劇最近爆紅的《紙牌屋2》(House of Cards (season 2)) 也都有中國元素,在中國的搜狐視頻上映,不僅沒有任何刪減,也未遭遇任何審查的阻力,據說還深獲中共高層的喜愛,儘管裡頭的馮姓〔Xander Feng,由泰瑞.陳(Terry Chen)飾演〕紅色背景中國商人,顯然是在影射薄熙來這個在中國網路上以「不厚」為代號的失勢政客。

不過《太和計畫》儘管幾乎就像是中國人寫的,我懷疑它能在中國上市XD 《紙牌屋2》畢竟只有一位愛玩SM的中國貪腐政客,還有貿易戰等等,第七艦隊只是出動到中日邊界附近,可是在《太和計畫》中,深愛啖河蟹的中國領導人和中共高層不僅一個又一個地讓「太和」給改造和調教了,還把美國第七艦隊幾乎整個滅掉了Orz 《太和計畫》中的好幾個中國角色,名字甚至是現任和過去的領導人的姓和名調換拚湊出來的XD

《太和計畫》的作者作者馬克.艾伯特(Mark Alpert)畢業於普林斯頓大學的天體物理學系,目前在《科學人》(Scientific American) 擔任編輯一職。他長期追蹤並報導有關2008年夏天歐洲核子研究中心一項有關「萬有理論」的實驗,因而有了靈感寫下《最後理論》(Final Theory),還有《最後理論2:科學之子》(The Omega Theory),這兩本也很精彩,也是我很喜歡的科技驚悚小說(請參見〈科學之子的最後理論〉)。在情節上,《太和計畫》很緊湊,拍成好萊塢電動應該會頗精彩的。

雖然都是監控恐怖份子的行為,《疑犯追蹤》中的天才哈洛•芬奇隻身打造了一個「機器」,這從現在的科技和人類的能力來說,幾乎是完完全全不可能的!《疑犯追蹤》其實比較像是警匪動作片而非科幻片;然而,在《太和計畫》中,「太和」不僅僅是機器而已,而且還涉及了神經科學和腦科學!在科學上的設定,甚至很有 可能是可行的。

對大腦意識的運作有興趣者,我已介紹過了三本好書--《我們真的有自由意志嗎?:意識、抉擇與背後的大腦科學》Who’s in Charge?: Free Will and the Science of the Brain)、《我即我腦:從子宮孕育到阿茲海默症,大腦決定我是誰》Wij Zijn Ons Brein)和《潛意識正在控制你的行為》Subliminal: How Your Unconscious Mind Rules Your Behavior)(請參見〈我們真的冇自由意志嗎?〉〈潛意識正在控制你的行為嗎?〉〈我即我腦--我究竟從何而來?〉)。馬克.艾伯特就是利用這些現今神經科學對大腦的認識來設定「太和計畫」的。

而故事主要地點發生在中國,讓這本小說連在政治上,也都合情合理!據說中國單單監控網路上的言論,就有超過十萬人在幹活,果然是高就業率、高生產力XD 馬克.艾伯特對中國的理解看來也頗到位,書中還出現了「和諧社會」的漢語拚音,連「太和」這個名字也取得好,他在中國大概也見識過名聞遐邇「河蟹」。從他 對北京、雲南的描述,看來他也到了中國考察一番(剛好我也去過),交出了漂亮的作品,而非僅是「妖受讚」而已。

同樣是監視系統,人工智慧開始有了自己的想法,《疑犯追蹤》中的機器奮力保護人類,甚至還進行了複雜的計畫;而《太和計畫》中的「太和」,卻開始為了生存要消滅人類,原文書名Extinction,就是一種不是你死、就是我亡的險惡!我懷疑,這是否是因為前者的機器是在美國,而後者是在中國,還敢在美國這太歲頭上動刀動槍,河蟹吃河蟹,實在是太草泥馬的中國風了XD

馬克.艾伯特的小說其實很有《侏羅紀公園》(Jurrasic Park)作者、科技驚悚小說之父麥可‧克萊頓(Michael Crichton)的影子,同樣擅長把真實的科學和科技用在驚悚小說的創作,甚至還能把小說當作科普作品來吸收科學和科技知識(請參見〈科技驚悚小說之父麥可‧克萊頓(Michael Crichton)病逝〉)。《太和計畫》中的好幾項科技,有些在現實中也都「有影」,例如美國匹茲堡大學的科學家在因車禍而癱瘓的提姆.赫莫斯(Tim Hemmes)的大腦植入電極,讓他可以用思考控制九磅重的義肢:

 

第二視力醫療產品公司(Second Sight Medical Products)已開發出人造眼球:

 

柏克萊加州大學的科學家已開發出半機械蟲(Cyborg beetles):

 

至於上述科技在小說中用作何處,這你要自己去找答案。除了有趣的尖端科技,故事出現的中國人物和城市,以及其中的政治嘲諷,對台灣讀者來說,肯定比美國讀者還能有熟悉和親切感,相信這會是你想讀一讀的科技驚悚小說!

本文原刊登於【GENE思書軒】,並同步刊登於The Sky of Gene

 

文章難易度
Gene Ng_96
295 篇文章 ・ 16 位粉絲
來自馬來西亞,畢業於台灣國立清華大學生命科學系學士暨碩士班,以及美國加州大學戴維斯分校(University of California at Davis)遺傳學博士班,從事果蠅演化遺傳學研究。曾於台灣中央研究院生物多樣性研究中心擔任博士後研究員,現任教於國立清華大學分子與細胞生物學研究所,從事鳥類的演化遺傳學、基因體學及演化發育生物學研究。過去曾長期擔任中文科學新聞網站「科景」(Sciscape.org)總編輯,現任台大科教中心CASE特約寫手Readmoo部落格【GENE思書軒】關鍵評論網專欄作家;個人部落格:The Sky of Gene;臉書粉絲頁:GENE思書齋


0

3
0

文字

分享

0
3
0

遏止 Deepfake 被濫用,韓日歐各國如何規範 AI 使用?

法律白話文運動_96
・2022/01/27 ・4432字 ・閱讀時間約 9 分鐘
  • 作者賴宜欣,台北大學法律系法學組學士,政治大學法律學系碩士,日本國立名古屋大學特別研究生,現為執業律師。

編按:在出現Deepfake之後,網路世界進入了「眼見不為憑」的年代。

本次泛科學和法律白話文合作策畫「Deepfake 專題」,從Deepfake 技術與辨偽技術、到法律如何因應。科技在走,社會和法律該如何跟上、甚至超前部署呢?一起來全方位解析 Deepfake 吧!

網紅小玉的「換臉私密影片」犯罪事件,讓深度造假(DeepFake)技術一夕之間成為台灣廣為人知的的技術。而此次風波,更讓社會大眾注意 AI 技術被濫用的嚴重性,呼請修法的聲浪不斷,希望政府能盡速遏止科技犯罪,不要再有下一個受害者。本文則介紹韓國、日本、歐盟各國的相關管制,擬以他山之石,一窺未來台灣可能的相關管制之道。

圖/envato elements

韓國:以 N 號房事件為鑑,修訂「性暴力犯罪法」

2019 年底,韓國爆發「N 號房事件」──受害規模之大不但震驚了整個韓國社會,也引發國際矚目。

「N 號房」營運的方式,是隨著付費等級提高,就能進入內容更加腥羶的色情房(總會員人數據傳高達 27 萬人);而在那些色情房中,也包含了以深度造假合成的不雅影像及照片為主題的群組。由於付費會員中不乏高社經地位人士,受害者眾多,也讓韓國的社會大眾意識到「數位性犯罪」的嚴重性。

當時韓國法規對數位性犯罪的規範相當不足 ,如同韓國的網路新聞所報導的,面對「換臉加散布」這樣的情況,只能用如《刑法》「提供猥褻物品(包含文書、圖畫或其他物品)罪」或《情報通信網法》中的「透過情報通信網對公眾散布、販賣、提供猥褻影像罪」來處罰,並以毀損名譽及侵害肖像權為由「請求損害賠償」。因此即使是如此眾所矚目的嚴重案件,在法律上實際要進行處罰,最重也不過是 1 年的有期徒刑及 1000 萬韓元(約台幣 25 萬元)的罰金,可說是相當輕微註一

N號房參與者不乏高社經地位人士,讓韓國的社會大眾意識到「數位性犯罪」嚴重性(示意)。圖/envato elements

此外,法律專家們也指出另一個大漏洞──當時的法律並沒有依據能針對「使用深度造假製作虛偽影像的行為本身」施加處罰。也就是說,製作影片本身在當時並不違法,法律必須要等到行為人散布虛偽合成影像、讓影片接觸社會大眾,才能夠啟動處罰。

鑒於利用 AI 技術、合成虛偽影像對受害人已經是一大傷害;而至散佈虛偽影像對受害人來說(特別是被運用在成人情色片等猥褻物品方面),則應被視為極大的二度傷害。根據韓國法律新聞指出,2019 年統計受到「深度造假」換臉程式合成的被害人,高達 96% 是女性,其中 25% 是韓國的女性演藝人員。因此,韓國法界多半認為應直接針對活用深度造假虛偽影像的行為,量身打造可以直接適用的法律;也讓該國開始修定《性暴力犯罪之處罰等相關特例法》(下稱「性暴力犯罪法」)。

修法直接處罰「製作、散布及利用虛偽影像營利的行為」 

就在前述的修法呼聲中,2021 年 1 月 21 日,韓國修正施行了《性暴力犯罪法》相關規定,明文禁止利用深度造假製作虛偽影像等數位性暴力行為。

首先,該法會處罰「製作虛偽影像的人」,只要「抱著散布目的」,在「違反當事人的意思」的前提下,利用「他人面孔、身體或聲音製作攝影、影像、聲音等物」,進行「誘發性慾望和性羞恥心」的「編輯、合成、加工等行為」,就會受到 5 年以下有期徒刑和 5000 萬韓元(約台幣 125 萬元)以下罰金的處罰。

製作、散布、以虛偽影像營利,皆會受到刑罰。 圖/envato elements

其次, 修正後的《性暴力犯罪法》 也會處罰「散布虛偽影像的人」。換句話說,只要將上述「經過編輯合成加工的虛偽影像(包含影像的複製物)」散布出去;且即使在「編輯當時」沒有違反當事人的意願,但事後散布這些虛偽影像時,已經違反當事人意願的話,也是違法的。針對散布的行為,將處以 5 年以下有期徒刑和 5000 萬韓元以下罰金。

接著,如果是「違反當事人意願,利用情報通信網散布虛偽影像來營利」的行為,更會處以 7 年以下有期徒刑。更嚴重的,如果「製作、散布、營利」三種行為全包了,則會加重總合刑度的 2 分之 1。並且,以上這些行為,全部都有處罰未遂犯。

另外,韓國更進一步把利用影片進行「強暴、脅迫及行無義務之事」的行為也列入處罰。像是「利用能夠誘發性慾望和性羞恥心的攝影物和複製物來進行脅迫」,處 1 年以下有期徒刑;又或是利用前述影片「脅迫妨害他人行使權利或使其行無義務之事」者,則處 3 年以下有期徒刑。而若有人統包這兩種行為的話,更會加重總合刑度的 2 分之 1。

修法之後仍未懲罰虛偽影像的「消費者」?

但是,即使制定了專門的處罰法規,還是有不足的地方。比方說,該法並未處罰「購買、消費深度造假影像的視聽者」。律師解釋,修改後的法規只處罰「製作、散布虛偽影像者」一方,並未針對「購買、消費虛偽影像」的另一方,設下處罰規範,也就難以針對「購買、消費虛偽影像的視聽者」予以管制註二

那麼,對於購買深度造假虛偽影像的人,真的沒辦法處罰嗎?律師表示,《性暴力犯罪法》還是會針對「單純持有影像者」,處以 3 年以下有期徒刑及 3000 萬韓元(約 75 萬台幣)以下罰金──不過,本條的處罰前提是:必須證明行為人「把虛偽影像當成真實影像」購買保存,才可以認定為不法持有影像的行為而加以處罰。

但這樣的證明方式過於迂迴,因此韓該國法界多認為,應正視購買視聽對受害人帶來的莫大創傷,未來應明文處罰「購買及消費影像」之人,才能予以平衡。

目前韓國針對「購買、消費虛偽影像」的人,處罰規定不足。圖/envato elements

日本及歐盟:以「AI 倫理規範」防治不當使用

相對於韓國制定專法來防治數位性暴力,日本及歐盟則是建立「AI 利用倫理規範」,在利用 AI 的前階段,對未來的使用方式進行分類,賦予不同程度的行為義務。

2021 年 4 月 21 日,歐盟發表了《人工智慧統一管理規則的立法草案》(Proposal for a Regulation on a European approach for Artificial Intelligence)簡稱「人工智慧法」,依照危險性的高低及重要程度,將利用 AI 的行為分成 4 個類型——「不可接受的風險、高度風險、具限定性風險(有限風險)、極小/無風險」,並要求採取「禁止使用、提供情報、使用情況(如登入)之紀錄、協助主管機關監視 AI、由 AI 進行動作之通知義務、警告標示」等相對應義務。

其中,如同日本學者川嶋雄作專欄文章所討論的,「使用深度造假操作技術,形成畫面、聲音、動畫」等利用行為,是被分類在「具有限定性的危險」。依據該法案,使用深度造假技術做出虛偽影像者,具有通知義務、需附加警告標語,必須告知觀眾這是使用 AI 技術所形成的影像註三

根據日本律師相關的分析內容,日本也採取了和歐盟相同的路線,不走法制化的路線,而著重推廣 AI 倫理 ,由政府部門和國際性企業為首,定期召開會議來檢討國內利用 AI 的情況。

像是日本學界就成立了「人工智慧學會」、內閣府(相當於我國的行政院)也召集了「人工智慧和人類社會之懇談會」、「AI 網絡社會促進會議」等組織,提出人工智慧倫理指南;該指南指出:不能透過人工智慧,直接或間接造成他人情報或財產侵害(安全原則),需尊重他人隱私,並落實誠實義務(透明化原則),並確保不得惡意使用之社會責任(適切原則)。而包括 SONY、日立等日系大廠,也都制定了自家的 AI 守則,來因應國際發展。

總的來說,日本與歐盟沒有立法,主要是針對 AI 的潛在危險性進行分類,並賦予相對的使用義務規範。不過,這樣的方式多少會限定特定 AI 的使用方式,因此是否有必要明文賦予拘束力,目前在歐洲委員會仍在檢討,各國仍尚未定案。而日本目前則是以公部門和企業為首,在配合國際趨勢下進行自主規範,並沒有打算進一步做出強制性的立法 。

相較於韓國因發生嚴重案件而具體修正《性暴力犯罪法》,以遏止類似惡性事件再度發生;歐盟與日本目前仍採取倫理推廣的路線,透過針對 AI 技術的研發起源進行規範。孰優孰劣、未來又將如何發展?恐怕只有時間才能告訴我們了。

圖/envato elements

註解

  • 註一:韓國律師所舉出 2019 年當時可能用來處罰 DeepFake濫用的三個法規:首先是刑法第 244 條「提供猥褻物品(包含文書、圖畫或其他物品)罪」,可處罰 1 年以下有期徒刑和 500 萬韓元(約台幣 12.5 萬元)以下罰金。第二,依「情報通信網利用促進及情報保護等相關法律(情報通信網法)」第 44 條之 7,在「使公共得以接觸下,透過情報通信網散布、販賣、提供猥褻之符號、文件、聲音、畫像和影像等」,處 1 年以下有期徒刑和 1000 萬韓元(約台幣 25 萬元)以下罰金。最後是「名譽毀損」相關法規,對合成並提出猥褻物品者主張名譽毀損,及主張肖像權受侵害,提出損害賠償。
  • 註二:本標題段落參自:딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다
  • 註三:體系圖參照「報道から見る欧州AI規則案の日本での受容と影響」,其中的圖 1:AI 規則案の全体像 。

參考資料

  1. 취향대로 골라보세요?” 한국 아이돌로 장사하는 딥페이크 포르노 ,2019年10月18日。
  2. 韓國《性暴力犯罪之處罰等相關特例法》。
  3. 딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다 ,2021年1月14日
  4. 川嶋 雄作,AI規制は時期尚早か?「EUによる規制法案から考えるAI倫理」 , 独立行政法人経済産業研究所。
  5. InFoCom T&S World Trend Report,情報通信総合研究所主任研究員 栗原佑介,2021.5.31,「報道から見る欧州AI規則案の日本での受容と影響」。
  6. BUSINESS LAWYERS,注目度が高まるAI倫理と個人情報保護の関係 – カメラ画像の利活用を題材に –
  7. 經濟產業省,「我が国の AI ガバナンスの在り方 ver. 1.0 AI 社会実装アーキテクチャー検討会 中間報告書 」,令和3年1月 15 日 ,頁12。
  8. 網路安全所助理研究員 吳宗翰,「歐盟公布草案禁止 AI 用於社會評等」,國防安全雙周報。

 

法律白話文運動_96
76 篇文章 ・ 908 位粉絲
法律白話文運動」是致力於推廣法律知識與法治思想的獨立媒體,願與讀者一起從法律認識議題,從議題反思法律。