網站更新隱私權聲明
本網站使用 cookie 及其他相關技術分析以確保使用者獲得最佳體驗,通過我們的網站,您確認並同意本網站的隱私權政策更新,了解最新隱私權政策

1

4
0

文字

分享

1
4
0

【Gene思書齋】亞特蘭提斯‧新世界:來自異星的救贖

Gene Ng_96
・2015/11/11 ・2664字 ・閱讀時間約 5 分鐘 ・SR值 552 ・八年級

危機就是轉機,人類在七萬年前,差點瀕臨滅絕,可是不僅在嚴峻的情況下繼續生存繁衍,還發生了認知革命,有了語言和想像的能力;我們有了認知革命後,還有了農業革命,開始定居產生了文明;在約五百年前,發生了科學革命,我們利用科技的力量,人定勝天。那是人類的過去,可是人類的未來呢?科技的強大力量,連歷史學家哈拉瑞(Yuval Noah Harari)在他的好書《人類大歷史:從野獸到扮演上帝》Sapiens: A Brief History of Humankind)中都不禁要猜測未來是否有一天,我們能夠把意識和記憶移植到機器上(請參見〈虛構事物和集體想像建構出的人類大歷史〉)。

無獨有偶,美國日裔科學家加來道雄(Michio Kaku) 就在他的好書《2050 科幻大成真:超能力、心智控制、人造記憶、遺忘藥丸、奈米機器人,即將改變我們的世界》(The Future of the Mind: The Scientific Quest to Understand, Enhance, and Empower the Mind)探討這個可能性,他們都提到人類甚至可能設計出比我們大腦更優越的人工智慧(請參見〈心智的未來:2050科幻大成真〉)。可是,著名物理科學家霍金(Stephen Hawking),特斯拉創辦人穆斯克(Elon Musk),還有蘋果共同創辦人沃茲尼克(Steve Wozniak),擔憂人工智慧發展完成將可能導致人類滅絕,聯同逾千名的科技專家、科學家、研究員共同發表一封信,信中警告自動化武器可能帶來的危險,督促聯合國禁止開發與使用自主武器(autonomous weapons)。

人工智慧會不會有一天毀滅人類,我不知道,不過科技的發展最終導致人類文明的大浩劫,向來是科幻小說和電影喜愛的熱門主流題材,《亞特蘭提斯‧新世界》The Atlantis World)也不例外。

《亞特蘭提斯‧新世界》是亞特蘭提斯進化三部曲的終部曲,頭兩部曲是首部曲《亞特蘭提斯‧基因》(The Atlantis Gene)和二部曲《亞特蘭提斯‧瘟疫》(The Atlantis Plague)(請參見〈亞特蘭提斯‧基因:人類起源的凶險之謎〉〈亞特蘭提斯‧瘟疫:人類進化的轉捩點〉)。和前兩部曲很不同的,《亞特蘭提斯‧新世界》比較算是科幻小說,而前兩部曲都比較像是混合了科學理論和細節的科技驚悚小說。另外,前兩部曲的場景幾乎都發生在我們的家園──地球,充滿明爭暗鬥和陰謀詭計;而《亞特蘭提斯‧新世界》的主要場景是在宇宙的異星,說的是一個文明崩壞而尋求救贖的故事。

 

科幻和科技驚悚小說主要不同是,後者往往不吝寫入大量科學和科技的細節,不擔心會嚇到讀者地用一些篇幅來描寫科學或科技,算是順便做科普。可是科幻小說就比較不在乎科學或科技的細節,因為主要主題是要寓言未來或諷刺現狀等等,重要的不是科學或科技本身,而是人性。

前兩部曲《亞特蘭提斯‧基因》《亞特蘭提斯‧瘟疫》提到了尼安德塔人、大鐘、托巴巨災、亞特蘭提斯、內源性反轉錄病毒、印歐語族等等。在《亞特蘭提斯‧基因》驚悚的故事中,從事自閉症研究的遺傳學家凱特,無意中和智人突變轉化要素「亞特蘭提斯基因」扯上關係。在地下反恐組織鐘塔(Clocktower)探員大衛的協助下,兩人發現印瑪里掌握人類自古至今的歷史進化祕密,與其背後恐怖動機,他們必須在有限的時間內攜手合作,一起解開這樁危及全世界的跨國陰謀。

儘管男女主角努力對抗,在《亞特蘭提斯‧瘟疫》中,印瑪里還是施放出了奪命瘟疫病毒,全世界近三分之一的人口命懸一線,印瑪里卻宣稱這是人類二次進化的開始……全世界爆發了嚴重的亞特蘭提斯瘟疫後,工業化國家紛紛封鎖邊界、宣布戒嚴,並將所有病患隔離至「蘭花區」接受治療。印瑪里也不斷地派軍隊在歐洲趁機攻城掠地,並號召倖存者組成軍隊以抵抗自遠古便存在的宿敵。女主角凱特要一邊躲避印瑪里追擊,在驚險萬分的逃難途中,還得和輾轉與兩名科學家共同解謎以研發治病的解藥。

到了終部曲《亞特蘭提斯‧新世界》,各國政府集結兵力欲對抗強大的印瑪里部隊,卻遠遠敵不過阿瑞斯將軍手中的亞特蘭提斯方舟,點燃引爆南極洲周圍的水雷,讓融化的古代冰層形成一場大洪水,迅速淹沒世界各地,讓古時挪亞方舟式的大洪水重演。凱特跟大衛快不敵印瑪里的邪惡陰謀,還好傳來一組來自外太空的加密訊息,他們只能儘快解開密碼,否則世界將泡在水裡……為了拯救地球,他們踏上了探索終極真相之旅。

當他們上了太空,《亞特蘭提斯‧新世界》就不再提前兩部曲大量提到的尼安德塔人等等科學知識了,換成一個更科幻奇幻的風格。由於故事實在太繁雜,我花了一些時間才適應裡頭在烽火系統、通訊包廂、傳送門等等之間跳躍式的劇情。不管《亞特蘭提斯‧新世界》再怎麼反烏托邦,男女主角就像好萊塢的英雄,永遠都不死。他們不僅不死,還還原了亞特蘭提斯的終極真相,原來是個哨兵、放逐者、蛇軍、環大混戰的世界……

整體而言,我覺得首部曲《亞特蘭提斯‧基因》和二部曲《亞特蘭提斯‧瘟疫》頗有創意,利用人類演化的科學來編故事,只是劇情多處顯得太造作、刻意,不夠自然。作者在有科學基礎上作科技驚悚的文章,可是又要天馬行空地寫軟科幻,因為讀完整個系列回頭來看,也能解釋為何有些劇情顯得不太搭調。就娛樂性而言,亞特蘭提斯進化三部曲有一定水準,否則美國 CBS 也不會重金改編成影集。

從亞特蘭提斯進化三部曲可見作者傑瑞‧李鐸(A. G. Riddle)是位很唬爛……哦不……很有潛力的作家,未來期待看到他更多作品問世。

本文原刊登於【閱讀‧最前線】,並同步刊登於The Sky of Gene

 

 

文章難易度
所有討論 1
Gene Ng_96
295 篇文章 ・ 16 位粉絲
來自馬來西亞,畢業於台灣國立清華大學生命科學系學士暨碩士班,以及美國加州大學戴維斯分校(University of California at Davis)遺傳學博士班,從事果蠅演化遺傳學研究。曾於台灣中央研究院生物多樣性研究中心擔任博士後研究員,現任教於國立清華大學分子與細胞生物學研究所,從事鳥類的演化遺傳學、基因體學及演化發育生物學研究。過去曾長期擔任中文科學新聞網站「科景」(Sciscape.org)總編輯,現任台大科教中心CASE特約寫手Readmoo部落格【GENE思書軒】關鍵評論網專欄作家;個人部落格:The Sky of Gene;臉書粉絲頁:GENE思書齋


0

3
0

文字

分享

0
3
0

遏止 Deepfake 被濫用,韓日歐各國如何規範 AI 使用?

法律白話文運動_96
・2022/01/27 ・4432字 ・閱讀時間約 9 分鐘
  • 作者賴宜欣,台北大學法律系法學組學士,政治大學法律學系碩士,日本國立名古屋大學特別研究生,現為執業律師。

編按:在出現Deepfake之後,網路世界進入了「眼見不為憑」的年代。

本次泛科學和法律白話文合作策畫「Deepfake 專題」,從Deepfake 技術與辨偽技術、到法律如何因應。科技在走,社會和法律該如何跟上、甚至超前部署呢?一起來全方位解析 Deepfake 吧!

網紅小玉的「換臉私密影片」犯罪事件,讓深度造假(DeepFake)技術一夕之間成為台灣廣為人知的的技術。而此次風波,更讓社會大眾注意 AI 技術被濫用的嚴重性,呼請修法的聲浪不斷,希望政府能盡速遏止科技犯罪,不要再有下一個受害者。本文則介紹韓國、日本、歐盟各國的相關管制,擬以他山之石,一窺未來台灣可能的相關管制之道。

圖/envato elements

韓國:以 N 號房事件為鑑,修訂「性暴力犯罪法」

2019 年底,韓國爆發「N 號房事件」──受害規模之大不但震驚了整個韓國社會,也引發國際矚目。

「N 號房」營運的方式,是隨著付費等級提高,就能進入內容更加腥羶的色情房(總會員人數據傳高達 27 萬人);而在那些色情房中,也包含了以深度造假合成的不雅影像及照片為主題的群組。由於付費會員中不乏高社經地位人士,受害者眾多,也讓韓國的社會大眾意識到「數位性犯罪」的嚴重性。

當時韓國法規對數位性犯罪的規範相當不足 ,如同韓國的網路新聞所報導的,面對「換臉加散布」這樣的情況,只能用如《刑法》「提供猥褻物品(包含文書、圖畫或其他物品)罪」或《情報通信網法》中的「透過情報通信網對公眾散布、販賣、提供猥褻影像罪」來處罰,並以毀損名譽及侵害肖像權為由「請求損害賠償」。因此即使是如此眾所矚目的嚴重案件,在法律上實際要進行處罰,最重也不過是 1 年的有期徒刑及 1000 萬韓元(約台幣 25 萬元)的罰金,可說是相當輕微註一

N號房參與者不乏高社經地位人士,讓韓國的社會大眾意識到「數位性犯罪」嚴重性(示意)。圖/envato elements

此外,法律專家們也指出另一個大漏洞──當時的法律並沒有依據能針對「使用深度造假製作虛偽影像的行為本身」施加處罰。也就是說,製作影片本身在當時並不違法,法律必須要等到行為人散布虛偽合成影像、讓影片接觸社會大眾,才能夠啟動處罰。

鑒於利用 AI 技術、合成虛偽影像對受害人已經是一大傷害;而至散佈虛偽影像對受害人來說(特別是被運用在成人情色片等猥褻物品方面),則應被視為極大的二度傷害。根據韓國法律新聞指出,2019 年統計受到「深度造假」換臉程式合成的被害人,高達 96% 是女性,其中 25% 是韓國的女性演藝人員。因此,韓國法界多半認為應直接針對活用深度造假虛偽影像的行為,量身打造可以直接適用的法律;也讓該國開始修定《性暴力犯罪之處罰等相關特例法》(下稱「性暴力犯罪法」)。

修法直接處罰「製作、散布及利用虛偽影像營利的行為」 

就在前述的修法呼聲中,2021 年 1 月 21 日,韓國修正施行了《性暴力犯罪法》相關規定,明文禁止利用深度造假製作虛偽影像等數位性暴力行為。

首先,該法會處罰「製作虛偽影像的人」,只要「抱著散布目的」,在「違反當事人的意思」的前提下,利用「他人面孔、身體或聲音製作攝影、影像、聲音等物」,進行「誘發性慾望和性羞恥心」的「編輯、合成、加工等行為」,就會受到 5 年以下有期徒刑和 5000 萬韓元(約台幣 125 萬元)以下罰金的處罰。

製作、散布、以虛偽影像營利,皆會受到刑罰。 圖/envato elements

其次, 修正後的《性暴力犯罪法》 也會處罰「散布虛偽影像的人」。換句話說,只要將上述「經過編輯合成加工的虛偽影像(包含影像的複製物)」散布出去;且即使在「編輯當時」沒有違反當事人的意願,但事後散布這些虛偽影像時,已經違反當事人意願的話,也是違法的。針對散布的行為,將處以 5 年以下有期徒刑和 5000 萬韓元以下罰金。

接著,如果是「違反當事人意願,利用情報通信網散布虛偽影像來營利」的行為,更會處以 7 年以下有期徒刑。更嚴重的,如果「製作、散布、營利」三種行為全包了,則會加重總合刑度的 2 分之 1。並且,以上這些行為,全部都有處罰未遂犯。

另外,韓國更進一步把利用影片進行「強暴、脅迫及行無義務之事」的行為也列入處罰。像是「利用能夠誘發性慾望和性羞恥心的攝影物和複製物來進行脅迫」,處 1 年以下有期徒刑;又或是利用前述影片「脅迫妨害他人行使權利或使其行無義務之事」者,則處 3 年以下有期徒刑。而若有人統包這兩種行為的話,更會加重總合刑度的 2 分之 1。

修法之後仍未懲罰虛偽影像的「消費者」?

但是,即使制定了專門的處罰法規,還是有不足的地方。比方說,該法並未處罰「購買、消費深度造假影像的視聽者」。律師解釋,修改後的法規只處罰「製作、散布虛偽影像者」一方,並未針對「購買、消費虛偽影像」的另一方,設下處罰規範,也就難以針對「購買、消費虛偽影像的視聽者」予以管制註二

那麼,對於購買深度造假虛偽影像的人,真的沒辦法處罰嗎?律師表示,《性暴力犯罪法》還是會針對「單純持有影像者」,處以 3 年以下有期徒刑及 3000 萬韓元(約 75 萬台幣)以下罰金──不過,本條的處罰前提是:必須證明行為人「把虛偽影像當成真實影像」購買保存,才可以認定為不法持有影像的行為而加以處罰。

但這樣的證明方式過於迂迴,因此韓該國法界多認為,應正視購買視聽對受害人帶來的莫大創傷,未來應明文處罰「購買及消費影像」之人,才能予以平衡。

目前韓國針對「購買、消費虛偽影像」的人,處罰規定不足。圖/envato elements

日本及歐盟:以「AI 倫理規範」防治不當使用

相對於韓國制定專法來防治數位性暴力,日本及歐盟則是建立「AI 利用倫理規範」,在利用 AI 的前階段,對未來的使用方式進行分類,賦予不同程度的行為義務。

2021 年 4 月 21 日,歐盟發表了《人工智慧統一管理規則的立法草案》(Proposal for a Regulation on a European approach for Artificial Intelligence)簡稱「人工智慧法」,依照危險性的高低及重要程度,將利用 AI 的行為分成 4 個類型——「不可接受的風險、高度風險、具限定性風險(有限風險)、極小/無風險」,並要求採取「禁止使用、提供情報、使用情況(如登入)之紀錄、協助主管機關監視 AI、由 AI 進行動作之通知義務、警告標示」等相對應義務。

其中,如同日本學者川嶋雄作專欄文章所討論的,「使用深度造假操作技術,形成畫面、聲音、動畫」等利用行為,是被分類在「具有限定性的危險」。依據該法案,使用深度造假技術做出虛偽影像者,具有通知義務、需附加警告標語,必須告知觀眾這是使用 AI 技術所形成的影像註三

根據日本律師相關的分析內容,日本也採取了和歐盟相同的路線,不走法制化的路線,而著重推廣 AI 倫理 ,由政府部門和國際性企業為首,定期召開會議來檢討國內利用 AI 的情況。

像是日本學界就成立了「人工智慧學會」、內閣府(相當於我國的行政院)也召集了「人工智慧和人類社會之懇談會」、「AI 網絡社會促進會議」等組織,提出人工智慧倫理指南;該指南指出:不能透過人工智慧,直接或間接造成他人情報或財產侵害(安全原則),需尊重他人隱私,並落實誠實義務(透明化原則),並確保不得惡意使用之社會責任(適切原則)。而包括 SONY、日立等日系大廠,也都制定了自家的 AI 守則,來因應國際發展。

總的來說,日本與歐盟沒有立法,主要是針對 AI 的潛在危險性進行分類,並賦予相對的使用義務規範。不過,這樣的方式多少會限定特定 AI 的使用方式,因此是否有必要明文賦予拘束力,目前在歐洲委員會仍在檢討,各國仍尚未定案。而日本目前則是以公部門和企業為首,在配合國際趨勢下進行自主規範,並沒有打算進一步做出強制性的立法 。

相較於韓國因發生嚴重案件而具體修正《性暴力犯罪法》,以遏止類似惡性事件再度發生;歐盟與日本目前仍採取倫理推廣的路線,透過針對 AI 技術的研發起源進行規範。孰優孰劣、未來又將如何發展?恐怕只有時間才能告訴我們了。

圖/envato elements

註解

  • 註一:韓國律師所舉出 2019 年當時可能用來處罰 DeepFake濫用的三個法規:首先是刑法第 244 條「提供猥褻物品(包含文書、圖畫或其他物品)罪」,可處罰 1 年以下有期徒刑和 500 萬韓元(約台幣 12.5 萬元)以下罰金。第二,依「情報通信網利用促進及情報保護等相關法律(情報通信網法)」第 44 條之 7,在「使公共得以接觸下,透過情報通信網散布、販賣、提供猥褻之符號、文件、聲音、畫像和影像等」,處 1 年以下有期徒刑和 1000 萬韓元(約台幣 25 萬元)以下罰金。最後是「名譽毀損」相關法規,對合成並提出猥褻物品者主張名譽毀損,及主張肖像權受侵害,提出損害賠償。
  • 註二:本標題段落參自:딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다
  • 註三:體系圖參照「報道から見る欧州AI規則案の日本での受容と影響」,其中的圖 1:AI 規則案の全体像 。

參考資料

  1. 취향대로 골라보세요?” 한국 아이돌로 장사하는 딥페이크 포르노 ,2019年10月18日。
  2. 韓國《性暴力犯罪之處罰等相關特例法》。
  3. 딥페이크 처벌법’ 신설하긴 했지만, ‘반쪽’ 짜리 법안입니다 ,2021年1月14日
  4. 川嶋 雄作,AI規制は時期尚早か?「EUによる規制法案から考えるAI倫理」 , 独立行政法人経済産業研究所。
  5. InFoCom T&S World Trend Report,情報通信総合研究所主任研究員 栗原佑介,2021.5.31,「報道から見る欧州AI規則案の日本での受容と影響」。
  6. BUSINESS LAWYERS,注目度が高まるAI倫理と個人情報保護の関係 – カメラ画像の利活用を題材に –
  7. 經濟產業省,「我が国の AI ガバナンスの在り方 ver. 1.0 AI 社会実装アーキテクチャー検討会 中間報告書 」,令和3年1月 15 日 ,頁12。
  8. 網路安全所助理研究員 吳宗翰,「歐盟公布草案禁止 AI 用於社會評等」,國防安全雙周報。

 

法律白話文運動_96
76 篇文章 ・ 908 位粉絲
法律白話文運動」是致力於推廣法律知識與法治思想的獨立媒體,願與讀者一起從法律認識議題,從議題反思法律。