1

2
1

文字

分享

1
2
1

Deepfake製作的虛假訊息氾濫,美國如何立法力挽狂瀾?

法律白話文運動_96
・2022/01/28 ・2745字 ・閱讀時間約 5 分鐘

  • 作者黃伊平,執業律師,台北大學法學碩士。

編按:在出現Deepfake之後,網路世界進入了「眼見不為憑」的年代。本次泛科學和法律白話文合作策畫「Deepfake 專題」,從Deepfake 技術與辨偽技術、到法律如何因應。科技在走,社會和法律該如何跟上、甚至超前部署呢?一起來全方位解析 Deepfake 吧!

有一部美國前前任總統歐巴馬咒罵前任總統川普的影片,在網路上廣為流傳。但是,只要看到片尾就會發現拍攝者並不是歐巴馬本人,而是透過編輯技術製作的。在這個使用深度造假 deepfake 技術完成的影片中,演員皮爾的聲音和嘴巴被換成歐巴馬的聲音和臉,顯示此類技術的危險和力量──這類影片足以讓任何人、說出任何話

歐巴馬被 deepfake 的示範影片。

「深度造假」一詞廣為流傳,起源於美國社交網站 Reddit 的用戶「deepfakes」。該名用戶 deepfakes 的興趣,是和其他用戶分享其所製作的影片──尤其是把色情影片的女主角的臉替換成名人的面孔,包括影星蓋兒加朵(Gal Gadot-Varsano)、麥茜威廉姆斯 (Margaret Constance “Maisie” Williams) 和泰勒斯 (Taylor Alison Swift) 等。另一位用戶「deepfakeapp」甚至創建專門設計的應用程序「FakeApp」,讓沒有技術背景的用戶,只要下載 App 就可以製作假色情影片。而製作這些影片所需的種種工具都是免費的,並附有指導手冊,協助新手完成整個過程。

Deepfake的相關技術在網路的傳播下越來越普遍,除了色情影片,利用造假技術來誹謗、冒充和傳播虛假信息的現象,在美國也越來越氾濫。

遏止虛假信息立法處罰詐欺視聽製作

為了管制這樣的現象,美國參議院先在 2018 年提出《禁止惡意深度造假法案》(Malicious Deep Fake Prohibition Act)草案,處罰製造詐欺視聽紀錄的犯罪行為,包括深度造假任何視聽影音媒體的電子紀錄、照片或電子影像等。

-----廣告,請繼續往下閱讀-----

而且,不管是否發生在美國境內,只要從事這些行為的人都會被罰款,或同時處以 2 年以下的有期徒刑;而若犯罪行為影響聯邦、州等政府機關的任何程序(無論行政、立法或司法程序),像是選舉辦理、甚或導致暴力行為發生的話,則會被處 10 年以下的有期徒刑。

美國參議院在 2018 年提出《禁止惡意深度造假法案》圖/envato elements

此外,美國眾議院更在 2019 年,提出限制深度造假影片篡改技術的《深度造假問責法》(DEEP FAKES Accountability Act)草案,要求使用深度造假技術製作影片的人負起責任。例如,影片若內含虛假人物的視覺元素,製作者應嵌入數字水印,讓閱聽者能清楚識別這份影音包含更改後的音檔或視覺元素,或要求提出更改聲明,以及對更改程度的簡單描述。

而若影片含有羞辱性虛假信息,足以製造暴力或人身傷害、煽動武裝或外交衝突、干涉包括選舉在內的官方程序、或與詐欺有關,違者將處罰款或可併處 5 年以下的有期徒刑。被侵害的個人,也可以向行為人請求最高 15 萬美元的民事賠償、或其他適當的救濟措施。

造假影片若干涉到選舉官方程序,製作者就有可能被判刑。圖/envato elements

由國家情報總監介入,防範 Deepfake 危害國家安全

前面的管制,都是攸關私人之間的侵害;面對深度造假對國家安全的干擾,前美國總統川普在 2019 年簽署了美國第一部處理「Deepfake 深度造假」的聯邦法律,並成為 《2020 財政年度國防授權法案》(National Defense Authorization Act for Fiscal Year 2020NDAA)的部分內容。

-----廣告,請繼續往下閱讀-----

換句話說,即針對深度造假,要求國家情報總監(Director of National Intelligence,簡稱 DNI)完成以下任務

  1. 做出深度造假對國家安全的潛在影響評估報告,報告內容應評估外國政府的深度造假技術能力,以及外國政府或外國人如何使用深度造假來損害國家安全利益。
  2. 當未來發現有明確來自國外,針對美國選舉或國內政治的深度造假信息,DNI 應立即通知國會。
  3. 舉辦深度造假競賽,提供一名或多名獲獎者高達 500 萬美元的獎金獎勵,以刺激深度造假技術的研究、開發或商業化。

時間來到 2021 年,美國參議院國土安全和政府事務委員會(The U.S. Senate Committee on Homeland Security and Governmental Affairs)通過《深度造假專案小組法案》(Deepfake Task Force Act),旨在建立一個公私合作成立的團隊。小組須提出足以檢測數位內容是否偽造的技術和系統,供大眾驗證資訊是否真實,以遏止深度造假技術帶來的危害。

禁止捏造意圖影響選舉結果的欺騙性影片。圖/envato elements

各地州政府針對Deepfake管制立法

而在州等級,也有關於深度造假的管制立法,像是維吉尼亞州、德州、加州。

2019 年,維吉尼亞州成為美國第一個針對未經同意的深度偽造色情內容,決定課以刑責的州。其設立「非法傳播或出售他人圖像罪」(Unlawful dissemination or sale of images of another),處罰任何以脅迫、騷擾或恐嚇為目的,或是未經他人同意,惡意傳播或出售以任何方式製作他人裸露影片或照片的行為。該罪被列為第 1 類輕罪,可處 2 年以下監禁、得併處罰款。

-----廣告,請繼續往下閱讀-----

之後德州參議院,也在同年通過第 751 號法案,明定禁止捏造意圖影響選舉結果的欺騙性影片。

加州州長也頒布了 AB-602 號及 AB-730 號兩項法案。前者允許被害人有權向影片製作者提起損害賠償訴訟或其他救濟,並求償合理的律師費和懲罰性賠償,如果違法行為出於惡意,法定損害賠償金最高可增至 15 萬美元。後者則禁止對競選公職的候選人在當選後 60 天內,分發惡意的深度造假影片的行為,受到名譽侵害的候選人可以依法對犯罪者啟動刑事追訴。

美國近年來著力以立法規範Deepfake,然而也存在侵犯自由的隱憂。圖/envato elements

管制Deepfake 迫在眉睫,言論創作自由如何保障有待討論

面臨深度造假濫用來勢洶洶,可以看見美國近年所做的立法努力,但這些管制也不免受到一些質疑。像是某些條文用語太過廣泛,就有人擔憂這會侵害《美國權利法案》增修條文第一條所確保的「言論自由」。

無論如何,管制深度造假技術的需求迫在眉睫。如何同時確保使用者的言論自由、創作自由,又提供適當管制免於濫用,避免名譽和個資侵害、詐欺案等刑事犯罪、或是影響選舉結果,甚至是國家安全的危害,相關政策亟待全面啟動!

-----廣告,請繼續往下閱讀-----

-----廣告,請繼續往下閱讀-----
文章難易度
所有討論 1
法律白話文運動_96
26 篇文章 ・ 531 位粉絲
法律白話文運動」是致力於推廣法律知識與法治思想的獨立媒體,願與讀者一起從法律認識議題,從議題反思法律。

0

2
0

文字

分享

0
2
0
地震之島的生存法則!921地震教育園區揭開台灣的防災祕密
鳥苷三磷酸 (PanSci Promo)_96
・2024/09/20 ・4553字 ・閱讀時間約 9 分鐘

為什麼台灣會像坐在搖搖椅上,總是時不時地晃動?這個問題或許有些令人不安,但卻是我們生活在這片土地上的現實。根據氣象署統計,台灣每年有 40,000 次以上的地震,其中有感地震超過 1,000 次。2024年4月3日,花蓮的大地震發生後,台灣就經歷了超過 1,000 次餘震,這些數據被視覺化後形成的圖像,宛如台北101大樓般高聳穿雲,再次引發了全球對台灣地震頻繁性的關注。

地震發生後,許多外國媒體擔心半導體產業會受影響,但更讓他們稱奇的是,台灣竟然能在這麼大的地震之下,將傷害降到這麼低,並迅速恢復。不禁讓人想問,自從 25 年前的 921大地震以來,台灣經歷了哪些改變?哪些地方可能再發生大地震?如果只是遲早,我們該如何做好更萬全的準備?

要找到這些問題的答案,最合適的地點就在一座從地震遺跡中冒出的主題博物館:國立自然科學博物館的 921地震教育園區。

圖:跑道捕捉了地震的瞬間 / 圖片來源:劉志恆/青玥攝影

下一個大地震在哪、何時?先聽斷層說了什麼

1999年9月21日凌晨1點47分,台灣發生了一場規模7.3的大地震,震央在南投縣集集鎮,全台 5 萬棟房子遭震垮,罹難人數超過 2,400 人。其中,台中霧峰光復國中校區因車籠埔斷層通過,地面隆起2.6公尺,多棟校舍損毀。政府決定在此設立921地震教育園區,保留這段震撼人心的歷史,並作為防災教育的重要基地。園區內兩處地震遺跡依特性設置為「車籠埔斷層保存館」和「地震工程教育館」。

-----廣告,請繼續往下閱讀-----

車籠埔斷層保存館建於原操場位置,為了保存地表破裂及巨大抬升,所以整體設計不採用樑柱結構,而是由82根長12公尺、寬2.4公尺、重約10噸的預鑄預力混凝板組成,外觀為曲線造型,技術難度極高,屬國內外首見,並榮獲多項建築獎。而地震工程教育館保留了原光復國中受損校舍,讓民眾親眼見證地震的驚人破壞力,進一步強調建築結構與安全的重要性。毀損教室旁設有由園區與「國家地震工程研究中心」共同策劃的展示館,透過互動展示,讓參觀者親手操作,學習地震工程相關知識。

國立自然科學博物館地質學組研究員蔣正興博士表示,面積上,台灣是一個狹長的小島,卻擁有高達近4000公尺的山脈,彰顯了板塊激烈擠壓、地質活動極為活躍的背景。回顧過去一百年的地震歷史,從1906年的梅山地震、1935年的新竹-台中地震,到1999年的921大地震,都發生在台灣西部,與西部的活動斷層有密切關聯,震源位於淺層,加上人口密度較高,因此對台灣西部造成了嚴重的災情。

而台灣東部是板塊劇烈擠壓的區域,地震震源分佈更廣。與西部相比,雖然東部地震更頻繁,但由於人口密度相對較低,災情相對較少。此外,台灣東北部和外海也是地震多發區,尤其是菲律賓海板塊往北隱沒至歐亞板塊的隱沒地震帶,至沖繩海槽向北延伸,甚至可能影響到台北下方,發生直下型地震,這種地震因震源位於城市正下方,危害特別大,加上台北市房屋非常老舊,若發生直下型地震,災情將非常嚴重。

除了台北市,蔣正興博士指出在台灣西部,我們特別需要關注的就是彰化斷層的影響,該斷層曾於1848年發生巨大錯動。此外,我們也需要留意西南部的地震風險,如 1906 年的梅山地震。此兩條活動斷層距今皆已超過 100 年沒活動了。至於東部,因為存在眾多活動斷層,當然也需要持續注意。

-----廣告,請繼續往下閱讀-----

我們之所以擔心某些斷層,是因為這些區域可能已經累積了相當多的能量,一旦達到臨界點,就會釋放,進而引發地震。地質學家通常會沿著斷層挖掘,尋找過去地震的證據,如受構造擾動沉積物的變化,然後透過定年技術來確定地震發生的時間點,估算出斷層的地震週期,然而,這些數字的計算過程非常複雜,需要綜合大量數據。

挑戰在於,有些斷層的活動時間非常久遠,要找到活動證據並不容易。例如,1906年的梅山地震,即使不算久遠,但挖掘出相關斷層的具體位置仍然困難,更不用說那些數百年才活動一次的斷層,如台北的山腳斷層,因為上頭覆蓋了大量沉積物,要找到並研究這些斷層更加困難。

儘管我們很難預測哪個斷層會再次活動,我們仍然可以預先對這些構造做風險評估,從過往地震事件中找到應變之道。而 921 地震教育園區,就是那個可以發現應變之道的地方。

圖:北棟教室毀損區 / 圖片來源:劉志恆/青玥攝影

921 後的 25 年

在園區服務已 11 年的黃英哲擔任志工輔導員,常代表園區到各地進行地震防災宣導。他細數 921 之後,台灣進行的六大改革。制定災害防救法,取代了總統緊急命令。修訂了建築法規,推動斷層帶禁限建與傳統校舍建築改建。組建災難搜救隊伍,在面對未來災害時能更加自主應對。為保存文化資產,增設了歷史建築類別,確保具有保存價值的建築物得到妥善照料。

-----廣告,請繼續往下閱讀-----

最後,則是推行防災教育。黃英哲表示,除了在學校定期進行防災演練,提升防災意識外,更建立了921地震教育園區,不僅作為教育場所,也是跨部門合作的平台,例如與交通部氣象署、災害防救辦公室、教育部等單位合作,進行全面的防災教育。園區內保留了斷層線的舊址,讓遊客能夠直觀地了解地震的破壞力,最具可看性;然而除此之外,園區也是 921 地震相關文物和資料的重要儲存地,為未來的地震研究提供了寶貴的資源。

堪稱園區元老,在園區服務將近 19 年,主要負責日語解說工作的陳婉茹認為,園區最大的特色是保存了斷層造成的地景變化,如抬升的操場和毀壞的教室場景,讓造訪的每個人直觀地感受地震的威力,尤其是對於年輕的小朋友,即使他們沒有親身經歷過,也能透過這些真實的展示認識到地震帶來的危險與影響。

陳婉茹回憶,之前有爸媽帶著小學低年級的小朋友來參觀,原本小朋友並不認真聽講,到處跑來跑去,但當他看到隆起的操場,立刻大聲說這他在課本看過,後來便聚精會神地聽完 40 分鐘的解說。

圖:陳婉茹在第一線負責解說工作 / 圖片來源:921地震教育園區

除了每看必震撼的地景,園區也透過持續更新策展,邀請大家深入地震跟防災的各個面向。策展人黃惠瑛負責展示設計、活動規劃、教具設計等工作。她提到,去年推出的搜救犬特展和今年的「921震災啓示展」與她的個人經歷息息相關。921 大地震時的她還是一名台中女中的住宿生,當時她儘管驚恐,依舊背著腿軟的學姊下樓,讓她在策劃這些展覽時充滿了反思。

-----廣告,請繼續往下閱讀-----

在地震體驗平臺的設計中,黃惠瑛強調不僅要讓觀眾了解災害的破壞力,更希望觀眾能從中學到防災知識。她與設計師合作,一樓展示區採用了時光機的概念,運用輕鬆、童趣的風格,希望遊客保持積極心態。二樓的地震體驗平臺結合六軸震動臺和影片,讓遊客真實感受921地震的情境。她強調,這次展覽的目標是全民,設計上避免了血腥和悲傷的元素,旨在讓觀眾帶著正向的感受離開,並重視防災意識。

圖:地震體驗劇場 / 圖片來源:921地震教育園區

籌備今年展覽的最大挑戰是緊迫的時間。從五月開始,九月完成,為了迅速而有效地與設計師溝通,黃惠瑛使用了AI工具如ChatGPT與生成圖像工具,來加快與設計師溝通的過程。

圖:黃惠瑛與設計師於文件中討論設計/ 圖片來源:921地震教育園區

蔣正興博士說,當初學界建議在此設立地震教育園區,其中一位重要推手是法國地質學家安朔葉。他曾在台灣指導十位台灣博士生,這些博士後來成為地質研究的中堅力量。1999年921大地震後,安朔葉教授立刻趕到台灣,認為光復國中是全球研究斷層和地震的最佳觀察點,建議必須保存。為紀念園區今年成立20週年,在斷層館的展示更新中,便特別強調安朔葉的貢獻與當時的操場圖。

此外,作為 20 週年的相關活動,今年九月也將與日本野島斷層保存館簽署合作備忘錄(MOU),強化合作並展示台日合作歷史。另一重頭戲則是向日本兵庫縣人與自然博物館主任研究員加藤茂弘致贈感謝狀,感謝他不遺餘力,長期協助園區斷層保存館的剖面展品保存工作。

-----廣告,請繼續往下閱讀-----
右圖:法國巴黎居禮大學安朔葉教授。左圖:兵庫縣立人與自然博物館主任研究員加藤茂弘
/ 圖片來源:921地震教育園區

前事不忘,後事之師

盡力保存斷層跟受創校舍,只因不想再重蹈覆徹。蔣正興博士表示,921地震發生在車籠埔斷層,其錯動形式成為全球地質研究的典範,尤其是在研究斷層帶災害方面。統計數據顯示,距離車籠埔斷層約100公尺內,住在上盤的罹難率約為1%,而下盤則約為0.6%。這說明住在斷層附近,特別是上盤,是非常危險的。由於台灣主要是逆斷層活動,這一數據清楚告訴我們,在上盤區域建設居住區應特別小心。

2018年花蓮米崙斷層地震就是一個例證。

在921地震後,政府在斷層帶兩側劃設了「地質敏感區」。因為斷層活動週期較長,全球大部分地區難以測試劃設敏感區的有效性,但台灣不同,斷層活動十分頻繁。例如 1951 年,米崙斷層造成縱谷地震,規模達 7.3,僅隔 67 年後,在 2018 年再次發生花蓮地震,這在全球是罕見的,也因此 2016 年劃設的地質敏感區,在 2018 年的地震中便發現,的確更容易發生地表破裂與建築受損,驗證了地質敏感區劃設的有效性。

圖:黃英哲表示曾來園區參訪的兒童寄來的問候信,是他認真工作的動力 / 圖片來源:921地震教育園區

在過去的20年裡,921地震教育園區不僅見證了台灣在防災教育上的進步,也承載著無數來訪者的情感與記憶。每一處地震遺跡,每一項展示,都在默默提醒我們,那段傷痛歷史並未走遠。然而,我們對抗自然的力量,並非源自恐懼,而是源自對生命的尊重與守護。當你走進這座園區,感受那因地震而隆起的操場,或是走過曾經遭受重創的教室,你會發現,這不僅僅是歷史的展示,更是我們每一個人的責任與使命。

-----廣告,請繼續往下閱讀-----

來吧,今年九月,走進921地震教育園區,一起在這裡找尋對未來的啓示,為台灣的下一代共同築起一個更堅固、更安全的家園。

圖:今年九月,走進921地震教育園區 / 圖片來源:劉志恆/青玥攝影

延伸閱讀:
高風險? 家踩「斷層帶、地質敏感區」買房留意
「我摸到台灣的心臟!」法國地質學家安朔葉讓「池上斷層」揚名國際
百年驚奇-霧峰九二一地震教育園區|天下雜誌

-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

1

1
1

文字

分享

1
1
1
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

-----廣告,請繼續往下閱讀-----

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

-----廣告,請繼續往下閱讀-----
所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3613 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

0
0

文字

分享

0
0
0
民眾黨是未來台灣政治的樞紐?
林澤民_96
・2024/01/30 ・3382字 ・閱讀時間約 7 分鐘

一、前言

選後的立法院三黨不過半,但民眾黨有八席不分區立委,足以與民進黨或國民黨結成多數聯盟,勢將在國會居於樞紐地位。無獨有偶的是:民眾黨主席柯文哲在總統大選得到 26.5% 的選票,屈居第三,但因其獲得部分藍、綠選民的支持,在選民偏好順序組態的基礎上,它卻也同樣地居於樞紐地位。這個地位,將足以讓柯文哲及民眾黨在選後的台灣政壇持續激盪。

二、柯文哲是「孔多塞贏家」?

這次總統大選,誰能脫穎而出並不是一個特別令人殷盼的問題,更值得關心的問題是藍白綠「三跤㧣」在選民偏好順序組態中的消長。台灣總統大選採多數決選制,多數決選制英文叫 first-past-the-post(FPTP),簡單來講就是票多的贏,票少的輸。在 10 月中藍白合破局之後,賴蕭配會贏已經沒有懸念,但這只是選制定規之下的結果,換了另一個選制,同樣的選情可能就會險象環生。

從另一個角度想:選制是人為的,而選情反映的是社會現實。政治學者都知道天下沒有十全十美的選制;既定的選制推出了一位總統,並不代表選情的張力就會成為過眼雲煙。當三股社會勢力在制度的帷幕後繼續激盪,台灣政治將無法因新總統的誕生而趨於穩定。

圖/作者自製

如果在「三跤㧣」選舉之下,選情的激盪從候選人的得票多少看不出來,那要從哪裡看?政治學提供的一個方法是把候選人配對 PK,看是否有一位候選人能在所有的 PK 中取勝。這樣的候選人並不一定存在,如果不存在,那代表有 A 與 B 配對 A 勝,B 與 C 配對 B 勝,C 與 A 配對 C 勝的 A>B>C>A 的情形。這種情形,一般叫做「循環多數」(cyclical majorities),是 18 世紀法國學者孔多塞(Nicolas de Condorcet)首先提出。循環多數的存在意涵選舉結果隱藏了政治動盪。

-----廣告,請繼續往下閱讀-----

另一方面,如果有一位候選人能在配對 PK 時擊敗所有的其他候選人,這樣的候選人稱作「孔多塞贏家」(Condorcet winner),而在配對 PK 時均被擊敗的候選人則稱作「孔多塞輸家」(Condorcet loser)。三角嘟的選舉若無循環多數,則一定會有孔多塞贏家和孔多塞輸家,然而孔多塞贏家不一定即是多數決選制中贏得選舉的候選人,而多數決選制中贏得選舉的候選人卻可能是孔多塞輸家。

如果多數決選制中贏得選舉的候選人不是孔多塞贏家,那與循環多數一樣,意涵選後政治將不會穩定。

那麼,台灣這次總統大選,有沒有孔多塞贏家?如果有,是多數決選制之下當選的賴清德嗎?我根據戴立安先生調查規劃的《美麗島電子報》追蹤民調第 109 波(1 月 11 日至 12 日),也是選前最後民調的估計,得到的結果令人驚訝:得票墊後的柯文哲很可能是孔多塞贏家,而得票最多的賴清德很可能是孔多塞輸家。果然如此,那白色力量將會持續地激盪台灣政治!

我之前根據美麗島封關前第 101 波估計,侯友宜可能是孔多塞贏家,而賴清德是孔多塞輸家。現在得到不同的結果,顯示了封關期間的三股政治力量的消長。本來藍營期望的棄保不但沒有發生,而且柯文哲選前之夜在凱道浩大的造勢活動,還震驚了藍綠陣營。民調樣本估計出的孔多塞贏家本來就不準確,但短期內的改變,很可能反映了選情的激盪,甚至可能反映了循環多數的存在。

-----廣告,請繼續往下閱讀-----

三、如何從民調樣本估計孔多塞贏家

根據這波民調,總樣本 N=1001 位受訪者中,如果當時投票,會支持賴清德的受訪者共 355 人,佔 35.4%;支持侯友宜的受訪者共 247 人,佔 24.7%。支持柯文哲的受訪者共 200 人,佔 19.9%。

美麗島民調續問「最不希望誰當總統,也絕對不會投給他的候選人」,在會投票給三組候選人的 802 位支持者中,一共有 572 位對這個問題給予了明確的回答。《美麗島電子報》在其網站提供了交叉表如圖:

根據這個交叉表,我們可以估計每一位明確回答了續問的受訪者對三組候選人的偏好順序,然後再依這 572 人的偏好順序組態來判定在兩兩 PK 的情形下,候選人之間的輸贏如何。我得到的結果是:

  • 柯文哲 PK 賴清德:311 > 261(54.4% v. 45.6%)
  • 柯文哲 PK 侯友宜:287 > 285(50.2% v. 49.8%)
  • 侯友宜 PK 賴清德:293 > 279(51.2% v. 48.8%)

所以柯文哲是孔多塞贏家,賴清德是孔多塞輸家。當然我們如果考慮抽樣誤差(4.1%),除了柯文哲勝出賴清德具有統計顯著性之外,其他兩組配對可說難分難解。但在這 N=572 的小樣本中,三位候選人的得票率分別是:賴清德 40%,侯友宜 33%,柯文哲 27%,與選舉實際結果幾乎一模一樣。至少在這個反映了選舉結果的樣本中,柯文哲是孔多塞贏家。依多數決選制,孔多塞輸家賴清德當選。

-----廣告,請繼續往下閱讀-----

不過以上的分析有一個問題:各陣營的支持者中,有不少人無法明確回答「最不希望看到誰當總統,也絕對不會投給他做總統」的候選人。最嚴重的是賴清德的支持者,其「無反應率」(nonresponse rate)高達 34.5%。相對而言,侯友宜、柯文哲的支持者則分別只有 24.1%、23.8% 無法明確回答。為什麼賴的支持者有較多人無法指認最討厭的候選人?一個假設是因為藍、白性質相近,對許多綠營選民而言,其候選人的討厭程度可能難分軒輊。反過來說,藍、白陣營的選民大多數會最討厭綠營候選人,因此指認較無困難。無論如何,把無法明確回答偏好順序的受訪者歸為「遺失值」(missing value)而棄置不用總不是很恰當的做法,在這裡尤其可能會造成賴清德支持者數目的低估。

補救的辦法之一是在「無法明確回答等於無法區別」的假設下,把「遺失值」平分給投票對象之外的其他兩位候選人,也就是假設他們各有 1/2 的機會是無反應受訪者最討厭的候選人。這樣處理的結果,得到

  • 柯文哲 PK 賴清德:389 > 413(48.5% v. 51.5%)
  • 柯文哲 PK 侯友宜:396 > 406(49.4% v. 50.6%)
  • 侯友宜 PK 賴清德:376 > 426(46.9% v. 53.1%)

此時賴清德是孔多塞贏家,而柯文哲是孔多塞輸家。在這 N=802 的樣本中,三位候選人的得票率分別是:賴清德 44%,侯友宜 31%,柯文哲 25%。雖然依多數決選制,孔多塞贏家賴清德當選,但賴的得票率超過實際選舉結果(40%)。用無實證的假設來填補遺失值,反而造成賴清德支持者數目的高估。

如果擔心「無法明確回答等於無法區別」的假設太勉強,補救的辦法之二是把「遺失值」依有反應受訪者選擇最討厭對象的同樣比例,分給投票對象之外的其他兩位候選人。這樣處理的結果,得到

-----廣告,請繼續往下閱讀-----
  • 柯文哲 PK 賴清德:409 > 393(51.0% v. 49.0%)
  • 柯文哲 PK 侯友宜:407 > 395(50.8% v. 49.2%)
  • 侯友宜 PK 賴清德:417 > 385(52.0% v. 48.0%)

此時柯文哲又是孔多塞贏家,而賴清德又是孔多塞輸家了。這個樣本也是 N=802,三位候選人的得票率分別是:賴清德 44%,侯友宜 31%,柯文哲 25%,與上面的結果一樣。

以上三種無反應處理方法都不盡完美。第一種把無反應直接當遺失值丟棄,看似最不可取。然而縮小的樣本裡,三位候選人的支持度與實際選舉結果幾乎完全一致。後兩種以不同的假設補足了遺失值,但卻過度膨脹了賴清德的支持度。如果以樣本中候選人支持度與實際結果的比較來判斷遺失值處理方法的效度,我們不能排斥第一種方法及其結果。

無論如何,在缺乏完全資訊的情況下,我們發現的確有可能多數決輸家柯文哲是孔多塞贏家,而多數決贏家賴清德是孔多塞輸家。因為配對 PK 結果缺乏統計顯著性,我們甚至不能排除循環多數的存在。此後四年,多數決選制產生的總統能否在三角嘟力量的激盪下有效維持政治穩定,值得我們持續觀察。

四、結語

柯文哲之所以可以是孔多塞贏家,是因為藍綠選民傾向於最不希望對方的候選人當總統。而白營的中間偏藍位置,讓柯文哲與賴清德 PK 時,能夠得到大多數藍營選民的奧援而勝出。同樣的,當他與侯友宜 PK 時,他也能夠得到一部份綠營選民的奧援。只要他的支持者足夠,他也能夠勝出。反過來看,當賴清德與侯友宜 PK 時,除非他的基本盤夠大,否則從白營得到的奧援不一定足夠讓他勝出。民調 N=572 的樣本中,賴清德得 40%,侯友宜得 33%,柯文哲得 27%。由於柯的支持者討厭賴清德(52.5%)遠遠超過討厭侯友宜(23.7%),賴雖然基本盤較大,能夠從白營得到的奧援卻不多。而侯雖基本盤較小,卻有足夠的奧援。柯文哲之所以成為孔多塞贏家,賴清德之所以成為孔多塞輸家,都是這些因素的數學結果。

-----廣告,請繼續往下閱讀-----

資料來源

-----廣告,請繼續往下閱讀-----

討論功能關閉中。

林澤民_96
37 篇文章 ・ 244 位粉絲
台大電機系畢業,美國明尼蘇達大學政治學博士, 現任教於美國德州大學奧斯汀校區政府系。 林教授每年均參與中央研究院政治學研究所及政大選研中心 「政治學計量方法研習營」(Institute for Political Methodology)的教學工作, 並每兩年5-6月在台大政治系開授「理性行為分析專論」密集課程。 林教授的中文部落格多為文學、藝術、政治、社會、及文化評論。