0

5
0

文字

分享

0
5
0

營造反恐緊張氣氛, 臺灣機場即將配合美國 DHS/TSA 佈置 「維安劇場」?

洪朝貴
・2012/10/11 ・4605字 ・閱讀時間約 9 分鐘 ・SR值 552 ・八年級

Security theater (維安劇場) 一詞首見於資訊安全專家 Bruce Schneier 2003 年所出版的著作 Beyond Fear: Thinking Sensibly about Security in an Uncertain World [超越恐懼: 理性思考不確定世界當中的安全議題]。 它指的是這樣的作為: 煞有介事地佈置各種道具、 門禁、 安檢關卡, 儼然一付嚴陣以待隨時準備好要應付恐怖攻擊之類危險事件的態勢; 但其實戲劇效果遠大於真正的維安效果。

美國自從 2001 年 9/11 事件之後, 國土安全部 (Department of Homeland Security) 及其下所轄的交通安全局 (Transportation Security Administration) 就不斷推出許多侵犯人權與隱私的 「維安措施」, 在國內引起極大的抗議, 連主流媒體 ( NY Times CBSABC) 也都用 “security theater” 來描述兩者的作為。

近日美國宣佈臺灣成為免簽國家。 為了配合美國反恐, 移民署將提昇相關軟硬體設備, 以強化出入境維安工作。 臺灣機場是否即將配合美國 TSA 佈置 「維安劇場」, 而公民的人權與隱私是否也將悄悄地在一片免簽叫好聲中逐漸被侵蝕?

一、 概念

雖然我沒讀過 Beyond Fear 這本書, 但就像任何關心資安新聞的人一樣, 不時會讀到 Schneier 部落格的相關文章。 他是資訊安全界的神人啊! 以下摘譯封面介紹, 順便幫這本書廣告一下:

-----廣告,請繼續往下閱讀-----
  1. 讓機長全副武裝有助於航空安全嗎?
  2. 電子投票會讓選舉結果變得比較精確嗎?
  3. 線上信用卡購物比較不安全嗎?
  4. 全國性的身份證系統可以降低恐怖攻擊的風險嗎?

如果你讀新聞或聽名嘴, 可能會認為以上皆是; 但事實可能出人意表。 資訊安全專家 Bruce Schneier 畢生致力於 「安全」 的真實機制 … 本書透視炒作, 直指真正的重點, 解釋我們如何理性面對安全議題。 … Schneier 以他諮商世界級企業和政治人物的豐富經驗闡述: 務實的安全措施其實可能簡單到令人跌破眼鏡 …。

安全並不神秘, 而且也不像大家想像的那麼困難。 最困難的是: 如何區別何者為炒作、 何者是真正重要的事? …

Schneier 邀請讀者跨越 「恐懼」、 理性思考安全議題。 他解釋為什麼監視錄影器、 警衛、 有相片的證件並不足以保證安全, 為什麼昂貴的科技產品經常反而會掩蓋了真正的安全議題。 他從歷史、 科學、 運動、 電影、 新聞裡面舉例, 列出保護安全的基本思維與行動原則 — 而這些都是每個人自己可以理解也可以實踐的。 Schneier 不亂拉警報; 他推薦的 「運用常識」 的策略可以帶來立即的效益。 你對自己平日所做的安全決策會更加有信心、 對於別人替你決定的安全政策會獲得更深刻的洞見。 …

資訊領域有很多 (小格讀者可能熟悉的) 「維安劇場」 的例子。 臺灣銀行界吹捧 「高安全性網路刷卡驗證碼」, 結果反而害顧客 遭盜刷成冤大頭, 這一點也不令人意外。 從 2010 年初 google 因 ie 漏洞遭駭 到 2011 年中的 中韓潰客入侵行政院 再到上個月發生的 IE 7/8/9 第0日安全漏洞, 我們一再被現實提醒: 資訊安全的首要任務應該是處理 IE-only 的問題, 因為步上雲端的交通工具, 是與外界接觸的第一線, 就像人的皮膚一樣重要。 不幸地是, 除了 玉山銀行 之外, 全臺灣其他銀行卻繼續裝死、 繼續強迫用戶使用 IE; 而 卓越的大學也仍舊不敢談論真正的資安問題 甚至繼續用著 不安全的會計系統。 下一次你再看到銀行與大學 (或是 國科會) 推出最新最炫的資訊安全產品, 最好記得帶著看戲的心情欣賞其 「維安劇場」 的演出, 以免過度期待、 為自己的錢包/隱私/電腦帶來傷害。

上述維安劇場尚且只是推銷無效的產品、 忽略真實的安全; 但 DRM 與實現 “信任運算” 機制的 Windows 8 secure boot 則是更積極地以 「維護安全」 之名加碼剝奪消費者的自主權。

核能安全領域也有案例。 「美國核電廠維安措施只是維安劇場」 的說法, 最近又多了一個例證。 今年七月, 82 歲的修女、 63 歲的園丁、 57 歲的油漆工三人 成功地闖入核電廠 噴漆抗議、 表達反核。

二、 案例

機場維安比較像 DRM 與 Windows 8 secure boot — 「安全」 其實是要你 「棄權」。 首先看看有哪些東西曾經被 TSA 沒收。 請用以下關鍵詞分別跟 TSA 一起搜尋: cupcake (因為她的小蛋糕是膠狀物)、 purse (因為小女孩的錢包上繡有槍枝)、 T-shirt (因為上面有反 TSA 的標語)、 cheese (因為有些爆裂物看起來像起士)、 play-doh (因為有些爆裂物看起來有點像這種類似黏土的玩具)、 lightsaber (因為這是帝國反叛軍絕地武士的武器, 真是太可怖了啊啊啊!) (搜尋範例: 「tsa lightsaber」

-----廣告,請繼續往下閱讀-----

東西被沒收就算了; 隱私被侵犯呢? 通過美國海關時, 你有兩個選擇: 接受穿透衣服全身看光光的 X 光掃描 (body scan) 或接受海關上下其手全身摸透透 (pat down)。 搜尋 「TSA pat down」 可以看到 孕婦 坐輪椅的小孩 受驚嚇的女性 膀胱癌患者、 … 的故事。 對於 性侵受害者 而言, 這更是可怕的二度傷害。 該文也指出: TSA 刻意要用過度、 侵犯性、 近乎懲罰性的 pat down 逼大家接受 body scan。

但是 body scan 真的有助於找出爆裂物嗎? 國會一份研究報告顯示: 八千七百萬美元的 Body Scanner 白花了。 其實部落客早就親身證實有方法可以對付 body scanner — 請搜尋 「defeat tsa scanner」。 隱私團體抗議 body scan, 法官要求 TSA 舉辦公聽會, TSA 裝死、 不理會法官判決

既然效果不佳, 為什麼 TSA 還是堅持要使用 body scanner 呢? 原來國土安全部前官員 Michael Chertoff 跟廠商關係密切, 到後來甚至不避諱地替 Rapiscan Systems 工作; 而這些廠商也大力金援、 甚至政治獻金加碼兩倍, 要求立法採購機場安檢器材 更詳盡的利益關係

還有一些人, 連選擇被羞辱換取坐飛機權利的機會都沒有。 禁飛黑名單在一年之內 從1萬人驟增至2萬人 其中包含500名美國人; 但是黑名單不公開、 政府也不會回答你是否在黑名單當中。 只有當你被禁飛時, 才會知道自己可能在黑名單當中 — 就像這位一歲半的小女孩一樣

-----廣告,請繼續往下閱讀-----

另一個爭議是: Body scanner 的幅射劑量是否過高? 是否危及機場常客的健康? 但是 DHS 與 TSA 不僅不願意釋出儀器檢測數據, 國土安全部秘書長 Janet Napolitano 甚至 公然說謊, 把國家標準局 「曾檢測一部機器」 的事實扭曲成 「確認這型機器安全」。 DHS 與 TSA 一直不願意處理這個問題, 最先受傷害的恐怕是長期曝露在不明劑量幅射之下的安檢官員自己。

刀子和手槍輕鬆過關、 甚至官員積極協助走私毒品 TSA 官員順手牽走旅客 iPad、 … 一件又一件的醜聞明白顯示 TSA 真正關心的根本就不是國人的安危, 而是如何無限擴張其權限, 並營造恐懼的氣氛。

三、 有根據的研究以及真實的成效

今年三月, 經濟學人辦了一場三回合的線上辯論, 對打的是主張 「後 9/11 維安措施弊多於利」 的 Bruce Schneier 跟主張要繼續強化維安措施的 TSA 創建人也曾是 TSA 首腦 頭號人物 Kip Hawley。 本節內容如果沒有特別給連結, 主要就是摘要 [以及貴哥風格的略微加味轉述] 自 這場辯論 當中 Bruce Schneier 的發言以及 浮華世界的專題報導。 為什麼我懶得摘要 Kip Hawley 的說法? 因為 (沒錯, 我主觀認定) 他的論點貧乏、 只想製造民眾的恐懼感。 也請數數看他給了幾個參考連結。 連結數量多並不代表比較可信; 不過 Hawley 如果連三五個有力案例與研究結果都提不出來, 那麼道理在誰那邊就很明顯了。

TSA 自己公告的 「年度十大查獲」 顯示: 沒有一件與恐怖攻擊有關 — 如果有的話, 他們早就開記者會並要求國會提高預算了。 TSA 的作為與維安規定只會回顧過去經驗; 但是當所有警力都在查緝保特瓶跟鞋子的時候, 你想真正的恐怖攻擊者會怎麼做? 最不可思議的是: TSA 把 「桀傲不馴的態度」 (arrogant) 視為可疑行為 — 這會是恐怖攻擊者保持低調的方式嗎?

-----廣告,請繼續往下閱讀-----

把精力鎖定在機場、 鎖定在特定的物品, 是很糟的反恐方式。 恐怖攻擊者總是會避開當前的維安重點、 挑選那些維安警力所忽略的場所 — 到處都有捷運站、 人潮密集的商場、 … — 和維安警力所忽略的物品。 無限上綱提高機場安全檢查並非對付恐怖攻擊的最佳方式; 強化情報、 偵查、 危機處理才是。 從 2007 年的訪談到現在, TSA 一直不願意正面回應問題, 甚至也不曾進行標準的成本分析。

9/11 之後的新措施, 只有三件事真正有助於提高飛安: (1) 隔絕並強化駕駛艙 (2) 確認每件行李的主人都在飛機上 (3) 教導乘客要反擊。 除此之外, 多數侵犯人權的措施都只是 security theater。 學界的分析顯示: 9/11 以來的維安措施並未有效提高機場安全。 最近成功阻止的恐怖事件 (例如內褲炸彈客事件與液體炸彈客事件) 都顯示: 9/11 之後的嚴厲措施一點用也沒有; 真正阻擋炸彈客的, 其實是舊的維安機制及情蒐。

那麼這些強化的維安措施到底成就了什麼? 2004 年的數據顯示: 每位旅客平均多浪費 19.5 分鐘跟 TSA 打交道, 也可以換算成每年一百億美元的經濟損失。 許多人為了避免跟 TSA 打交道而改選擇開車, 每年因此而車禍死亡的人數增加 500 人。 以上數字都還只把美國人的損失算進去而已。

公民自由的無形傷害更是難以量化估計。 機場儼然成了人權禁區: 身為旅客, 你無權拒絕搜身、 你的財產可能被沒收、 你不能匿名旅行、 你不能穿上抗議 TSA 文句的衣服、 不能開 TSA 的玩笑。 [貴註: 所以只好用隱晦的方式「刺激」安檢人員或在網路上搞笑, 例如 吃了威而鋼再上路 或寫諷刺文 「TSA 搜身太刺激, 男子射精被捕」]

-----廣告,請繼續往下閱讀-----

但是如果心存懷疑的記者在安全專家的指導之下, 就可以自己用影像處理軟體跟雷射印表機印出一張假機票闖進登機區, 那麼這一切又所為何來呢?

四、 停止配合恐怖份子製造恐懼

TSA 官員這些 「沒有特定對象、 恣意攔截旅客強行搜身」 的惡行越來越囂張 — 反恐搜身蔓延到火車站跟公車站: 喬治亞 (而且 TSA 還公然說謊)、 北卡 休士頓、 … 陰謀論者 Al Martin 曾經 指稱: 布希當初聘用 東德國家安全部 Stasi 頭子 Markus Wolf 作為美國 DHS 顧問, 目的就是要建立一個警察國家。 不論陰 Al Martin 的指控是否屬實, TSA 的行為確實越來越像 Stasi。

恐怖主義真正的目標並不是製造墜機、 甚至並不是要製造人員傷亡。 恐怖主義真正的目標是要讓我們的社會陷入恐慌。

TSA 之流的各種行動在人心種下猜忌的種子、 剝奪我們的隱私、 在許多案例裡甚至剝奪我們的尊嚴 (貴註: 哭泣的女子)、 剝奪我們的權利、 用各種沒有原則/講不出道理的規定騷擾我們、 又不斷地提醒我們: 「如果不接受這一切, 就等著死在恐怖份子的手裡吧!」 TSA 的所作所為, 恰恰是照著恐怖份子所寫的劇本演出, 製造社會恐慌。
Bruce Schneier

我個人認為: 這幾年來美國已經從自由的天堂迅速淪為 [ 靜靜跳舞都會被逮捕 的] 警察國家。 而臺灣多數人卻還不知道美國從 9/11 以來, 反恐與反盜版文宣塑造了什麼氣氛 (當然, 也有可能是因為我國的掌權者樂意配合美國所設下的集權機制) 先有 盜版三振法、 再有 封鎖 pps TPP, 現在又在免簽的糖衣底下包藏警察國家的 「維安」 架構, 美國政府意圖實質掌控臺灣的動作頻頻不斷。 至於失去良知[或判斷力]的媒體及數字取代思考的大學, 到現在還是持續配合美國利益團體對大眾智財洗腦。 如果臺灣民眾珍惜我們現在享有的自由民主, 最好能夠從免簽迷湯裡面醒過來, 要趁我們還有言論自由的時候, 站出來引用網路上搜尋易得的事實, 回應一下即將在主流媒體及大學裡上演的反恐洗腦和 「維安劇場」 security theater。

(本文轉載自 資訊人權貴ㄓ疑

-----廣告,請繼續往下閱讀-----
文章難易度
洪朝貴
47 篇文章 ・ 1 位粉絲

1

1
1

文字

分享

1
1
1
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3415 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

0
0

文字

分享

0
0
0
民眾黨是未來台灣政治的樞紐?
林澤民_96
・2024/01/30 ・3382字 ・閱讀時間約 7 分鐘

-----廣告,請繼續往下閱讀-----

一、前言

選後的立法院三黨不過半,但民眾黨有八席不分區立委,足以與民進黨或國民黨結成多數聯盟,勢將在國會居於樞紐地位。無獨有偶的是:民眾黨主席柯文哲在總統大選得到 26.5% 的選票,屈居第三,但因其獲得部分藍、綠選民的支持,在選民偏好順序組態的基礎上,它卻也同樣地居於樞紐地位。這個地位,將足以讓柯文哲及民眾黨在選後的台灣政壇持續激盪。

二、柯文哲是「孔多塞贏家」?

這次總統大選,誰能脫穎而出並不是一個特別令人殷盼的問題,更值得關心的問題是藍白綠「三跤㧣」在選民偏好順序組態中的消長。台灣總統大選採多數決選制,多數決選制英文叫 first-past-the-post(FPTP),簡單來講就是票多的贏,票少的輸。在 10 月中藍白合破局之後,賴蕭配會贏已經沒有懸念,但這只是選制定規之下的結果,換了另一個選制,同樣的選情可能就會險象環生。

從另一個角度想:選制是人為的,而選情反映的是社會現實。政治學者都知道天下沒有十全十美的選制;既定的選制推出了一位總統,並不代表選情的張力就會成為過眼雲煙。當三股社會勢力在制度的帷幕後繼續激盪,台灣政治將無法因新總統的誕生而趨於穩定。

圖/作者自製

如果在「三跤㧣」選舉之下,選情的激盪從候選人的得票多少看不出來,那要從哪裡看?政治學提供的一個方法是把候選人配對 PK,看是否有一位候選人能在所有的 PK 中取勝。這樣的候選人並不一定存在,如果不存在,那代表有 A 與 B 配對 A 勝,B 與 C 配對 B 勝,C 與 A 配對 C 勝的 A>B>C>A 的情形。這種情形,一般叫做「循環多數」(cyclical majorities),是 18 世紀法國學者孔多塞(Nicolas de Condorcet)首先提出。循環多數的存在意涵選舉結果隱藏了政治動盪。

-----廣告,請繼續往下閱讀-----

另一方面,如果有一位候選人能在配對 PK 時擊敗所有的其他候選人,這樣的候選人稱作「孔多塞贏家」(Condorcet winner),而在配對 PK 時均被擊敗的候選人則稱作「孔多塞輸家」(Condorcet loser)。三角嘟的選舉若無循環多數,則一定會有孔多塞贏家和孔多塞輸家,然而孔多塞贏家不一定即是多數決選制中贏得選舉的候選人,而多數決選制中贏得選舉的候選人卻可能是孔多塞輸家。

如果多數決選制中贏得選舉的候選人不是孔多塞贏家,那與循環多數一樣,意涵選後政治將不會穩定。

那麼,台灣這次總統大選,有沒有孔多塞贏家?如果有,是多數決選制之下當選的賴清德嗎?我根據戴立安先生調查規劃的《美麗島電子報》追蹤民調第 109 波(1 月 11 日至 12 日),也是選前最後民調的估計,得到的結果令人驚訝:得票墊後的柯文哲很可能是孔多塞贏家,而得票最多的賴清德很可能是孔多塞輸家。果然如此,那白色力量將會持續地激盪台灣政治!

我之前根據美麗島封關前第 101 波估計,侯友宜可能是孔多塞贏家,而賴清德是孔多塞輸家。現在得到不同的結果,顯示了封關期間的三股政治力量的消長。本來藍營期望的棄保不但沒有發生,而且柯文哲選前之夜在凱道浩大的造勢活動,還震驚了藍綠陣營。民調樣本估計出的孔多塞贏家本來就不準確,但短期內的改變,很可能反映了選情的激盪,甚至可能反映了循環多數的存在。

-----廣告,請繼續往下閱讀-----

三、如何從民調樣本估計孔多塞贏家

根據這波民調,總樣本 N=1001 位受訪者中,如果當時投票,會支持賴清德的受訪者共 355 人,佔 35.4%;支持侯友宜的受訪者共 247 人,佔 24.7%。支持柯文哲的受訪者共 200 人,佔 19.9%。

美麗島民調續問「最不希望誰當總統,也絕對不會投給他的候選人」,在會投票給三組候選人的 802 位支持者中,一共有 572 位對這個問題給予了明確的回答。《美麗島電子報》在其網站提供了交叉表如圖:

根據這個交叉表,我們可以估計每一位明確回答了續問的受訪者對三組候選人的偏好順序,然後再依這 572 人的偏好順序組態來判定在兩兩 PK 的情形下,候選人之間的輸贏如何。我得到的結果是:

  • 柯文哲 PK 賴清德:311 > 261(54.4% v. 45.6%)
  • 柯文哲 PK 侯友宜:287 > 285(50.2% v. 49.8%)
  • 侯友宜 PK 賴清德:293 > 279(51.2% v. 48.8%)

所以柯文哲是孔多塞贏家,賴清德是孔多塞輸家。當然我們如果考慮抽樣誤差(4.1%),除了柯文哲勝出賴清德具有統計顯著性之外,其他兩組配對可說難分難解。但在這 N=572 的小樣本中,三位候選人的得票率分別是:賴清德 40%,侯友宜 33%,柯文哲 27%,與選舉實際結果幾乎一模一樣。至少在這個反映了選舉結果的樣本中,柯文哲是孔多塞贏家。依多數決選制,孔多塞輸家賴清德當選。

-----廣告,請繼續往下閱讀-----

不過以上的分析有一個問題:各陣營的支持者中,有不少人無法明確回答「最不希望看到誰當總統,也絕對不會投給他做總統」的候選人。最嚴重的是賴清德的支持者,其「無反應率」(nonresponse rate)高達 34.5%。相對而言,侯友宜、柯文哲的支持者則分別只有 24.1%、23.8% 無法明確回答。為什麼賴的支持者有較多人無法指認最討厭的候選人?一個假設是因為藍、白性質相近,對許多綠營選民而言,其候選人的討厭程度可能難分軒輊。反過來說,藍、白陣營的選民大多數會最討厭綠營候選人,因此指認較無困難。無論如何,把無法明確回答偏好順序的受訪者歸為「遺失值」(missing value)而棄置不用總不是很恰當的做法,在這裡尤其可能會造成賴清德支持者數目的低估。

補救的辦法之一是在「無法明確回答等於無法區別」的假設下,把「遺失值」平分給投票對象之外的其他兩位候選人,也就是假設他們各有 1/2 的機會是無反應受訪者最討厭的候選人。這樣處理的結果,得到

  • 柯文哲 PK 賴清德:389 > 413(48.5% v. 51.5%)
  • 柯文哲 PK 侯友宜:396 > 406(49.4% v. 50.6%)
  • 侯友宜 PK 賴清德:376 > 426(46.9% v. 53.1%)

此時賴清德是孔多塞贏家,而柯文哲是孔多塞輸家。在這 N=802 的樣本中,三位候選人的得票率分別是:賴清德 44%,侯友宜 31%,柯文哲 25%。雖然依多數決選制,孔多塞贏家賴清德當選,但賴的得票率超過實際選舉結果(40%)。用無實證的假設來填補遺失值,反而造成賴清德支持者數目的高估。

如果擔心「無法明確回答等於無法區別」的假設太勉強,補救的辦法之二是把「遺失值」依有反應受訪者選擇最討厭對象的同樣比例,分給投票對象之外的其他兩位候選人。這樣處理的結果,得到

-----廣告,請繼續往下閱讀-----
  • 柯文哲 PK 賴清德:409 > 393(51.0% v. 49.0%)
  • 柯文哲 PK 侯友宜:407 > 395(50.8% v. 49.2%)
  • 侯友宜 PK 賴清德:417 > 385(52.0% v. 48.0%)

此時柯文哲又是孔多塞贏家,而賴清德又是孔多塞輸家了。這個樣本也是 N=802,三位候選人的得票率分別是:賴清德 44%,侯友宜 31%,柯文哲 25%,與上面的結果一樣。

以上三種無反應處理方法都不盡完美。第一種把無反應直接當遺失值丟棄,看似最不可取。然而縮小的樣本裡,三位候選人的支持度與實際選舉結果幾乎完全一致。後兩種以不同的假設補足了遺失值,但卻過度膨脹了賴清德的支持度。如果以樣本中候選人支持度與實際結果的比較來判斷遺失值處理方法的效度,我們不能排斥第一種方法及其結果。

無論如何,在缺乏完全資訊的情況下,我們發現的確有可能多數決輸家柯文哲是孔多塞贏家,而多數決贏家賴清德是孔多塞輸家。因為配對 PK 結果缺乏統計顯著性,我們甚至不能排除循環多數的存在。此後四年,多數決選制產生的總統能否在三角嘟力量的激盪下有效維持政治穩定,值得我們持續觀察。

四、結語

柯文哲之所以可以是孔多塞贏家,是因為藍綠選民傾向於最不希望對方的候選人當總統。而白營的中間偏藍位置,讓柯文哲與賴清德 PK 時,能夠得到大多數藍營選民的奧援而勝出。同樣的,當他與侯友宜 PK 時,他也能夠得到一部份綠營選民的奧援。只要他的支持者足夠,他也能夠勝出。反過來看,當賴清德與侯友宜 PK 時,除非他的基本盤夠大,否則從白營得到的奧援不一定足夠讓他勝出。民調 N=572 的樣本中,賴清德得 40%,侯友宜得 33%,柯文哲得 27%。由於柯的支持者討厭賴清德(52.5%)遠遠超過討厭侯友宜(23.7%),賴雖然基本盤較大,能夠從白營得到的奧援卻不多。而侯雖基本盤較小,卻有足夠的奧援。柯文哲之所以成為孔多塞贏家,賴清德之所以成為孔多塞輸家,都是這些因素的數學結果。

-----廣告,請繼續往下閱讀-----

資料來源

討論功能關閉中。

林澤民_96
37 篇文章 ・ 241 位粉絲
台大電機系畢業,美國明尼蘇達大學政治學博士, 現任教於美國德州大學奧斯汀校區政府系。 林教授每年均參與中央研究院政治學研究所及政大選研中心 「政治學計量方法研習營」(Institute for Political Methodology)的教學工作, 並每兩年5-6月在台大政治系開授「理性行為分析專論」密集課程。 林教授的中文部落格多為文學、藝術、政治、社會、及文化評論。

0

1
7

文字

分享

0
1
7
擁有「控制感」有助於維持心理健康?無助導致的憂鬱又是怎麼來的?——《選擇的弔詭》
一起來
・2023/12/31 ・3327字 ・閱讀時間約 6 分鐘

-----廣告,請繼續往下閱讀-----

習得無助、控制感,以及憂鬱

提過塞利格曼等人發現的「習得無助」現象,他們進行了一系列動物基本學習歷程的實驗,訓練動物跳過柵欄以避開腳下的電擊。動物通常很快就能學會怎麼做,但有一組動物,因為先前經歷過一連串無法躲避的電擊,所以始終都學不會,牠們甚至放棄嘗試,只是待在原地乖乖接受電擊,而從不試著跳過柵欄。研究者的解釋是,當動物遭受自己無法控制的電擊,就會學到不管怎麼做都無濟於事,這樣的習得無助感會轉移到新情境,即使牠們能夠控制這個新情境,還是會放棄嘗試。

塞利格曼深入研究習得無助現象之後,驚訝地發現,這些無助的動物跟憂鬱症患者有許多共同點,尤其是兩者的消極心態,憂鬱症患者有時連「今天要穿什麼衣服」這樣的小事都力不從心。塞利格曼推論,至少有部分憂鬱症患者是因為經歷過一次強烈的失控感,於是開始相信自己對任何事都無能為力,並認為這種無助感會一直持續出現在各種情境。根據塞利格曼的假設,擁有控制感對於心理健康至關重要。

五十多年前,一項研究以三個月大的嬰兒為受試者,凸顯了控制感的重要性。研究者將嬰兒分成兩組,A 組是有控制權的嬰兒,他們躺在嬰兒床上,頭靠著枕頭,床的上方倒掛著一把半透明的傘,裡面用彈簧黏著幾隻動物玩偶,如果嬰兒轉一下頭,傘裡的燈就會亮起,嬰兒就可以看到那些玩偶在「跳舞」,但一會兒燈就熄滅了。當 A 組嬰兒碰巧轉頭,讓傘裡的燈亮起並看到玩偶,他們就會表現出好奇、開心和興奮的樣子,而且很快就學會利用轉頭來控制玩偶的出現,然後一次又一次重複這個動作,看起來一直都很開心。B 組嬰兒則沒有控制權,只有在 A 組轉頭時,他們床上的燈也跟著亮起,才可以「順便」看到玩偶, 所以 B 組看到玩偶的次數和時間都跟 A 組一樣多,但他們只有在一開始表現得跟 A 組一樣開心,然後很快就因為適應而失去興趣。

研究使用玩偶測試後發現嬰兒的快樂似乎源自於「控制感」。圖/envato

研究者從兩組嬰兒的反應差異,得到下列結論:讓嬰兒一直很開心的原因,並不是會跳舞的動物玩偶,而是控制感。A 組嬰兒之所以對著玩偶咯咯笑個不停,是因為他們似乎知道是自己讓這一切發生,「是我幹的好事,很棒吧,而且只要我想要,隨時都可以再來一次」。B 組嬰兒雖然什麼都不用做就可以看到玩偶,但是卻沒有體驗到這種令人興奮的控制感。

-----廣告,請繼續往下閱讀-----

小嬰兒幾乎無法控制任何事物,既不能任意靠近自己想要的東西,也無法離討厭的東西遠遠地。他們無法靈活控制自己的手,所以抓取或操作物品都很吃力。他們還會無預警地被被東戳戳、西捏捏,或是被抱起又放下。小嬰兒的世界就是只能被動讓事情發生在自己身上,任由別人擺佈。或許正是基於這個原因,當他們偶然發現自己可以控制那麼一點小事, 就異常在意和興奮。

另一項研究以生命的另一端——老年人為受試者,也戲劇化地證明了「控制感」對於幸福快樂的重要性。研究者告訴 A 組養老院的住民必須為自己負責、照顧好自己;B 組住民則被告知他們的一切生活起居都由工作人員打理。此外,A 組每天都要決定一些簡單的事,並照顧一盆植物;B 組則沒有任何決定權,他們的植物也由工作人員照顧。結果,A 組老人(對自己的生活有一定的控制權)比 B 組(沒有控制權)更有活力、更靈敏,主觀幸福感也更高。最引人注目的是,A 組的平均壽命比 B 組多好幾年。可見,從出生到死亡,人都需要擁有對生活的掌控權。 

從出生到死亡,人都需要擁有對生活的掌控權。 圖/envato

無助感、憂鬱和歸因風格

塞利格曼的「無助-憂鬱理論」仍然受到質疑,最大的問題是,並非每個失去掌控感的人都會陷入憂鬱。因此,塞利格曼和同事在 1978 年修正了這一理論,並指出在無助感和憂鬱之間,還存在另一個重要的心理歷程。根據修正後的新理論,人在失敗和失去掌控感之後,會問自己為什麼,像是「為什麼他要跟我分手?」「為什麼我被刷下來?」「為什麼我沒有談成那筆生意?」「為什麼我的成績這麼爛?」。換句話說,人會尋找失敗的原因。

塞利格曼等人認為,人對事情的解釋——即歸因風格(attributional style)大致有兩種,每種風格都傾向接受特定類型的原因,而這些原因不一定跟實際情形有關。根據歸因風格的特性,造成失敗的原因可以分成三個向度:全面或特定、長期或短暫、內在或外在。

-----廣告,請繼續往下閱讀-----

假設你去應徵一份行銷業務的職缺,卻沒被錄取,你在分析自己為什麼會失敗時,下面是一些可能的原因: 

全面:我的自傳和履歷都寫得不好,面試時又很緊張,看來不管找什麼工作都不會被錄取了。

特定:我對那家公司的產品類型不太了解,我得多做一些功課,面試時才能脫穎而出。

長期:我的個性不是很主動積極,也無法擔負責任,這份工作根本不適合我。

短暫:我最近感冒,好幾天沒睡好,面試時狀態不佳。

內在:原本應該可以順利得到這份工作,是我自己搞砸了。

-----廣告,請繼續往下閱讀-----

外在:他們應該早就內定好了,找人去面試只是做做樣子,大家都是去陪榜的。

如果你用特定、短暫、外在因素去解釋自己為何沒被錄取,那麼你對下次找工作的預期會是什麼?你也許會想:如果去應徵自己熟悉的領域,並且保持睡眠充足,自己也更主動機靈一點,而且面試沒有黑箱作業,一切就會很順利。換句話說,這次的失敗經驗不太會影響下次找工作的表現。

反之,假設你用全面、長期、內在角度看待自己的失敗,認為自己的履歷毫不起眼, 面試時老是緊張得說不出話,而且個性太被動,別人都比自己更適合這份工作,那麼你預期的未來就會黯淡無光,你不但沒得到這份工作,接下來要找任何工作都會很困難。

修正後的「無助-憂鬱理論」認為,如果用全面、長期、內在因素去解釋失敗,那麼由失敗或失去掌控所引發的無助感才會導致憂鬱,因為在這種情況下,人有充分理由預期自己將不斷遭遇失敗。既然註定會失敗,那麼每天起床、換好衣服,繼續應徵下一份工作又有什麼意義? 

如果用全面、長期、內在因素去解釋失敗,人有充分理由預期自己將不斷遭遇失敗,那麼由失敗或失去掌控所引發的無助感會導致憂鬱。圖/envato

對上述理論的檢驗已得到令人矚目的結果。人確實會表現出不同的歸因風格,「樂觀者」會將自己的成功解釋為全面、長期、內在因素所致,而認為失敗是由特定、短暫、外在因素造成。「悲觀者」則恰好相反。如果兩個人得到同樣的分數,樂觀者會說「我得了 A」 或「她給我成績打 C」,悲觀者卻說「她給我打 A」或「我得了 C」,因此悲觀者更可能陷入憂鬱。此外,從一個人的歸因風格也可以預測他未來遭受失敗時是否會憂鬱。如果認為失敗的原因是全面性的,就會預期自己在其他生活領域也會遭遇失敗,而如果歸因於特定因素則不會這麼想;如果認為失敗的原因是長期性的,就會預期失敗將一直發生,而如果歸因於短暫因素就不會這麼想;如果認為失敗是跟個人內在因素有關,自尊就會遭受嚴重打擊,而如果歸因於外在因素則不會如此。

-----廣告,請繼續往下閱讀-----

這並不表示,把功勞都歸於自己,把失敗都歸咎於外在環境,就是擁有成功、幸福人生的祕訣。最好的方法是面對現實、做出正確歸因,雖然這樣做可能會造成情緒負荷,但準確分析成敗原因,並找出問題所在,才可能在下一次獲得更好的結果。不過平心而論,在大多數情況下,過度自責確實會造成不良心理後果。正如接下來所要探討的,在擁有無限選擇的世界,人們更容易因為結果不如意而自責。

——本書摘自《選擇的弔詭》,2023 年 11 月,一起來出版,未經同意請勿轉載。

討論功能關閉中。

一起來
2 篇文章 ・ 0 位粉絲