1

0
0

文字

分享

1
0
0

舉世爭議的「電車難題」是戲弄人的詭辯?

王陽翎(于非)
・2014/09/23 ・2454字 ・閱讀時間約 5 分鐘 ・SR值 613 ・十年級

-----廣告,請繼續往下閱讀-----

Credit: Patrick Franzis via Flickr
Credit: Patrick Franzis via Flickr

香港跟台灣社會最大的分別,在於香港人不熱衷討論思想與價值問題,然而受益於近年哈佛大學政治哲學教授邁克爾.桑德爾(Michael J. Sandel)就道德論題的公開講學,使我在逛書店時或網上討論也碰到人們談起「道德兩難」(Moral Dilemmas)的抉擇,尤其那經典的 — 電車難題(Trolley problem)。[1]可是,我們被這道「假」的道德兩難戲弄太久,那暗含的詭辯浪費了許多時間。

一條戲弄人的經典問題

事實上,電車難題最終廣為人知,卻是由於哈佛大學的另一位教授,心理學家馬克.豪塞(Marc Hauser)曾對三十萬人重新提出這經典問題[2]:

設想你眼前有列失控的電車,以時速六十英里迎面衝來,你卻看到電車不遠的前方分別有五個鐵路工人,以及一個鐵路工人在兩條軌道上專心工作,將來不及逃離險境。

正好在你的面前是可以令電車轉轍軌道的控桿,如果你不操控轉轍軌道,便即有五位工人被撞死,假如你及時轉轍,便有一個工人被撞死;面對這個緊急情況,你將如何抉擇?

 

許多對道德議題敏感的人,面對這樣的難題也不知所措,甚至有朋友跟我說,轉轍軌道要自己親手碰上那控桿,即使只有一人撞死,是我親手促成他的死亡,但如果我不碰,那失控的電車撞死五人也不是我的責任﹗

也有些人變相支持了這一觀點,他們最掙扎之處,是決定生命存亡的價值,怎可以單憑數量來衡量哩﹗於是,他們也認為選擇轉軌撞死一人的朋友,根本就是徹頭徹尾的功利主義者﹗但是,實情真是這樣嗎?

-----廣告,請繼續往下閱讀-----

根本不存在「兩難」﹗

首先我們要將問題除去一些旁枝末節,無論你碰不碰那控桿,依然是一個選擇,等於是「選擇去碰」或是「選擇不去碰」的問題,而後果是人人都知道究竟是一人還是五人死亡的直接結果。不錯,那列失控的電車撞死工人的悲劇不是你所促成的,可是你同樣是無法避免地置身其中,並需要進行抉擇,不可能因為你刻意不碰那控桿,就等於取消了承擔選擇的責任,這顯然是一種詭辯。

其二,一些朋友本來接近了難題的核心,卻沒有再思考下去。的確,假如被迫要去選擇人的生死,怎能僅僅以數量來衡量呢?而且,兩條軌道不過合共六人,不過,這正是電車難題最艱難與最淺白的關鍵之處:

你根本無法從這六人的價值作出判斷/抉擇。

電車難題設置過於空洞,基本上取消了「兩難」的困境,涉及如此少量的生命,在你抉擇前,沒有任何更多的內容加以考量。於是令原本可無須以量化作為考慮的問題,被扭曲成只能選擇一人撞死的定局,這也是如此設問底下,「唯一」沒有違反道德的抉擇。

-----廣告,請繼續往下閱讀-----
Credit: Simon via Flickr
Credit: Simon via Flickr

你根本沒想過撞死「誰」

我們看看德國哲學家理察.大衛.普列希特(Richard David Precht)如何將這問題發揚光大。他把握機會在德國四處訪問人對電車難題如何抉擇,發現四分之三的德國人都會轉轍軌道,選擇撞死一個人。接著,他相當「鬼馬」地調整設問,問人們如果那站在軌道的一人是你的子女呢?

結果,「沒有任何受訪者」會選擇令電車轉軌,寧願去犧牲那五個工人。問題的關鍵,並不在於人們回答調整後的難題是否違反道德,而是點出了電車難題最弔詭的地方:只要輕輕把軌道上的幾個人填上生命內容,例如子女、某國總統、殺人犯、情人、某市長候選人等等,選擇的困難便翻天覆地改變。[3]

所以,桑德爾在課堂引用電車的第一重設問,旨在觸發思考,問題並不屬於「道德兩難」。反而,到了第二重設問:如果我們站在天橋上,只要將眼前那位旁觀意外的胖子推下去,觸碰控桿轉軌便能「殺一救五」,你將如何抉擇?兩難的本質立即呈現,因為你選擇令胖子死亡,不同於那逼於無奈身陷險境的鐵路工人,胖子本來就跟你一樣,是事件中的「旁觀者」,而且「身型肥胖」增添了一種意味,好像我們將他當成工具,因為他胖,所以活該被犧牲救人。

可見,涉及生命數量極少的道德抉擇,除了具體的道德情境外,也必須了解生命對象的內容進行道德判斷,假如我們對對象一無所知,不過就是抉擇 「ABCDEF君」的生死,變成了抽象的數字遊戲,毫無「兩難」可言。

-----廣告,請繼續往下閱讀-----

演化直覺陰魂不散

然而更有趣的是,回到普列希特作出的回答,他發現只要將電車軌道上的受害者,轉換成自己的親人,便成了理性思考的強烈阻礙。人們必定認為自己的親人比更多的生命來得重要,甚至比任何人都重要,猶如筆者在《從亂倫、凌虐、搭訕看道德直覺》一文提及海特教授(Jonathan Haidt)的「道德直覺」研究。或許,正如演化心理學家艾卡.佛蘭(Eckart Voland)所言:「圈子裡的人和外人的道德是有差別的。它在結構上總是雙重道德的」。

的確,那些研究演化如何影響人類道德直覺的學者們,曾訂立過一張道德模組清單,他們認為人類長年的演化形成了強烈的直覺反射,干預了我們的行為抉擇,而且有普世性,這五大模組包括:互惠行為、苦難、階級、內團體與外團體聯盟、純淨。[4]

其中,所謂「內團體與外團聯盟模組」,簡單來說就是「親疏有別」,原始社會最直接的團體,首要是「親屬」,除了遺傳因素以外,視為親屬的群體長年居住一起,形成互相照顧、聯繫、忠誠的團體,當然,也可以不斷延伸開去,以膚色、打扮、嗜好等分成不同的親疏團體。這類二分思維雖然簡陋,迅速將對象分成「內外、敵我」範圍,但面對遠古的原始競爭,卻非常好用,有利生存,極快決定誰人可以信任和合作,誰人應該攻擊或戒懼,向誰分配有限的資源等等。

筆者並非藉解答思考難題,暗示我們進行道德抉擇時,「只需」考慮演化而來的直覺感受,也並非說「親疏有別」在生活上有何嚴重道德問題,卻是希望帶出一些經典的思考難題背後,涉及許多潛藏的人性規律。如此,人們判斷時往往不是基於純粹理性,也不易化成抽象概念加以推理,幾乎無可避免地混入諸般錯覺、直覺底下作出判斷,假如過於高估自我的理性客觀程度,不但自欺欺人,更無助提升生活上理智的程度。

-----廣告,請繼續往下閱讀-----

參考資料:

  1. 《正義:一場思辨之旅》之電車問題 (雙語字幕)
  2. Trolley problem. wikipedia
  3. 理察.大衛.普列希特(Richard David Precht)著:《無私的藝術—為什麼我們樂於為善?阻止為善的又是什麼?》,臺北市:啟示出版,2010年,p.246 – p.248。
  4. The Social Intuitionist Model of Moral Judgement SIM. [November 23, 2009]
文章難易度
所有討論 1
王陽翎(于非)
15 篇文章 ・ 4 位粉絲
《經濟日報》特約作者、《謎米香港》節目主持人; 鍾情心理學、神經科學,不失人文藝術濃情,無懼世道喧囂煩雜,走自己的路。

0

8
2

文字

分享

0
8
2
快!還要更快!讓國家級地震警報更好用的「都會區強震預警精進計畫」
鳥苷三磷酸 (PanSci Promo)_96
・2024/01/21 ・2584字 ・閱讀時間約 5 分鐘

本文由 交通部中央氣象署 委託,泛科學企劃執行。

  • 文/陳儀珈

從地震儀感應到地震的震動,到我們的手機響起國家級警報,大約需要多少時間?

臺灣從 1991 年開始大量增建地震測站;1999 年臺灣爆發了 921 大地震,當時的地震速報系統約在震後 102 秒完成地震定位;2014 年正式對公眾推播強震即時警報;到了 2020 年 4 月,隨著技術不斷革新,當時交通部中央氣象局地震測報中心(以下簡稱為地震中心)僅需 10 秒,就可以發出地震預警訊息!

然而,地震中心並未因此而自滿,而是持續擴建地震觀測網,開發新技術。近年來,地震中心執行前瞻基礎建設 2.0「都會區強震預警精進計畫」,預計讓臺灣的地震預警系統邁入下一個新紀元!

-----廣告,請繼續往下閱讀-----

連上網路吧!用建設與技術,換取獲得地震資料的時間

「都會區強震預警精進計畫」起源於「民生公共物聯網數據應用及產業開展計畫」,該計畫致力於跨部會、跨單位合作,由 11 個執行單位共同策畫,致力於優化我國環境與防災治理,並建置資料開放平台。

看到這裡,或許你還沒反應過來地震預警系統跟物聯網(Internet of Things,IoT)有什麼關係,嘿嘿,那可大有關係啦!

當我們將各種實體物品透過網路連結起來,建立彼此與裝置的通訊後,成為了所謂的物聯網。在我國的地震預警系統中,即是透過將地震儀的資料即時傳輸到聯網系統,並進行運算,實現了對地震活動的即時監測和預警。

地震中心在臺灣架設了 700 多個強震監測站,但能夠和地震中心即時連線的,只有其中 500 個,藉由這項計畫,地震中心將致力增加可連線的強震監測站數量,並優化原有強震監測站的聯網品質。

-----廣告,請繼續往下閱讀-----

在地震中心的評估中,可以連線的強震監測站大約可在 113 年時,從原有的 500 個增加至 600 個,並且更新現有監測站的軟體與硬體設備,藉此提升地震預警系統的效能。

由此可知,倘若地震儀沒有了聯網的功能,我們也形同完全失去了地震預警系統的一切。

把地震儀放到井下後,有什麼好處?

除了加強地震儀的聯網功能外,把地震儀「放到地下」,也是提升地震預警系統效能的關鍵做法。

為什麼要把地震儀放到地底下?用日常生活來比喻的話,就像是買屋子時,要選擇鬧中取靜的社區,才不會讓吵雜的環境影響自己在房間聆聽優美的音樂;看星星時,要選擇光害比較不嚴重的山區,才能看清楚一閃又一閃的美麗星空。

-----廣告,請繼續往下閱讀-----

地表有太多、太多的環境雜訊了,因此當地震儀被安裝在地表時,想要從混亂的「噪音」之中找出關鍵的地震波,就像是在搖滾演唱會裡聽電話一樣困難,無論是電腦或研究人員,都需要花費比較多的時間,才能判讀來自地震的波形。

這些環境雜訊都是從哪裡來的?基本上,只要是你想得到的人為震動,對地震儀來說,都有可能是「噪音」!

當地震儀靠近工地或馬路時,一輛輛大卡車框啷、框啷地經過測站,是噪音;大稻埕夏日節放起絢麗的煙火,隨著煙花在天空上一個一個的炸開,也是噪音;台北捷運行經軌道的摩擦與震動,那也是噪音;有好奇的路人經過測站,推了推踢了下測站時,那也是不可忽視的噪音。

因此,井下地震儀(Borehole seismometer)的主要目的,就是盡量讓地震儀「遠離塵囂」,記錄到更清楚、雜訊更少的地震波!​無論是微震、強震,還是來自遠方的地震,井下地震儀都能提供遠比地表地震儀更高品質的訊號。

-----廣告,請繼續往下閱讀-----

地震中心於 2008 年展開建置井下地震儀觀測站的行動,根據不同測站底下的地質條件,​將井下地震儀放置在深達 30~500 公尺的乾井深處。​除了地震儀外,站房內也會備有資料收錄器、網路傳輸設備、不斷電設備與電池,讓測站可以儲存、傳送資料。

既然井下地震儀這麼強大,為什麼無法大規模建造測站呢?簡單來說,這一切可以歸咎於技術和成本問題。

安裝井下地震儀需要鑽井,然而鑽井的深度、難度均會提高時間、技術與金錢成本,因此,即使井下地震儀的訊號再好,若非有國家建設計畫的支援,也難以大量建置。

人口聚集,震災好嚴重?建立「客製化」的地震預警系統!

臺灣人口主要聚集於西半部,然而此區的震源深度較淺,再加上密集的人口與建築,容易造成相當重大的災害。

-----廣告,請繼續往下閱讀-----

許多都會區的建築老舊且密集,當屋齡超過 50 歲時,它很有可能是在沒有耐震規範的背景下建造而成的的,若是超過 25 年左右的房屋,也有可能不符合最新的耐震規範,並未具備現今標準下足夠的耐震能力。 

延伸閱讀:

在地震界有句名言「地震不會殺人,但建築物會」,因此,若建築物的結構不符合地震規範,地震發生時,在同一面積下越密集的老屋,有可能造成越多的傷亡。

因此,對於發生在都會區的直下型地震,預警時間的要求更高,需求也更迫切。

-----廣告,請繼續往下閱讀-----

地震中心著手於人口密集之都會區開發「客製化」的強震預警系統,目標針對都會區直下型淺層地震,可以在「震後 7 秒內」發布地震警報,將地震預警盲區縮小為 25 公里。

111 年起,地震中心已先後完成大臺北地區、桃園市客製化作業模組,並開始上線測試,當前正致力於臺南市的模組,未來的目標為高雄市與臺中市。

永不停歇的防災宣導行動、地震預警技術研發

地震預警系統僅能在地震來臨時警示民眾避難,無法主動保護民眾的生命安全,若人民沒有搭配正確的防震防災觀念,即使地震警報再快,也無法達到有效的防災效果。

因此除了不斷革新地震預警系統的技術,地震中心也積極投入於地震的宣導活動和教育管道,經營 Facebook 粉絲專頁「報地震 – 中央氣象署」、跨部會舉辦《地震島大冒險》特展、《震守家園 — 民生公共物聯網主題展》,讓民眾了解正確的避難行為與應變作為,充分發揮地震警報的效果。

-----廣告,請繼續往下閱讀-----

此外,雖然地震中心預計於 114 年將都會區的預警費時縮減為 7 秒,研發新技術的腳步不會停止;未來,他們將應用 AI 技術,持續強化地震預警系統的效能,降低地震對臺灣人民的威脅程度,保障你我生命財產安全。

文章難易度

討論功能關閉中。

鳥苷三磷酸 (PanSci Promo)_96
195 篇文章 ・ 299 位粉絲
充滿能量的泛科學品牌合作帳號!相關行銷合作請洽:contact@pansci.asia

0

0
0

文字

分享

0
0
0
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

研之有物│中央研究院_96
293 篇文章 ・ 3331 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

3
3

文字

分享

0
3
3
為什麼「電車難題」那麼難?因為我們同時擁有理性與感性的心!——《欲望分子多巴胺》
臉譜出版_96
・2023/02/04 ・2336字 ・閱讀時間約 4 分鐘

法蘭克.赫伯特(Frank Herbert)的科幻小說經典《沙丘》(Dune)裡面有一段情節,是要看看主角能不能抑制當下的動物本能,證明自己是人。

老婦人要主角把手伸進黑盒子裡,承受難以想像的痛苦,同時拿一根毒針抵著主角的脖子,如果主角把手抽出來,就刺下毒針結束他的生命。老婦人說:「你知道動物落入陷阱的時候,會咬斷自己的腿逃走吧?但只有動物才會這麼做。人類會待在陷阱裡,忍痛裝死,這樣才能殺死設下陷阱的人,從此消滅族人的威脅。」

能不能抑制住當下的動物本能,證明自己是人?/YouTube

決定情緒表現

某些人天生就比較會壓抑情緒,部分原因,就是每個人的多巴胺受體密度和性質未必相同。

多巴胺受體決定多巴胺分泌的時候,大腦會有怎樣的改變,它跟每個人的基因有關。研究人員測量受試者腦中的多巴胺受體密度(包括受體的數量有多少,以及排列得多緊密),比較受體密度與「情緒疏離程度」(emotional detachment)之間的關係。

-----廣告,請繼續往下閱讀-----

科學家用受試者有多麼願意分享個人資訊、有多麼願意與他人交往,來測量每個人的疏離程度。結果發現,多巴胺的受體密度,與受試者的情緒疏離程度呈正相關。受體密度高的人,情緒也比較疏離。另一項研究中,疏離程度得分最高的人,認為自己「冷漠、孤傲、容易記恨」;疏離程度最低的人,則認為自己「太愛照顧別人,容易被利用」。

情緒的展現與多巴胺受體密度有關。圖/Envato Elements

人們的「疏離程度」大部分介於中間,既不冷漠,也不會天天想要照顧別人,而是依環境決定會怎麼做。當目標在我們身邊,近距離直接接觸,或者當我們關注當下,我們腦中的「當下分子」迴路就會啟動,讓我們變得溫暖而重感情。

但當目標遠在天邊,當下看不到摸不到,或者當我們進行抽象思考或關注未來,腦中的理性層面就會浮現,讓我們變得不近人情。倫理學的「電車問題」,就清楚顯示這兩種思維都在我們腦中:

失控的列車沿著軌道衝向五名勞工,如果什麼都不做,他們必死無疑。不過軌道旁邊剛好有個路人,只要把他推到軌道上讓列車撞死,列車就會減速,五個勞工就能及時逃脫。是你的話,會把路人推下去嗎?

在這種敘述情境中,大部分的受試者都無法把路人推到軌道上,他們會說即使是為了拯救五個人,也無法親手殺死一個人。他們因為腦中的「當下分子」而產生同理心,壓過多巴胺的理性計算。

-----廣告,請繼續往下閱讀-----

故事敘述的方式,讓受試者覺得路人就在自己身邊,把他推下軌道的感覺會留在手上;這時候,「當下分子」就會大量分泌,除了最疏離的人以外,幾乎都無法下手推人。

面對失控的列車,你會如何選擇?圖/Envato Elements

離得夠遠,就殺得下手

不過既然五官感受得到的周圍區域,最容易受到當下分子的影響,那麼如果逐漸遠離現場,當下分子是不是就沒那麼能夠影響決策?當我們離自己得殺的人愈來愈遠,當我們從當下分子掌控的周圍區域,退到多巴胺掌控的外界區域,我們是不是就更願意,或者說更能夠用一個人的性命來交換五個人的性命?

我們可以先從消除身體接觸開始。假設你站在一段距離之外,手裡握著一個軌道開關;電車正衝向五個人,但你只要扳動開關,電車就會駛向另一個軌道,撞死一個人。這時候,你會扳動開關嗎?

接下來請退得更遠。你坐在辦公桌前,控制全國火車的行駛路線。忽然電話鈴聲大作,幾千公里外的鐵路工人說列車失控,即將撞上五個人;你只要按下手邊的開關,就可以切換軌道,但會讓電車撞死一個人。這時候你會按嗎?

-----廣告,請繼續往下閱讀-----

最後我們來到最抽象的情境,一個「當下分子」幾乎無從作用,幾乎只剩下多巴胺的情境:你是鐵路系統工程師,正在設計各種緊急應變方案。你在鐵軌旁邊安裝了攝影機,可以即時蒐集鐵軌上的資訊;而且寫出了一個程式,可以根據當下的狀況即時切換列車軌道。你會讓這個程式在未來遇到電車問題的時候,犧牲一個人去拯救五個人嗎?

你會為了救五人,犧牲一人性命嗎?圖/維基百科

這幾個敘述方式差異很大,但結果其實都一樣:
如果要拯救五個人就得殺掉一個人,如果不想殺人就得放五個人去死。

但不同的場景引發的反應卻不相同,很少人願意親手把人推到鐵軌上;但絕大多數的人都毫不猶豫地讓程式切換鐵軌,盡量減少死亡人數。這就好像我們腦中住著兩顆完全不同的心,其中一顆心只根據理性來判斷;另一顆心則很重感情,即使知道對大局不利,也無法下手殺人。

理性的心只在乎能活下來的人愈多愈好,感性的心卻同時在意其他事情。

多巴胺迴路的活躍程度,大幅影響了我們偏向哪一顆心。

——本文摘自《欲望分子多巴胺:帶來墮落與貪婪、同時激發創意和衝動的賀爾蒙,如何支配人類的情緒、行為及命運》,2023 年 1 月,臉譜出版,未經同意請勿轉載。

-----廣告,請繼續往下閱讀-----
臉譜出版_96
84 篇文章 ・ 254 位粉絲
臉譜出版有著多種樣貌—商業。文學。人文。科普。藝術。生活。希望每個人都能找到他要的書,每本書都能找到讀它的人,讀書可以僅是一種樂趣,甚或一個最尋常的生活習慣。