0

0
0

文字

分享

0
0
0

【Gene思書齋】該如何在道德部落間建立對話、凝聚共識?

Gene Ng_96
・2016/03/15 ・4491字 ・閱讀時間約 9 分鐘 ・SR值 581 ・九年級

 

有許多公共議題的辯論,真的很叫人傷透腦筋,例如該廢死嗎?該開放移民嗎?該抽富人重稅作重分配嗎?同性戀婚姻該合法嗎?墮胎該合法嗎?該限制發展來保護環境嗎?鄉民的正義,在這些議題的討論中,常常是不缺席的。就算是理性的討論,正反方都能提出有理的論據,在教育中不太強調思辯的亞洲社會,尤其令人難以抉擇,所以乾脆憑感覺,或者不理會而去小確幸了……

可是問題不會在大家都在小確幸時就自動解決,於是該自暴自棄地說,反正就鬼島嘛!其實,只要一天沒有足夠多的人來公民參考地理性思辯,我們就只能坐等權益被即得利益者一步步地剝削下去,因為愚民,是當權者最愛的奴隷。

可是理性的討論,有多難呢?在太陽花學運期間,因為支持或幹譙的不同立場,就讓我不少朋友,在臉書上狂刪朋友!很多被刪的,還不止是臉友,而是現實中真的認識的人。有些朋友在政治上的立場和我相反,看了火大,也讓我取消追蹤好幾位朋友,據說因為不爽我的立場,取消追蹤我或刪除朋友的,也有十幾人了吧~

有本好書《好人總是自以為是:政治與宗教如何將我們四分五裂》(The Righteous Mind: Why Good People are Divided by Politics and Religion),就是在探討大家對公共議題,為何會爭得面紅耳赤(請參見〈好人真的總是自以為是?〉)。《好人總是自以為是》作者強納森‧海德特(Jonathan Haidt)指出,許多心理學和神經科學的研究顯示,我們的許多道德判斷,是直覺先來,策略推理後到的。

-----廣告,請繼續往下閱讀-----

海德特提出柏拉圖(Πλάτων,約公元前427-前347)、哲斐遜(Thomas Jefferson,1743-1826)和休姆(David Hume,1711-1776)的主張,柏拉圖認為理性是主人,哲斐遜認為理性和感性是平等共治的,休姆認為理性是熱情的僕人。他提出許多研究證據顯示休姆可能才是對的。他把心智比喻作象和騎象人,指出心智好比騎象人(控制式歷程)騎在大象(自動化歷程)上。

騎象人逐步演化為服侍大象。我們的道德判斷有強烈的直覺,理由是事後努力建構的。因為騎象人是服侍大象的,所以他指出,想要在道德和政治議題上說服別人,要先和大象對話。海德特舉出大量的心理學和神經科學研究來說明,為何是直覺先來,策略推理後到。

《好人總是自以為是》是一本給了我許多啟發的好書,我寫書評介紹好書有兩三百本了,有本讓我見到朋友就大力推薦的好書,其實並不多。但是,《好人總是自以為是》是我認為,如果今天只想讀一本嚴肅的書,就讀這一本的好書!

無獨有偶,今年中也有本用心理學、神經科學與道德哲學來談道德的一本書,是哈佛心理學家約書亞‧格林(Joshua Greene)的《道德部落:道德爭議無處不在,該如何建立對話、凝聚共識?》(Moral Tribes: Emotion, Reason, and the Gap Between Us and Them),書中也指出,我們的大腦像是雙模式相機,配有自動模式及手動模式。自動模式指的是我們的道德情感機制,大腦從演化、文化及個人經驗形塑出我們的情感系統,讓我們得以用直覺自動並有效地解決日常事務;思考能力則如同大腦的手動模式,透過理性的運作,我們的想法也更多元、更具彈性。

-----廣告,請繼續往下閱讀-----

《道德部落》 指出,成為社會動物需要自動運作的情感機制,以自我融入社群中,但同樣的情感機制,也將我們變成部落動物,促使我們(Us)對抗非我族類(Them)。我族與他族之間,往往存在相異的價值隔閡,「我們是對的,你們是錯的」,此一信念深植所有人心中,促使我們在面對各種政治議題時,習於對抗非我族類,有時使用語言,有時用肢體暴力,極端份子甚至是用槍炮炸彈,必定要攻擊對方,至死方休。

台灣人對這點應該非常熟悉,泛藍也好,泛綠也好,藍綠的鄉民都只看到和放大對方缺點,對自己人的過失當作不存在,言語甚至肢體霸凌是家當便飯。不是因為台灣人素質低,是因為我們身為人而演化來的情感機制在放肆!

格林在《道德部落》中用東西南北四個部落來作比喻,最常提到的北方和南方部落,就像美國的自由派和保守派。我們大腦的設計,能幫助我們適應部落群體生活,和同我族類合作相處,並對抗非我族類。但現代資訊社會將世界上不同群體全塞進一個共同的空間,尤其是在網路上,這樣前所未有的契機,激化了各群體的價值衝突。

我們人類上百萬年間,絕大部分人天天見到的都是自己認識的人,除了少數宅到爆的人,我們一般上天天都會碰見陌生人,文明社會能夠讓陌生人間不發生衝突甚至協作,仰賴的是許多法律和制度的建立,可是法律和制度要如何讓大部分人滿意呢?當世界愈來愈小,區分不同群體的道德分野愈來愈突出,我們就愈來愈容易困惑。從抗議租稅法規、墮胎、同志婚姻到全球暖化,不同文化背景形成了不同的道德常識。面對不同的道德常識標準,能不能找到所謂的共識?

-----廣告,請繼續往下閱讀-----

格林帶領我們追溯道德的起源,並探索了現代社會價值衝突的現況,他指出我和我群的關係而建立的道德直覺,已經不適合現今的複雜的社會狀況了,當我群和他群同時存在,面對複雜多元的現代社會,並且要共享分配資源時,他主張我們需要手動模式的理性操作,才能超越部落情感, 以設立實用的思考路徑,建立一個適用於全球的道德方案,幫助我們解決分歧問題。

既然我們要放下道德直覺而進入手動模式,那我們應該要如何面對、處理道德爭議呢?格林認為,實效主義(Utilitarianism)是個好方法,因為實效主義的思維模式,就是經過最理性的算計的。

格林,在《道德部落》中,極力為實效主義辯護,實效主義(Utilitarianism),在《好人總是自以為是》中譯作效益論,在別的書中,有時候譯作功利主義。提倡追求「最大幸福」(Maximum Happiness),認為實用即至善的理論,相信決定行為適當與否的標準在於其結果的實用程度。在哈佛政治哲學家桑德爾(Michael Sandel)著名的「正義」課中,他用電車問題來讓學生討論,其中一個是電車剎車失靈,要撞上鐵軌上的五個不知情的工人,另一邊的鐵軌只有一個工人,如果變換軌道犧牲一人來保住五條人命,大家能接受嗎?如果是從天橋上推一胖子下去呢?

實效主義最令人感冒的是功利的算計,而且在看「正義」課程,或讀《正義:一場思辨之旅》(Justice: What’s the Right Thing to Do)時,會有種實效主義被桑德爾駁到的感覺,因為桑德爾舉例說,如果羅馬時代,大家都認為把基督徒丟到競技場去餵獅子老虎會感到快樂,那樣就算道德了嗎?(請參見〈一場思辨之旅的正義〉

-----廣告,請繼續往下閱讀-----

實效主義不僅被那樣批評,《好人總是自以為是》還指出,效益論(就是實效主義)的鼻祖美國哲學家邊沁(Jeremy Bentham,1748-1832)是個亞斯伯格症患者,而開創義務論的德國哲學家康德(Immanuel Kant,1724-1804)終生恪守書齋,海德特認為效益論和義務論都是單一受體型的道德觀,如果把道德比喻作味覺的話。

《好人總是自以為是》的原文出版在《道德部落》之前,後者書中有討論到《好人總是自以為是》,只是在後者中照原文書文直譯作《正義之心》。格林和海德特也曾共同撰寫過一篇評論論文(Greene J, Haidt J. Trends Cogn Sci. 2002 Dec 1;6(12):517-523.)。然而,《道德部落》卻認為實效主義是一種深度的實用主義!格林認為,實效主義其實是被長期誤解和汙名化。例如有人推論出實效主義者會支持奴隸制度,因為奴隸制的益效最大。可是格林指出,會那樣想是完全誤解實效主義,以為財富就等同快樂!可是奴隸制實際上雖然能為主人累積財富,但卻製造出更多不快樂的人,所以這個攻擊是無的放矢!

《道德部落》並非要我們成為一個完全的實效主義者,而是建議我們何時該相信我們的直覺,何時又該理性思考,而什麼樣的思考又能讓我們跨越分歧,向共識邁進。他提出六大原則,首先,在個人生活中,該信任道德直覺,可是在面對我群和他群的道德爭議時,應切換到手動模式!再來,權利不是用來論證的,而是用來結束論證的,當我們達到道德進步時,權利能作為盾牌來保護,但我們永遠不知道哪一項權利比另一項優勢。

接著,格林主張,我們我們該把焦點放在事實上,並要求別人也這麼作!有些政策並沒有必要急著爭論成效,因為連最基本的事實都還沒有。共和黨在九月中的初選辯論,在美國知識份子界引起了軒然大波,因為那些競爭總統候選人寶座的共和黨人,在台上無視事實而畫唬爛的地步,已經是到了幾乎全都是黑白講、練肖話的地步,彷彿他們來自另一個星球!

-----廣告,請繼續往下閱讀-----

《道德部落》和《好人總是自以為是》兩本好書作者,雖然極力探討道德上如何分解分歧和尋求共識,可是在書中都不諱言他們極不認同共和黨,格林大剌剌地表示他是自由派,而海德特雖然認為自己從自由派往中間靠了,也理解了一些保守派的想法,但是仍強調他反對共和黨!再怎麼想在道德上如何分解分歧和尋求共識,都不能容忍邪惡吧?台灣或馬來西亞選出了一個爛人當國家元首,搞砸的是一個國家,可是美國選出了爛人,搞砸的可是全世界啊!

原則四是要當心有偏私的公平,因為我們會有意無意地選擇對自己有利的方式然後宣稱其公平。原則五是運用共通貨幣,簡單來說就是用科學的知識,來尋找最客觀的方案。最後,他提議我們在有餘力的情況下,也要試圖改善他人的生活!

雖然《道德部落》和《好人總是自以為是》的評論差不多,但我個人覺得《道德部落》讀起來的趣味性稍遜《好人總是自以為是》。可是《道德部落》在第十一章花了近半章來討論《好人總是自以為是》,卻讓我拍案叫好!前述提到格林是自由派,他認為海德特主張自由派和保守派該互相理解,但他在關於理性、手動模式在道德心理學上扮演的角色,和海德特的見解相異。他認為即使對手不邪惡,也不見得他們的主張是正確的!他不認同海德特主張自由派道德味覺狹隘,就是不認為自由派在道德上有缺陷。

從《道德部落》中可知,保守派反而才是心胸狹隘的一群人,成天只顧及自己的利益和部落歸屬,無法接受多元的觀點。也就是說,與其說保守派道德味覺較廣,還不如說他們完全接受自己部落的公平、忠誠、權威和神聖,可是不管他群的死活!可是自由派的道德味覺不僅沒有損壞,反而是更精細地包容多元,完全認同我群而排斥他群的保守派,只會在複雜的世界中造成更大的衝突和對立,並無法促成更大的善!我認為,保守派充其量只能達到最大的偽善!

-----廣告,請繼續往下閱讀-----

他也反對自由意志主義,指出深度的實用主義者不會是自由意志主義者,因為他不相信真正的公平是存在的,有些人包括他自己,還有我自己,出生時就因為家庭背景比一些人佔了些優勢!如果不是我父母那麼勤快能幹,我不會有機會在高等教育上比別人更有優勢,所以我也不相信該完全放任,因為有時候跑得比較遠,不是因為跑得比較快,是因為出發點出別人遠!因為怎麼能把一個人的財富多寡完全歸因成是個人的努力而一點一滴都不該捨予?

《道德部落》和《好人總是自以為是》是這個混亂的時代的兩盞明燈!值得所有關心公民議題的朋友花心思好好閱讀思考,咀嚼其中博大精深的細緻精髓!

本文原刊登於閱讀‧最前線【GENE思書軒】,並同步刊登於The Sky of Gene

文章難易度
Gene Ng_96
295 篇文章 ・ 30 位粉絲
來自馬來西亞,畢業於台灣國立清華大學生命科學系學士暨碩士班,以及美國加州大學戴維斯分校(University of California at Davis)遺傳學博士班,從事果蠅演化遺傳學研究。曾於台灣中央研究院生物多樣性研究中心擔任博士後研究員,現任教於國立清華大學分子與細胞生物學研究所,從事鳥類的演化遺傳學、基因體學及演化發育生物學研究。過去曾長期擔任中文科學新聞網站「科景」(Sciscape.org)總編輯,現任台大科教中心CASE特約寫手Readmoo部落格【GENE思書軒】關鍵評論網專欄作家;個人部落格:The Sky of Gene;臉書粉絲頁:GENE思書齋

1

1
1

文字

分享

1
1
1
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3420 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

1
7

文字

分享

0
1
7
擁有「控制感」有助於維持心理健康?無助導致的憂鬱又是怎麼來的?——《選擇的弔詭》
一起來
・2023/12/31 ・3327字 ・閱讀時間約 6 分鐘

習得無助、控制感,以及憂鬱

提過塞利格曼等人發現的「習得無助」現象,他們進行了一系列動物基本學習歷程的實驗,訓練動物跳過柵欄以避開腳下的電擊。動物通常很快就能學會怎麼做,但有一組動物,因為先前經歷過一連串無法躲避的電擊,所以始終都學不會,牠們甚至放棄嘗試,只是待在原地乖乖接受電擊,而從不試著跳過柵欄。研究者的解釋是,當動物遭受自己無法控制的電擊,就會學到不管怎麼做都無濟於事,這樣的習得無助感會轉移到新情境,即使牠們能夠控制這個新情境,還是會放棄嘗試。

塞利格曼深入研究習得無助現象之後,驚訝地發現,這些無助的動物跟憂鬱症患者有許多共同點,尤其是兩者的消極心態,憂鬱症患者有時連「今天要穿什麼衣服」這樣的小事都力不從心。塞利格曼推論,至少有部分憂鬱症患者是因為經歷過一次強烈的失控感,於是開始相信自己對任何事都無能為力,並認為這種無助感會一直持續出現在各種情境。根據塞利格曼的假設,擁有控制感對於心理健康至關重要。

五十多年前,一項研究以三個月大的嬰兒為受試者,凸顯了控制感的重要性。研究者將嬰兒分成兩組,A 組是有控制權的嬰兒,他們躺在嬰兒床上,頭靠著枕頭,床的上方倒掛著一把半透明的傘,裡面用彈簧黏著幾隻動物玩偶,如果嬰兒轉一下頭,傘裡的燈就會亮起,嬰兒就可以看到那些玩偶在「跳舞」,但一會兒燈就熄滅了。當 A 組嬰兒碰巧轉頭,讓傘裡的燈亮起並看到玩偶,他們就會表現出好奇、開心和興奮的樣子,而且很快就學會利用轉頭來控制玩偶的出現,然後一次又一次重複這個動作,看起來一直都很開心。B 組嬰兒則沒有控制權,只有在 A 組轉頭時,他們床上的燈也跟著亮起,才可以「順便」看到玩偶, 所以 B 組看到玩偶的次數和時間都跟 A 組一樣多,但他們只有在一開始表現得跟 A 組一樣開心,然後很快就因為適應而失去興趣。

研究使用玩偶測試後發現嬰兒的快樂似乎源自於「控制感」。圖/envato

研究者從兩組嬰兒的反應差異,得到下列結論:讓嬰兒一直很開心的原因,並不是會跳舞的動物玩偶,而是控制感。A 組嬰兒之所以對著玩偶咯咯笑個不停,是因為他們似乎知道是自己讓這一切發生,「是我幹的好事,很棒吧,而且只要我想要,隨時都可以再來一次」。B 組嬰兒雖然什麼都不用做就可以看到玩偶,但是卻沒有體驗到這種令人興奮的控制感。

-----廣告,請繼續往下閱讀-----

小嬰兒幾乎無法控制任何事物,既不能任意靠近自己想要的東西,也無法離討厭的東西遠遠地。他們無法靈活控制自己的手,所以抓取或操作物品都很吃力。他們還會無預警地被被東戳戳、西捏捏,或是被抱起又放下。小嬰兒的世界就是只能被動讓事情發生在自己身上,任由別人擺佈。或許正是基於這個原因,當他們偶然發現自己可以控制那麼一點小事, 就異常在意和興奮。

另一項研究以生命的另一端——老年人為受試者,也戲劇化地證明了「控制感」對於幸福快樂的重要性。研究者告訴 A 組養老院的住民必須為自己負責、照顧好自己;B 組住民則被告知他們的一切生活起居都由工作人員打理。此外,A 組每天都要決定一些簡單的事,並照顧一盆植物;B 組則沒有任何決定權,他們的植物也由工作人員照顧。結果,A 組老人(對自己的生活有一定的控制權)比 B 組(沒有控制權)更有活力、更靈敏,主觀幸福感也更高。最引人注目的是,A 組的平均壽命比 B 組多好幾年。可見,從出生到死亡,人都需要擁有對生活的掌控權。 

從出生到死亡,人都需要擁有對生活的掌控權。 圖/envato

無助感、憂鬱和歸因風格

塞利格曼的「無助-憂鬱理論」仍然受到質疑,最大的問題是,並非每個失去掌控感的人都會陷入憂鬱。因此,塞利格曼和同事在 1978 年修正了這一理論,並指出在無助感和憂鬱之間,還存在另一個重要的心理歷程。根據修正後的新理論,人在失敗和失去掌控感之後,會問自己為什麼,像是「為什麼他要跟我分手?」「為什麼我被刷下來?」「為什麼我沒有談成那筆生意?」「為什麼我的成績這麼爛?」。換句話說,人會尋找失敗的原因。

塞利格曼等人認為,人對事情的解釋——即歸因風格(attributional style)大致有兩種,每種風格都傾向接受特定類型的原因,而這些原因不一定跟實際情形有關。根據歸因風格的特性,造成失敗的原因可以分成三個向度:全面或特定、長期或短暫、內在或外在。

-----廣告,請繼續往下閱讀-----

假設你去應徵一份行銷業務的職缺,卻沒被錄取,你在分析自己為什麼會失敗時,下面是一些可能的原因: 

全面:我的自傳和履歷都寫得不好,面試時又很緊張,看來不管找什麼工作都不會被錄取了。

特定:我對那家公司的產品類型不太了解,我得多做一些功課,面試時才能脫穎而出。

長期:我的個性不是很主動積極,也無法擔負責任,這份工作根本不適合我。

短暫:我最近感冒,好幾天沒睡好,面試時狀態不佳。

內在:原本應該可以順利得到這份工作,是我自己搞砸了。

-----廣告,請繼續往下閱讀-----

外在:他們應該早就內定好了,找人去面試只是做做樣子,大家都是去陪榜的。

如果你用特定、短暫、外在因素去解釋自己為何沒被錄取,那麼你對下次找工作的預期會是什麼?你也許會想:如果去應徵自己熟悉的領域,並且保持睡眠充足,自己也更主動機靈一點,而且面試沒有黑箱作業,一切就會很順利。換句話說,這次的失敗經驗不太會影響下次找工作的表現。

反之,假設你用全面、長期、內在角度看待自己的失敗,認為自己的履歷毫不起眼, 面試時老是緊張得說不出話,而且個性太被動,別人都比自己更適合這份工作,那麼你預期的未來就會黯淡無光,你不但沒得到這份工作,接下來要找任何工作都會很困難。

修正後的「無助-憂鬱理論」認為,如果用全面、長期、內在因素去解釋失敗,那麼由失敗或失去掌控所引發的無助感才會導致憂鬱,因為在這種情況下,人有充分理由預期自己將不斷遭遇失敗。既然註定會失敗,那麼每天起床、換好衣服,繼續應徵下一份工作又有什麼意義? 

如果用全面、長期、內在因素去解釋失敗,人有充分理由預期自己將不斷遭遇失敗,那麼由失敗或失去掌控所引發的無助感會導致憂鬱。圖/envato

對上述理論的檢驗已得到令人矚目的結果。人確實會表現出不同的歸因風格,「樂觀者」會將自己的成功解釋為全面、長期、內在因素所致,而認為失敗是由特定、短暫、外在因素造成。「悲觀者」則恰好相反。如果兩個人得到同樣的分數,樂觀者會說「我得了 A」 或「她給我成績打 C」,悲觀者卻說「她給我打 A」或「我得了 C」,因此悲觀者更可能陷入憂鬱。此外,從一個人的歸因風格也可以預測他未來遭受失敗時是否會憂鬱。如果認為失敗的原因是全面性的,就會預期自己在其他生活領域也會遭遇失敗,而如果歸因於特定因素則不會這麼想;如果認為失敗的原因是長期性的,就會預期失敗將一直發生,而如果歸因於短暫因素就不會這麼想;如果認為失敗是跟個人內在因素有關,自尊就會遭受嚴重打擊,而如果歸因於外在因素則不會如此。

-----廣告,請繼續往下閱讀-----

這並不表示,把功勞都歸於自己,把失敗都歸咎於外在環境,就是擁有成功、幸福人生的祕訣。最好的方法是面對現實、做出正確歸因,雖然這樣做可能會造成情緒負荷,但準確分析成敗原因,並找出問題所在,才可能在下一次獲得更好的結果。不過平心而論,在大多數情況下,過度自責確實會造成不良心理後果。正如接下來所要探討的,在擁有無限選擇的世界,人們更容易因為結果不如意而自責。

——本書摘自《選擇的弔詭》,2023 年 11 月,一起來出版,未經同意請勿轉載。

討論功能關閉中。

一起來
2 篇文章 ・ 0 位粉絲

1

4
1

文字

分享

1
4
1
【從中國經典認識大腦系列】從「子非魚,安知魚之樂?」淺談主觀意識的本質
YTC_96
・2023/10/18 ・3086字 ・閱讀時間約 6 分鐘

宋劉寀群魚戲荇。圖/npm.edu.tw

惠施觀點:人不能知道魚的快樂

「子非魚,安知魚之樂?」出自《莊子.秋水》篇中的濠梁之辯。惠施認為莊子不是魚,又怎麼能知道魚是快樂的?這看似簡單的一句話卻點出困擾哲學家以及科學家數百年之久的問題,那就是主觀意識到底是什麼?

圖/Pixabay

濠梁之辯的情境是這樣子的。莊子和惠施同遊至濠水的橋梁。莊子說:「鯈魚出遊時很從容,這就是魚的快樂啊。」惠施說:「你不是魚,怎麼知道魚的快樂?」莊子回答說:「你不是我,怎麼知道我不知道魚的快樂?」惠施說:「我不是你,當然不知道你的想法,而你當然也不是魚,所以你不知道魚的快樂,這完全是可以肯定的。」莊子說:「請回到開頭的話題。你問我『你怎麼知道魚的樂趣?』既然你已經知道我知道,並且問我,那我就是在濠梁上知道的。」

既然莊子認為自己能知道魚的快樂,那我也想問莊子,你知道成為一隻魚又是怎麼樣的感覺嗎?

圖/YouTube

成為一隻蝙蝠可能是什麼樣子

在濠梁之辯後的兩千多年,美國著名哲學家湯瑪斯.內格爾(Thomas Nagel)也從想像自己是蝙蝠(注意不是小小鳥)的過程中獲得靈感,並在 1974 年發表了〈成為一隻蝙蝠可能是什麼樣子〉(What is it like to be a bat?)。他認為主觀經驗無法透過客觀描述來獲得,是心靈與物理之間的解釋鴻溝(Explanatory Gap)。簡單來說,就算我們知道蝙蝠是透過聲納來感知並飛行在空中,但因為我們不是真正的身歷其境成為一隻蝙蝠,我們還是無法知道作為蝙蝠是什麼樣的感覺。

-----廣告,請繼續往下閱讀-----
圖/YouTube

這種主觀經驗,哲學上稱作感質(Qualia),是指主觀意識經驗的特殊品質或性質。它們是個人直接體驗的主觀感受,無法通過客觀描述或第三人稱觀察來完全理解或解釋。感質是一種主觀的、非物理的屬性,無法被完全捕捉或解釋。它們涉及到我們感知世界的方式、感受事物的質感、觸覺、視覺、聽覺、嗅覺等等。

舉例來說,如果你試圖向另一個人解釋一朵玫瑰的芬芳,或者試圖描述一個人的愉快感受,這些主觀感受都屬於感質。它們是我們內心獨有的體驗,無法被他人直接體驗或理解。

另一個哲學家們喜歡舉的例子是「你和我看到的紅色是一樣的嗎?」這或許聽起來是一個很蠢的問題,因為當紅色物品擺在眼前,非色盲或沒有眼疾的一般人都能異口同聲說出該顏色。透過醫學研究,我們也都知道波長約 700 nm 的紅色光刺激到視網膜的錐細胞是我們大家都能看到紅色的原因。

不過,雖然紅色光能刺激每個人相同的視網膜錐細胞是不變的客觀物理事實,但沒有人能保證你和我主觀感受到的紅色是相同的,就像是幾年前網路爆紅的藍黑白金裙 (The Dress)(圖一),即使是同一條裙子的照片,有人說是藍黑裙,卻有人說是白金裙。這也說明看似客觀的色彩,也存在有主觀性。

-----廣告,請繼續往下閱讀-----
圖一、藍黑裙?白金裙?都幾咧。圖/The dress – Wikipedia

人類或許能想象自己作為一隻蝙蝠使用聲納來飛行導航,又或是把自己像蝙蝠般倒掛休息,但這和成為一隻真正蝙蝠的感受還是不同的。

感質可能埋藏在複雜的神經網路中

莊子和惠施的辯論背後探討了意識的本質,也引發人們對於知覺和主觀體驗的一種思考。即使經過數千年的探索,「意識究竟是怎麼產生的?」仍是一個深奧而又複雜的問題,也是所謂的「意識的困難問題(Hard Problem of Consciousness)」。從哲學角度,感質無法透過描述去感受,但從科學上來說,我們無法否認大腦是產生主觀感受的關鍵,這也讓神經科學家們好奇是否能找到感質的神經機制。

英國巴斯大學疼痛研究中心的教授羅傑奥普伍德(Roger Orpwood) 多年來進行感質的理論研究,他認為感質是局部大腦皮質網路訊息處理的結果。這個網路能轉換訊息結構(Information Structure; 訊息在大腦中的物理表現,主要是動作電位的模式)和訊息資訊(Information Message; 感質的基礎)(圖二)。當輸入的訊息結構被網路辨識,而產生訊息資訊,這網絡還可以輸出一個訊息資訊的表徵並進行下一個傳遞與轉換(Structure → Message → Structure → Message…)(圖三)。舉例來說,臭雞蛋的硫化氫(H2S)氣味感質是透過一層一層的網路後產生。 當鼻腔吸入硫化氫氣味分子後,嗅覺系統的訊息結構通過嗅覺神經束傳遞到嗅覺皮質網絡。而傳遞的訊息所獲得的資訊都建立在前一個資訊的基礎上。這資訊從硫化氫的第一階段的辨識內在身份(Inner Identiy),演變為硫化氫的內在形式(Inner Form),到發展成硫化氫的意象(Inner Likeness or Image),也就是硫化氫的感質體驗(圖四)。

知名美國神經科學家,研究意識神經機制多年的克里斯托夫.科赫(Christof Koch),也認為意識不是來自個別大腦區域,而是來自區域內和區域間高度網絡化的神經元。意識相關的神經區域(Neural Correlates of Consciousness (NCC))概念的興起,也希望透過實驗研究的方式來找到產生意識的最小神經集合,並了解哪些大腦的區域是產生意識所不可或缺的。

-----廣告,請繼續往下閱讀-----
圖二、當我們看到藍色後,大腦透過訊息結構的模式傳送到視覺皮層 V4 區域。對大腦來說,這就是一種訊息資訊,是我們主觀上看到的「藍色」。圖/frontiersin.org
圖三、網絡或神經元集合中的​​基本訊息處理。輸出訊息結構從被辨識的訊息資訊從輸入訊息結構中形成。訊息(Information)從結構(Structure)到資訊(Message),再到結構。圖/frontiersin.org
圖四、嗅覺感質的產生示意圖。圖/frontiersin.org

結論

莊子和惠施辯論河中的鯈魚是否快樂,以及雙方怎麼知道魚是否快樂,很有趣的帶到了哲學以及神經科學重要的議題。意識到底是什麼?我們能否知道其他人又是其他物種的真正主觀感受?

圖/Pixabay

感質是意識研究中的一個重要議題,它引發了關於意識本質和主觀體驗的哲學和科學辯論。有些人認為感質是生物或腦部運作的結果,而另一些人認為它們是超出物理過程的主觀現象。不論如何,未來仍需要更多的研究來了解意識產生的機制。

參考資料

所有討論 1
YTC_96
11 篇文章 ・ 18 位粉絲
從大學部到博士班,在神經科學界打滾超過十年,研究過果蠅、小鼠以及大鼠。在美國取得神經科學博士學位之後,決定先沉澱思考未來的下一步。現在於加勒比海擔任志工進行精神健康知識以及大腦科學教育推廣。有任何問題,歡迎來信討論 ytc329@gmail.com。