動物的道德與正義! Frans de Waal: Moral behavior in animals

苦難與同理心：能激發出援助還是自我關注？

縱貫全文，我們持續主張，苦難演化得十分凸顯、讓我們不能不關注，而且它還得以在子代照護背景脈絡中激發行動。利他反應模型的這項原則，似乎與巴特森（Daniel Batson）和讓．德塞蒂（Jean Decety）以及其他人的普遍觀點互相衝突，後者主張苦難會阻礙援助。

根據同理心──利他行為假設，人們在感到溫暖、柔情、冷靜、關切和慈悲時，會專注關心他人的需求，並提供無私的援助；相反，當發愁、憂心、痛苦、不安和沮喪時，他們就會專注關切自己的需求，並只有在自己的苦難減輕時，才會提供幫助。舉個例子，當實驗室中的學生目睹某人受到痛苦的電擊時，表示感受同理心的觀察者，即便可以離開，也都會伸援，至於感到個人苦難的人，則較少提供幫助，除非他們被迫留下並繼續觀看痛苦的電擊。因此，人們有能力出於無私的原因提供幫助，但可以出於自私的動機行事，以緩解自己的苦難。

我們自己的研究有時確實會披露很棘手的苦難。例如，我們往往會複製出巴特森的發現，遭逢苦難的受害者有可能觸動觀察者的同理心以及負面反應。當人們觀看我們最悲苦醫院患者的錄影時，一部分參與者甚至還表示他們感到驚恐（亦即忐忑、憤怒、驚恐）。這種高度負面的反應還更加引人注目，因為參與者知道，這些是真正的重症病人或末期患者。

因此，當他人表達的苦難會引發多餘的、會感染的負面感受之時，嫌惡反應也就可能因此發生──特別當他們的問題看來很沒有道理或者難以解決。（舉例來說，一位護理師表示，「嗯，對這個問題她打算怎麼辦？」）不過還不算滿盤皆輸，因為比起對快樂的患者，一般人對苦難的患者會看出更多需求、感受更多同理心，並提供更多幫助。不過這種慷慨精神是有侷限的。

例如，倘若參與者必須坐下來陪伴患者，而不是只給他們幾塊錢並不做社交接觸，那麼他們就會提高協助快樂患者的相對偏好度。所以，即便苦難肯定帶來嫌惡的知覺和感受，它仍能成功傳達需求並激發反應，而這也正符合它的設計功能。

倘若我們思忖，在任意給定的情境中，利他反應模型的種種屬性如何權衡取捨，也就能預測這類複雜的關係。舉例來說，飛機上有小寶寶啼哭時，人們就會抱怨。這似乎自相矛盾，因為，我們理當演化來幫助那些身處苦難的寶寶。

啼哭的力量：無助者需求與觀察者情緒的博弈

然而，這種惱怒和模型相符，因為那些寶寶並不是其他乘客熟悉的或有感情紐帶的對象，他們多數人都相隔太遠，不會陶醉於寶寶的可愛模樣，也不知道是哪裡出了問題，所以幫不上忙。因此「飛機上有小寶寶啼哭」經典案例自然會惹人苦惱──這就證明了聲音很凸顯，激使我們去讓它平息──然而我們沒辦法產生同理心，也幫不上忙，因為欠缺界定親代照護的感情紐帶、熟悉度、專門知識和掌控權，況且社會規範告訴我們，不要去碰陌生人的寶寶，進一步約束自身的舉止。

碰到兒童虐待一類狀況時，這種衝突就變得更嚴重了，這時照護者會抽身或甚至攻擊、傷害他們應該保護的兒童。根據研究，由於苦難是如此明顯、有激勵性，而且不容忽視，於是當苦難或啼哭接連持續了好幾個小時或好幾天時，人們也就會變得非常煩躁，特別當沒有明確的解決方案之時（好比，由於寶寶罹患腹絞痛）。

人們必須接受培訓，並在這種情況下獲得支持而非遭受懲罰；他們應該能夠讓自己置身激烈情境之外，好讓自己冷靜下來，而且我們需要提供幫助，好讓照護者能夠休息片刻。釀成這種情況的起因，是由於人類演化出的本性是在相互支持的社會性團體生活中養育兒童，然而如今我們多數人所體驗的西方式工業化獨自育兒方式，卻已經與此脫節所致。

與苦難不能激發援助的情況相反，只要觀察者理解狀況，能介入並對他們的反應抱持信心，那麼即便強烈的和嫌惡的苦難，也依然能夠促成援助。哺乳類動物的神經激素壓力反應之所以演化出現，並不是為了讓我們在工作壓力下能吃餅乾，這種反應的演化，是藉由調動交感和新陳代謝歷程，犧牲了消化和成長等較慢、長期的生理歷程所促成的即時行動。

我們的壓力系統經過演化，能在脅迫下最有效地快速反應，好比當觀察者受了壓力驅使，必須迅速採取行動來幫助某人──假定他們知道該怎麼做，也知道分寸。所以，即便苦難線索啟動你的壓力和自主神經系統，當我們無法行動時──強烈激情和不安找不到明確的出口之時──它們就會產生冷漠、紛擾或攻擊行為，因為這些狀態本身就是演化來激發行動。

人們面臨苦難時，若認為自己有可能遭人操控，也會感到矛盾。由於苦難會激發援助行為，人們有時會偽裝陷入苦難來誘發支持，這有可能讓開始懷疑受害者的觀察者感到困窘、惱怒、生氣或反感。舉例來說，赫迪便曾描述，像狨猿和檉柳猴這類合作養育後代的新世界猴，通常會與無助的寶寶分享食物，特別是當牠們乞求食物之時。

然而，當年輕個體年齡增長獨立生活，成年個體就比較不會與牠們分享食物，而這就會導致年輕個體以愈強烈並引人嫌惡的方式懇求乞討食物，有時訴諸偷竊。這種現象已經在著名的吸血蝠動物模型的利他行為研究中重複驗證，研究發現，成年蝙蝠較少與已經發育超越青少年階段，理當自給自足的蝙蝠分享血餐。

小寶寶確實很無助，起碼在嬰兒早期階段是如此，實在不能認為他們是藉由啼哭來「操控」照護者，起碼不像是幼童、較大兒童和成人那般以刻意的、邪惡的手法來操控。嬰兒有可能「使用」哭聲來激使照護者為他們提供食物、溫暖、撫慰或移除有害刺激物。這是他們溝通需求的僅有方式之一。這些需求有的並不是真的很緊急，不過即便是需求被動照護，好比身體撫慰，也可能影響嬰兒的長期健康和幸福。

例如，寶寶獨自被留在嬰兒床或汽車座椅時，通常就會放聲啼哭，因為他們喜歡照護者充滿愛心的溫暖擁抱。不過這些並不是必須立刻解決的急迫需求（而且就汽車座椅的情況，這說不定正是拯救他們的要素）。

即便寶寶使用哭泣來激使我們幫助他們，我想我們都同意，他們並不是刻意密謀對付任何人，而且他們的要求也相當合理──特別是在面對相當惱人的現代裝置之時。因此，寶寶哭聲的真情實意、毫不誇張，未加操控的性質，提供了一種促成行動的誘發刺激，而且就算出自成年人，我們也依然遵從。

苦難的演化功能：從激發行動到引發嫌惡

人們對於苦難哭聲的音質非常敏感，能區分反映出不同需求的哭聲，好比需要接觸、肚子餓了和疼痛。因此在醫院接受腿部注射的新生兒，所引發的同情比較多，超過在圖書館因無法帶回家的玩具，半哀鳴半啼哭的十八個月大的兒童。後面這樣的哀鳴和啼哭，會讓觀察者感到非常煩躁，他們甚至還可能覺得小孩是在操控而惱火，特別當目標是要取得玩具火車或更多金魚餅乾等獎賞時。然而，聽到新生兒為真正的需求而啼哭時，人們確實會心生同情，這樣的哭聲比較溫和、有規律，並暗示了脆弱的、幼態的、受苦受難和有援助需求的理想組合。

苦難不是單一事物。苦難有多樣化形式和背景脈絡，其中有些有激勵作用，另有些沒有。不過倘若我們從照護無助新生兒的背景脈絡來理解苦難，模式便自然浮現。真正的苦難，肇因於嚴重的急迫狀況，而需要觀察者提供力所能及之幫助的困境是有激勵作用的，而當觀察者不熟悉或沒有形成感情紐帶、不知道該怎麼辦、力有未逮，幫不上忙，或者感覺受了操控，這時苦難就可能引人嫌惡，也不太可能激發援助。

科學文獻有必要更明確地釐清，苦難何時會促使人們走向困難處境，何時則會讓他們遠離，並拿包含利他反應模型屬性的情境（好比受害者與觀察者存有感情紐帶、呈幼態模樣、明顯受苦受難，並需要觀察者力所能及的即時幫助）來與不包含這些屬性的情境進行比對。這些研究將能讓我們就現實世界對苦難之反應範圍方面達成更完整的認識，這類反應並不總是充滿同情，但確實會產生比自我關注更多的可能結果。

——本文摘自《利他衝動：驅策我們幫助他人的力量》，2024 年 11 月，知田出版，未經同意請勿轉載。

讓電腦理解人類情感，一直是許多科學家關注的議題。那你知道現在 AI 已經學會人類情緒的辨識了嗎？

所以我們這集就來講講：

1. AI 如何理解人類情緒
2. AI 如何生成情緒語音
3. 世界上第一款具有同理心的 AI 對話工具 Hume

那麼我們就開始吧！

如果有其他想看的 AI 工具測試或相關問題，也可以留言發問～

更多、更完整的內容，歡迎上泛科學院的 youtube 頻道觀看完整影片，並開啟訂閱獲得更多有趣的資訊！

本文轉載自中央研究院「研之有物」，為「中研院廣告」

• 採訪撰文｜劉韋佐
• 責任編輯｜田偲妤
• 美術設計｜蔡宛潔

人工智慧將改變以人為主的法治領域？

由人工智慧擔任警察，再也不是科幻電影的情節，交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域，這樣的轉變會對我們產生什麼影響呢？中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員，他將帶我們思考：當 AI 取代人類執法時，將如何改變人們對守法的認知？

想像有一天你正在尖峰時段開車，車子停在十字路口等紅燈時，後方出現一輛急駛而來的救護車，你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險？還是承擔風險以換取他人盡速就醫？

在上述情境中，針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察，他的判斷可能是：這是情急之下不得不的行為，並非蓄意違規。

然而，如果負責執法的是「法律人工智慧系統」（Artificially legal intelligent，簡稱 ALI）情況可能截然不同。

ALI 這個詞源自 Mireille Hildebrandt 的研究，在概念上可區分為兩類：採取傳統程式碼的 IFTTT（if this then that）、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型，將法律規範轉為程式碼，藉由程式編寫來執行法律任務。後者則透過大量資料的學習，來預測行為範式，用於再犯率、判決結果預測上有較好的成果。

一般情況下，應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為，不過交通情境千變萬化，ALI 能否做出包含「道德價值的判斷」將是一大挑戰！

中研院歐美研究所陳弘儒助研究員察覺，人工智慧（AI）正在左右人們對守法的價值判斷及背後的因果結構，進而反思當我們將原本由人來判斷的事項，全權交由 AI 來執行時，可能產生哪些潛移默化的影響？

讓我們與陳弘儒展開一場從法哲學出發的對話，探索 AI 與法治價值之間的緊張關係。

怎麼會對「人工智慧」（AI）與「法律人工智慧系統」（ALI）產生研究興趣？

會對 AI 感興趣是因為我很早就對電腦有興趣，我原本大學想唸資訊工程，因為高中有些科目沒辦法唸，於是去唸文組，大學進入法律系就讀，研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書，當時 AlphaGo 的新聞造成很大的轟動，啟發我思考 AI 的應用應該有些法律課題值得探討，於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出，而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考：我們能否將法律推理過程電腦程式化，讓電腦做出跟法律人一樣的判斷？

事實上，AI 沒有在做推理，它做的是機率的演算，但法律是一種規範性的判斷，所有判斷必須奠基在法律條文的認識與解釋上，給予受審對象合理的判決理由。

這讓我好奇：如果未來廣泛應用 AI 執法，法律或受法律規範的民眾會怎麼轉變？

至於真正開始研究「法律人工智慧系統」（ALI）是受到我父親的啟發。有一陣子我經常開車南北往返，有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速，計算你在隧道裡的平均速率，如果超速就開罰。

父親就問我：「政府有什麼理由用區間測速罰我？如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯，你一定有在某個時間點超速，所以平均起來的速率才會超過速限，可是法律判斷涉及規範性，我們必須思考背後的正當性課題，不能只用邏輯解釋，這啟發我逐漸把問題勾勒出來，試圖分析執法背後的規範性意涵。

如果將執行法律任務的權限賦予 AI，可能暗藏什麼風險？

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷，判斷的過程通常會先做「區分」，例如在你面前有 A 和 B 兩個選項，在做判斷前必須先把 A 和 B 區分開來，讓選項有「可區別性」。

在資料龐大的情況下，AI 的優勢在於能協助人類快速做好區分，可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀，做判斷時通常會將要區分的選項放進這個世界觀中，最終做出符合社會或自身考量的抉擇。

當我們將判斷程序交由 AI 執行，就會涉及「判斷權限移轉」的問題，這經常在日常生活中發生，你只要發現原本自己可以執行的事情，有另外一個對象做的比你好或差不多好，你就會漸漸把判斷的工作交給它，久而久之，你大概會覺得這是很好的做法，因為可以節省大量時間。

我擔心這種判斷權限移轉會快速且廣泛的發生，因為 AI 的工作效率極高，可以大幅節省人力成本，但是哪一些權限可以放給 AI？哪一些權限人類一定要守住？我們經常沒有充足的討論，等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例，如果讓 AI 來做交管，可以節省警察人力，又可以快速精準地開罰，卻迫使民眾需額外花時間，證明闖紅燈有正當理由。如果是真人警察來判斷，警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說，會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序，如果無法順利解決，可能會訴諸民意代表或上爆料公社，並漸漸改變民眾對守法的態度。而真人警察產生的規範作用，將使民眾自主展現對法律的高度重視，雖然當下的行為牴觸法律，卻是行為人經過多方權衡後做的判斷，相信法律會支持自己出於同理心的行為。

使用 AI 執法除了看上它的高效率，也是因為和真人相比 AI 不會受私情影響，比較可以做出公正的判斷。如果從法治觀念來看，為何決策權不能全權交由 AI 執行？

我認為法治的核心價值在臺灣並沒有很好的發展，我們常想的是怎麼用處罰促成民眾守法，長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣，一旦哪天不再受法律約束，可能會失去守法的動機。

事實上，法治最根深柢固的價值為：

法律作為一種人類行為規範的展現，促使民眾守法的方式有很多種，關鍵在於尊重人的道德自主性，並向民眾陳述判決理由。

給理由非常重要，可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係，使民眾相信，國家公權力能用適當的理由來制定法律，而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利，會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」，但它的執法方式以處罰為主、缺乏理由陳述，也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性，這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的，真人警察可在執法過程中，透過拿捏不同情境的處理方式來累積經驗。

例如在交通尖峰時段應該以維持交通順暢為原則，這時警察是否具備判斷的敏感性就很重要，例如看到輕微的違規不一定要大動作開罰，可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要，我們會在跟他人相處的過程中思考：跟我溝通的對象是什麼樣的人？我在他心中是什麼模樣？然後慢慢微調表現方式，這是人類和 AI 最根本的不同。

相較於法律人工智慧，ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI，其發展可能對我們產生哪些影響？

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人，使用大量自然語言文本進行深度學習，在文本生成、問答對話等任務上都有很好的表現。因此，在與 ChatGPT 互動的過程中，我們容易產生一種錯覺，覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上，對於生成式 AI 來說，人類只是刺激它運作的外在環境，人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程，每當外在環境（人類）給 ChatGPT 下指令，系統才會開始運作並生成內容，如果我們不滿意，可以再調整指令，系統又會生成更多成果，這跟平常的人際互動方式不太一樣。

資工人員可能會用這個理由說明，生成式 AI 只是一種工具，透過學習大量資料的模式和結構，從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」（Data）的敏感性。由於在做 AI 訓練、測試與調整的過程中，都必須餵給 AI 大量資料，如果不知道資料的生產過程和內部結構，後續可能會產生爭議。

另一個關於資料的疑慮是，生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出，並往商業或使用者付費的方向發展，代表許多資料都掌握在這些私人公司手中。

資料有一種特性，它可以萃取出「資訊」（Information），誰有管道可以從一大群資料中分析出有價值的資訊，誰就有權力影響資源分配。換句話說，多數人透過輸入資料換取生成式 AI 的服務，可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

面對勢不可擋的生成式 AI 浪潮，人文社會學者可以做些什麼？

國外對於 AI 的運用開始提出很多法律規範，雖然國外關於價值課題的討論比臺灣多，但並不代表那些討論都很細緻深入，因為目前人類跟 AI 的相遇還沒有很久，大家還在探索哪些議題應該被提出，或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考：

我們需不需要訓練 AI 學會人類的價值判斷？

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢，因為 AI 的發展會朝人機互動模式邁進，唯有讓 AI 逐漸理解人類的價值為何，以及人類價值在 AI 運作中的局限，我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術，我認為這種觀點將來會出問題，強大的技術如果沒有明確的價值目標，是一件非常危險的事情。實際上，AI 的發展必定有很多價值課題涉入其中，或者在設計上有一些價值導向會隱而不顯，這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時，也等於在問我們人類：對我們來說哪一些價值是重要的？而這些重要價值的基本內容與歧異為何？

我目前的研究有幾個方向，一個是研究法律推理的計算機模型（Computational models of legal reasoning）；另一個是從規範性的層面去探討，怎麼把價值理論、政治道德（Political morality）、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知，有很多價值課題需要事先想清楚，影響將擴及工程師怎麼設計人工智慧系統？設計過程面臨哪些局限？哪些局限不應該碰，或怎麼把某些局限展現出來？我覺得這些認識都非常重要！

鐵面無私的 ALI ？人類與人工智慧執法最大的分野是什麼？

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統（ALI）的學者，他結合各種現實情境，與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算，與人類判斷過程中涉及的世界觀與敏感性思辨，有著根本上的差異；以處罰為主、缺乏理由陳述的判斷方式，也容易影響民眾對公權力的信任。因此陳弘儒認為，目前 ALI 應該以「輔助人類執法」為發展目標，讓人類保有最終的判斷權限。

至於現正快速發展的生成式 AI ，根據陳弘儒的觀察，目前仍有待各方專家探索其中的價值課題，包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告，現在連 AI 領域的權威專家也簽署公開信並呼籲：AI 具有與人類競爭的智慧，這可能給社會和人類帶來巨大風險，應該以相應的關注和資源進行規劃和管理。

在訪談過程中，有一件令人印象深刻的小插曲，陳弘儒希望我們不要稱呼他「老師」，因為他從小就畏懼老師、警察等有權威身分的人，希望以更平等的方式進行對話。

假如今天以 AI 進行採訪，整個談話過程或許能不受倫理輩分影響，但這也讓我們意識到，在 AI 的世界裡，許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會，AI 在法治領域的應用不僅是法律問題，背後更包含深刻的哲學、道德與權力課題，也讓我們更了解法治的核心價值：

法律要做的不只是規範人們的行為，而是透過理由陳述與溝通展現對每個人道德自主性的尊重。