駁〈舉世爭議的「電車難題」是戲弄人的詭辯〉

法蘭克．赫伯特（Frank Herbert）的科幻小說經典《沙丘》（Dune）裡面有一段情節，是要看看主角能不能抑制當下的動物本能，證明自己是人。

老婦人要主角把手伸進黑盒子裡，承受難以想像的痛苦，同時拿一根毒針抵著主角的脖子，如果主角把手抽出來，就刺下毒針結束他的生命。老婦人說：「你知道動物落入陷阱的時候，會咬斷自己的腿逃走吧？但只有動物才會這麼做。人類會待在陷阱裡，忍痛裝死，這樣才能殺死設下陷阱的人，從此消滅族人的威脅。」

決定情緒表現

某些人天生就比較會壓抑情緒，部分原因，就是每個人的多巴胺受體密度和性質未必相同。

多巴胺受體決定多巴胺分泌的時候，大腦會有怎樣的改變，它跟每個人的基因有關。研究人員測量受試者腦中的多巴胺受體密度（包括受體的數量有多少，以及排列得多緊密），比較受體密度與「情緒疏離程度」（emotional detachment）之間的關係。

科學家用受試者有多麼願意分享個人資訊、有多麼願意與他人交往，來測量每個人的疏離程度。結果發現，多巴胺的受體密度，與受試者的情緒疏離程度呈正相關。受體密度高的人，情緒也比較疏離。另一項研究中，疏離程度得分最高的人，認為自己「冷漠、孤傲、容易記恨」；疏離程度最低的人，則認為自己「太愛照顧別人，容易被利用」。

人們的「疏離程度」大部分介於中間，既不冷漠，也不會天天想要照顧別人，而是依環境決定會怎麼做。當目標在我們身邊，近距離直接接觸，或者當我們關注當下，我們腦中的「當下分子」迴路就會啟動，讓我們變得溫暖而重感情。

但當目標遠在天邊，當下看不到摸不到，或者當我們進行抽象思考或關注未來，腦中的理性層面就會浮現，讓我們變得不近人情。倫理學的「電車問題」，就清楚顯示這兩種思維都在我們腦中：

失控的列車沿著軌道衝向五名勞工，如果什麼都不做，他們必死無疑。不過軌道旁邊剛好有個路人，只要把他推到軌道上讓列車撞死，列車就會減速，五個勞工就能及時逃脫。是你的話，會把路人推下去嗎？

在這種敘述情境中，大部分的受試者都無法把路人推到軌道上，他們會說即使是為了拯救五個人，也無法親手殺死一個人。他們因為腦中的「當下分子」而產生同理心，壓過多巴胺的理性計算。

故事敘述的方式，讓受試者覺得路人就在自己身邊，把他推下軌道的感覺會留在手上；這時候，「當下分子」就會大量分泌，除了最疏離的人以外，幾乎都無法下手推人。

離得夠遠，就殺得下手？

不過既然五官感受得到的周圍區域，最容易受到當下分子的影響，那麼如果逐漸遠離現場，當下分子是不是就沒那麼能夠影響決策？當我們離自己得殺的人愈來愈遠，當我們從當下分子掌控的周圍區域，退到多巴胺掌控的外界區域，我們是不是就更願意，或者說更能夠用一個人的性命來交換五個人的性命？

我們可以先從消除身體接觸開始。假設你站在一段距離之外，手裡握著一個軌道開關；電車正衝向五個人，但你只要扳動開關，電車就會駛向另一個軌道，撞死一個人。這時候，你會扳動開關嗎？

接下來請退得更遠。你坐在辦公桌前，控制全國火車的行駛路線。忽然電話鈴聲大作，幾千公里外的鐵路工人說列車失控，即將撞上五個人；你只要按下手邊的開關，就可以切換軌道，但會讓電車撞死一個人。這時候你會按嗎？

最後我們來到最抽象的情境，一個「當下分子」幾乎無從作用，幾乎只剩下多巴胺的情境：你是鐵路系統工程師，正在設計各種緊急應變方案。你在鐵軌旁邊安裝了攝影機，可以即時蒐集鐵軌上的資訊；而且寫出了一個程式，可以根據當下的狀況即時切換列車軌道。你會讓這個程式在未來遇到電車問題的時候，犧牲一個人去拯救五個人嗎？

這幾個敘述方式差異很大，但結果其實都一樣：
如果要拯救五個人就得殺掉一個人，如果不想殺人就得放五個人去死。

但不同的場景引發的反應卻不相同，很少人願意親手把人推到鐵軌上；但絕大多數的人都毫不猶豫地讓程式切換鐵軌，盡量減少死亡人數。這就好像我們腦中住著兩顆完全不同的心，其中一顆心只根據理性來判斷；另一顆心則很重感情，即使知道對大局不利，也無法下手殺人。

理性的心只在乎能活下來的人愈多愈好，感性的心卻同時在意其他事情。

多巴胺迴路的活躍程度，大幅影響了我們偏向哪一顆心。

——本文摘自《欲望分子多巴胺：帶來墮落與貪婪、同時激發創意和衝動的賀爾蒙，如何支配人類的情緒、行為及命運》，2023 年 1 月，臉譜出版，未經同意請勿轉載。

• 作者／施奇廷｜東海大學應用物理學系 

起源

從 1920 年「羅梭的萬能機器人」（Rossum’s Universal Robots，通稱R.U.R.）登上舞台以來，「機器人」這個概念，一直是科幻作品中的常客。機器人「具有人的形象，而（在某些方面）具有比人類更強的能力」的設定，一直刺激著人類的想像力：能力強大卻又聽命於人類的忠實僕人；或是領悟到自己其實可以取代人類，成為下一代的地球霸主？樂觀的期待與被反噬的恐懼，向來是欣賞以機器人為主題的科幻作品的兩大樂趣。不過近十年來「人工智慧」（Artificial Intelligence）與「機器人學」（Robotics）的發展速度超乎預期，上述本來只存在於科幻作品中的兩面議題，突然變得不是那麼遙不可及。

提出「機器人學」這個名詞，並將理論系統化的，並不是工程領域的學者，而是科幻小說大師艾薩克‧艾西莫夫（Isaac Asimov），這個詞現在已經成為工程界對機器人科學的正式名稱，是一個從科幻對科技「逆輸入」的有趣案例。生於俄羅斯的艾西莫夫的本行是就科學家（專長是生物化學），曾經任教於波士頓大學醫學院，不過後來因為全力投入寫作，不再進行一般學者的教學研究工作，但是波士頓大學仍然保留他的職位。他所接受過的嚴謹科學訓練，也反映在作品中。1940 年，年方 19 歲的艾西莫夫就發表了第一篇機器人短篇小說「小機」（Robbie，收錄於短篇小說集「我‧機器人」），開啟了「機器人系列」的序幕。

法則

「人類製造的機器人結果反過來支配人類」這個命題可說是充滿「為何要搬磚頭砸自己的腳」的矛盾，因為人類絕對可以在一開始設計、製造時就預防這件事發生。不過睽諸人類科技發展的歷史，這種矛盾其實一直存在，也不斷發生，目前我們面臨的「核能科技的發展衍生的核子大戰威脅」、「高度工業化生產導致環境污染」，以及「大量使用石化燃料導致全球氣候變遷」這些問題，都是現在進行式。

不過「人類依照自己的形象打造的仿人類」又有點不同，高功能的機器「外型像人」這件事，足以引起人類的「科學怪人情結」，讓人類會對機器人的發展保持高度的戒心，在此思考下，1942 年時，艾西莫夫在他的作品中，比照「牛頓運動學三定律」的規格，揭示了「機器人三定律」：

一、機器人不得傷害人類，也不能坐視人類受到傷害

二、在不違反第一法則的前提下，機器人必須保護自己的安全

三、在不違反第一與第二法則的前提下，機器人必須執行人類的命令

這三大法則是在機器人出廠時，就內建於其軟硬體內，絕對不容違反。如果讀者是「理科人」的話，大概會覺得這三大法則邏輯簡單明瞭，簡直無懈可擊，在此控制下，機器人應該可以成為人類最忠實的僕人，無須擔心他們會叛變了。

有趣的是，在艾西莫夫的機器人短篇小說中，幾乎都是在探討「會引起三大法則的缺陷、迷惑、矛盾的可能情境」，所以幾乎每篇小說都會產生一個「精神錯亂」的機器人。這些小說非常有趣，推薦喜歡「燒腦型作品」的讀者一讀。

這個系列作品的內容其實也部分反映了人性：人也是又內建「道德基準」（moral norms），能進行邏輯思考的動物，但是即使最理性冷靜的人，也是會碰到兩難的困境，例如著名的「電車難題」：「一輛失控的列車在軌道上急馳，在軌道上有五個人即將被碾過，你剛好在鐵軌的轉軌器旁邊，只要扳動轉軌器，就可以把列車轉向另一條軌道，但是另一條軌道上有一個人，本來不會有事，因為你將列車轉軌而會被碾斃，在這個狀況下，你到底要不要將列車轉軌呢？」幾十年來這個問題引起了許多哲學以及倫理學、社會學的廣泛討論。事實上，自動駕駛汽車（除了不具有人形之外，其實也算是機器人的一種）的設計就必須把這類情境納入考量。

就筆者的「理科腦」來看，這些矛盾的起因是「機器人定律與人類的道德準則是定性的，而實際情境卻是定量的」。例如兩個人類同時對一個機器人下命令，而這兩個命令互相矛盾，那麼這個機器人到底要聽誰的？這時候機器人必須對下命令的兩個人做出「定量上的評價」，決定執行哪一個命令。這個結果導致「機器人可以（必須）評價人類，將人類分出等級」，之後又會衍生出更多的問題…

1985 年時，在機器人系列故事四十餘年的發展之下，艾西莫夫被自己的筆下的故事逼得追加了一個「第零定律」，位階在原來的三定律之上：「機器人不得傷害『整體人類』，或坐視『整體人類』受到傷害。」，這下子定律的規格從「牛頓三定律」變成了「熱力學的零＋三定律」了，不愧是正統派科學家出身！這個第零定律跟之前一樣，從邏輯上看起來也很合理，但是這又造成機器人必須評價「整體人類」的福祉是什麼，由於第零定律凌駕於第一定律之上，因此視情況機器人是可以為了避免整體人類受到傷害，而去傷害甚至殺死個人的，最後可能會演變成「機器人為了整體人類好而接管、控制人類社會」的反烏托邦結果。

不過或許是因為「機器人叛變」這個展開實在太過顯而易見，而且因為可以塞進許多動作場面而成為影視作品愛用的題材，艾西莫夫的機器人作品中對這方面反倒是著墨不多，而是將關心的焦點放在「機器人是否能在三定律的規範下，活出自己的人格？」這個主題的代表作，就是獲得 1976 年「雨果獎」與「星雲獎」雙料大獎的中篇小說「雙百人」，後來在 1992 年由令一位作家羅伯特‧席維伯格（Robert Silverberg）擴充成長篇小說「正子人」；這個故事也在 1999 年改編為電影「變人」，由已故的喜劇泰斗羅賓‧威廉斯（Robin Williams）主演。

說實在的，想要瞭解「機器 → 人形機器 → 機器人 → 人」的演進與思辯，而又沒有很多時間與耐性的讀者，看這一本就夠了。

分流

前面花了相當的篇幅講了艾西莫夫的機器人觀，除了這個「大師典範之外」，其實幾十年的科幻與娛樂文化演變下來，機器人也了更多的樣貌。

好萊塢電影與日本動漫畫，是目前全球影視娛樂的兩大主流，當然兩者還是有一段差距，好萊塢挾其資金、人才、技術的實力，最為強勢；不過「小本經營」的日本御宅文化，在全世界的影響力也逐年提升，對好萊塢電影也產生了不小的影響。它們對於機器人這個主題的處理，有很大的不同。以下分成不同的機器人類型討論，不過要先說明的是，以下的分類有些是好萊塢電影擅長的題材，有些則是日本動漫畫的偏好，但是其實並沒有這麼涇渭分明，大部分在兩邊都有出現，只是多寡有別。

一、近未來，覺醒的機器人，成為人類之敵——好萊塢電影的機器人，跟艾西莫夫的機器人類似，是外型、尺寸都比照人類，並且具有不同程度的人工智慧。不過如前所述，好萊塢電影中的機器人有許多都是扮演「人類之敵」的大反派，完全不受艾西莫夫「機器人三定律」的節制，最經典的例子就是「魔鬼終結者」系列，劇中的機器人存在的目的就是用來追殺人類——可說是把「機器人三定律」完全反過來看就行了。這些機器人的背後是由一個名為「天網」的人工智慧，也可以說是個不具人形的機器人，本來是美國研發的國防電腦系統，後來這個系統產生自我意識，並且判斷人類才是「世界最大的威脅」，於是就發動核戰毀滅人類，並且持續掃蕩殘存的人類反抗軍，並且派遣機器人穿越時間回到過去殺害反抗軍領袖的母親以斬草除根。

相對於艾西莫夫小說中以「機器人三定律」來節制機器人的能力，以消除人們的「科學怪人情結」，努力讓人類社會接受機器人；「魔鬼終結者」系列是反過來喚起觀眾的「科學怪人情結」，再加上「末日電影」的背景設定，來營造危機感與戲劇性，然後在人類與機器人的對立下順理成章的大打出手，「拳腳與槍砲齊飛，鮮血共煙硝一色」，讓本來是「低成本 B 級動作片」的「魔鬼終結者」成為娛樂性與思想性兼具的成功作品。就這個視角而言，「駭客任務」中的架構與設定，以及成功的要素也頗有共同之處。

二、遙遠的未來，機器人已經融入人類社會，共同面對更廣闊的星際世界——上述這種「人類與機器人的衝突與生死戰」的背景通常發生於「近未來」，故事舞台跟現代有相當程度的重疊，機器人進入生活的正面與負面效應，都比較能引起觀眾的代入感。如果是以「遙遠的未來」為背景，機器人與人類之間的「磨合陣痛期」已經過去，像是兩大名門「星際大戰」與「星際爭霸戰」，人類的足跡已經遍佈銀河系，見識過各種稀奇古怪的外星生命體，機器人也早就已經成為人類好伙伴，甚至被視為跟人類同等的存在了。

三、機器人是人類肉體的延伸，力量的放大器——另一方面，日本動漫畫作品中的機器人，除了早期的「原子小金剛」是走「真人的大小與外貌，且具有人工智慧」的路線以外，主流是象徵「人類力量的延伸」的「巨大機器人」類型。這種機器人不具有人工智慧，而是搭載操作界面與作業系統，由人類駕駛員來操作，相當於扮演其大腦的角色。以早期的名作「無敵鐵金剛」而言，所標舉的主題是「如果人類透過機器取得了巨大的力量，將會成為神？還是成為惡魔？」，這類作品有別於西方「機器如何變成人」，而是「人類與機器合為一體」的概念。

機器人是吸引目標觀眾目光的賣點，也是贊助或出資廠商販賣模型玩具的獲利神器，導致許多巨大機器人動畫作品一味強調機器人造型帥氣而不注重劇情內涵，被譏為「為了販賣玩具所製作的 30 分鐘廣告片」，不過由於出資者只要求「機器人玩具賣得好」，對於內容不太有興趣干涉，反而讓創作者有揮灑的空間，出現了「長濱忠夫三部曲」、「機動戰士鋼彈」等名作。1995 年的「新世紀福音戰士」，把前述「人類與機器合為一體」的概念推到極致，駕駛員是透過神經系統直接與機器人（稱為 Evangelion，簡稱 EVA ）「同調」連結，以精神力取代操縱桿與按鈕，直接操控 EVA——不過其實 EVA 與其說是機器人，「生化」味更重一些，劇中還曾出現駕駛員與 EVA 機體「完全融合」的情節。

四、機械化的人類——人與機器的關係，除了「機器→人形機器→機器人→人」這條路線外，也有反方向的路徑：由於疾病或受傷而失去部分身體功能的人，利用科技的力量改造身體，恢復正常的功能，甚至更為強大，這種被部分改造的人類稱為「改造人 Cyborg」（cybernetic organism），結合了「模控學」與「有機體」兩個字，也有人翻譯為「生化電子人」、「半機械人」，後來乾脆直接音譯為「賽伯格」。其實許多現實世界的人類已經多多少少變成改造人了：義肢、人工水晶體、心律調節器、人工關節等等，人們已經普遍可以接受為了維持身體機能以侵入性的方式改造部分器官，未來可以預見改造的範圍與精密程度必定會逐漸提升。

在這個「人體改造」的延長線上，我們可以看到像「機器戰警」中，殉職的員警被改造並且復活來執行正義，「鋼鐵人」受傷後在自己的胸腔裝了一個反應爐，成為裝甲動力服的能量來源；日系作品方面，有「無敵金剛 009」（後來改名為「人造人 009」，少了一股中二的氣勢）、「假面騎士系列」（真人演出的特攝片），這些作品中，並非前述因為疾病或受傷而修補人體，而是為了培養「征服世界用的超級士兵」，而將人體改造成具有超越一般人能力的戰鬥道具。

與「機器人覺醒為人類、或自覺為超越人類的存在」的方向相反，在「改造人」這條線上會出現的問題則是「當人類持續被改造，被機械取代的部位越來越多，會不會因此變成『不是人類』？這個轉變的界線何在？」也是非常值得探討的問題，也讓「改造人」這類的作品更具有思想上的深度。

近年來日本動漫畫與好萊塢合流的作品逐漸增加，「攻殼機動隊」與「戰鬥天使艾莉塔」是其中翹楚，都是以「改造人與人類的分界線」，以日本原創的動漫畫作品為主題，結合好萊塢的資金與技術的大製作電影，都獲得了相當程度的成功。

交會

本文以包含小說、電影、動漫畫等科幻作品的角度來看「機器人與人」之間的關係。雖然不是從真實世界的科學與技術來進行嚴謹的探討，不過在「機器人與人」這個主題上，科技與科幻的發展路徑其實亦步亦趨、互為因果：如同艾西莫夫的「機器人學」與「機器人三定律」對真實世界的機器人科技有極大的影響一般，科幻的想像有可能成為引導科技發展的路標；相對的，科技的發展當然也會墊高科幻作品的根基。

前文我們看過了幾種「機器人與人」的類型作品：從機器人變成人、機器人與人共存、機器人與人合體、從人變成機器人。這幾種模式，各自以不同的視角來刺激我們思考「人到底是什麼」這個問題。從數十年來這個主題的科幻作品的發展看來，不論是從哪個角度切入，最後都指向一個共同的交會點：人類的大腦。

「正子人」中的機器人主角「安德魯‧馬丁」要爭取在法律上被認可為「人」，其起點是他的「正子腦」產生了類似人腦的感情、創造力、以及自我意識的自覺，在其兩百年的生涯中，他的「鉑銥合金正子腦」的運作模式與人腦越來越接近，應該可以通過任何像「圖靈測試」這種「能分辨人腦與電腦差別」的考驗。而他克服爭取成為「人」的最後阻礙的方式是：改造他那相對於人腦幾乎算是不朽的正子腦，讓它像人腦般會逐漸老化與死亡，終於取得了「人」的資格。

另一方面，「從人變成機器人」的這條路上，也是以「大腦是不是原裝貨」來作為人類與機械的分界點。身上的器官怎麼更換都沒關係，但是這個人的「自我」（identity）只存在於大腦的神經元之間的連結以及在內部儲存以及傳送的資訊中，如果大腦被換掉、或是內部的資訊消失了，這個人也將不再存在。更激進的說法是，連大腦的「硬體」都不重要，只有內含的資訊才是「人的本體」，所以只要能夠把腦內的資訊保留、複製下來，人將可以成為不朽的存在，就像「攻殼機動隊」的主角草薙素子，拋棄了已經多次改造的肉身，以及還是「原裝」的大腦，將腦內資訊轉進網路中，只要這個網路仍在運作，這組來自草薙素子大腦的資訊仍存在於這個網路中，她就相當於取得了永生。

回到現實世界，「人工智慧」與「腦科學」正好也是目前最熱門、進展也最快的科技領域，前者致力於「讓機器除了強大的計算與記憶能力之外，還能像人腦一樣能進行複雜的思考」，後者則是要「瞭解大腦如何學習、記憶、創造，以及人類的自我意識從何而來」，這兩個領域發展的進程與細節跟科幻作品當然不會一模一樣，但是在大方向上，「科學」與「科幻」實在有驚人的相似之處，最後兩個領域也有可能交會在同一點上。

看看社群網站的自動審查機制，以及電子商務網站的推薦系統，極權國家用來監控人民的社會科技體系，「不具人形的機器人」正逐漸接管我們的生活。也許在我們的有生之年，就可以看到這些科幻名作中的情節在現實世界中發生，至於人與機器人之間的關係，是對抗、共生、還是融合？人類社會未來的流向，仍然掌握在人類手上嗎？再不嚴肅思考這個問題，或許很快就會來不及了。

• 文／張智皓

「在演算法的年代，人類從未如此刻這般的重要。」——弗萊（Hannah Fry）

圖靈（Alan Turing）在 1936 年提出圖靈機（Turing Machine）的基本構想，人類文明揭開了電腦時代的序幕，並在很短時間內為人類生活帶來了劇烈的變化。上一次有這樣的景況，大概是 17 世紀末蒸汽機的發明，帶領人類文明進入工業時代。

這兩個時代有類似之處。蒸汽機讓人開始擔心自己被機械取代：生產模式改變，人力不再重要，生產機器和失業人口大量出現。然而，這種困境並沒有維持太久。新技術讓人失業，也拓展了人的想像力，讓各種新興行業與技術應運而生。這些行業和技術促進產業轉型，反而提高了人力需求，讓人類文明變得更加繁盛。此時，我們知道人類變得比以前更重要。

電腦，或者我們說，演算法，就像是現代的蒸氣機，同樣大幅地改變人類生活模式。在本書中，倫敦大學學院（UCL）先進空間分析中心（CASA）的數學家漢娜弗萊從權力、資料、司法、醫療、車輛、犯罪與藝術這七個面向出發，告訴我們演算法已經如何深入我們日常生活中，為我們帶來前所未見的巨大貢獻，並展現出取代人類的企圖心。

更重要的是，弗萊也透過她細膩的觀察，提醒我們：就如同蒸汽機時代的人類沒有被取代一樣，在演算法時代，人類也只會比以前更重要。

人機合作，讓人類的棋藝再創高峰

讓我們從書中一個輕鬆的例子開始。弗萊告訴我們，在 1997 年，西洋棋世界冠軍卡斯帕洛夫（Gary Kasporov）被 IBM 設計的「深藍」擊敗後，他並沒有因此排斥電腦，反之，他創辦了人類與電腦合作的棋賽。卡斯帕洛夫相信，有了電腦的輔助，人類不再需要花時間在棋盤細節的計算上，而是將心思放在整體戰略上，人機合作，能讓人類的棋藝再創高峰。

這樣的劇情非常類似於 DeepMind 的圍棋軟體 AlphaGo 在 2016 年的創舉。在 AlphaGo 相繼打敗世界冠軍李世乭以及柯潔後，AlphaGo 以及其繼任 AlphaGo Zero 的棋譜變成職業選手們爭相學習的目標。DeepMind 甚至推出 AlphaGo 圍棋教學工具，讓大家學習它的佈局，並進而開發出新的佈局形式。AlphaGo 沒有取代人類棋手，反之，它為圍棋世界注入了新的生命。

演算法無法回答的問題：隱私與安全該如何平衡

接著讓我們談談一個較嚴肅的例子。在本書「犯罪」這一章節中，弗萊提到「臉孔辨識系統」如何對人類產生顯而易見的貢獻。在 2015 年，紐約警察局透過臉孔辨識系統「成功指認了 1700 名嫌犯，並且發動了 900 次逮捕行動。」另外，她也提到從 2010 年以來，紐約州「僅僅針對詐欺和身分盜用就發動了超過四千次逮捕行動。」有了臉孔辨識系統，各大交通運輸管道也可藉恐怖份子資料庫來預防恐怖襲擊（而事實證明這很有用）。

作為預防手段，臉孔辨識系統可以有效增進人們生命與財產之安全。但這些好處有其代價。弗萊指出，就連目前全世界最先進的臉孔辨識系統（來自於中國的「騰訊優圖實驗室」），在一百萬張臉孔資料庫的測試中，也只有 83.29% 的辨識率。這在技術上已經令人佩服，但在現實中卻可能釀成大禍。

比方說，2014 年，一位住在丹佛的居民被錯誤辨識為銀行搶匪，並在警察的逮捕過程中「遭受神經損傷、血栓及陰莖折斷。」或許有人會主張，只要技術更好，辨識率更高，問題就解決了。但情況可能沒這麼簡單，辨識率提高的代價是隱私度的下降。試問，我們願意讓「老大哥」看著大家嗎？

臉孔辨識系統有其好處，有其代價。我們願意讓此系統做到甚麼程度？為了安全，我們願意犧牲多大的隱私？而為了隱私，我們又願意犧牲多少安全？這些問題是演算法無法回答的，只有人類可以，因此，人類只會更重要。

演算法兩難：自駕車該拯救駕駛還是行人？

另外一個嚴肅例子，我想談談「車輛」這一章節中的自動駕駛技術。一旦自動駕駛技術普及，將可以大幅減少人為車禍的發生。而我們知道，現代大多數車禍都源於人為。然而，將駕駛工作交給演算法，也意味著將決策的任務交給演算法。當失控的自駕車面臨的選項是「拯救駕駛，還是拯救行人」時，演算法應該如何行動？

弗萊提到，在 2016 年發表於《科學》期刊（Science）的一篇文章指出，多數人主張應該盡可能的拯救更多人命。然而，當詢問他們自身較願意購買哪一款自駕車時，我們可以從賓士汽車發言人胡苟（Christoph von Hugo）的回應（當被問到賓士車會如何設計時），理解他們的猶豫：「保護駕駛。」

這衝突看起來不可調和，我們一方面希望盡可能拯救人命，另一方面又希望可以保障駕駛的安全（否則我幹嘛買它呢？）。在這樣的衝突中，弗萊指出另外一個可能選項：放棄全自動駕駛，將演算法的目標放在輔佐駕駛人上（比方說，現在已有的「自動緊急煞車」或「自動與前車保持距離」等設計）。換言之，演算法不扮演「司機」，而是扮演「守護者」。我們該做的，是讓演算法配合人類，主動性依然在人類手上，因此，人類只會更重要。

在《打開演算法黑箱》中，弗萊透過大量有趣的案例，說明演算法如何深入日常的同時，也提醒我們人類的重要性，這是我認為本書最大的優點。新技術的提出值得受到肯定，然而，在肯定其貢獻的同時，背後所付出代價卻往往會被忽略。本書在闡述新技術的同時，也很平衡地展示這些技術背後的代價。

就如同作者一再強調的，她肯定技術所帶來的好處，但我們必須思考如何在新技術所帶來的進步中，保有人類的主動性，或者說，如何在機器年代中當個人。

本文為《打開演算法黑箱：反噬的AI、走鐘的運算，當演算法出了錯，人類還能控制它嗎？》書評

文/Hiuman

前言

泛科學早前刊登了一篇文章《舉世爭議的「電車難題」是戲弄人的詭辯》，當中的觀點引來無數爭論。該文作者（于飛）認為「電車難題」是一個「假道德兩難」，並提出了他的解答。本文目的在於指出于飛的解答不成立。

于飛的解答

于飛認為電車問題不是真正的「道德兩難」，要解答其實相當容易。以下兩段引文為于飛的解答：

「電車難題設置過於空洞，基本上取消了「兩難」的困境，涉及如此少量的生命，在你抉擇前，沒有任何更多的內容加以考量。於是令原本可無須以量化作為考慮的問題，被扭曲成只能選擇一人撞死的定局，這也是如此設問底下，「唯一」沒有違反道德的抉擇。」

「可見，涉及生命數量極少的道德抉擇，除了具體的道德情境外，也必須了解生命對象的內容進行道德判斷，假如我們對對象一無所知，不過就是抉擇 「ABCDEF君」的生死，變成了抽象的數字遊戲，毫無「兩難」可言」

于飛認為「改變列車方向」（即，撞死一人的結局）是唯一正確的選擇，因為，在電車問題中，基於資訊的局限，我們只能夠以「死亡人數的多寡」作為道德考量的準則，而按該準則，「改變列車方向」是道德上最佳的選擇。換言之，于飛認為我們應該「改變列車方向」，是建基於「死亡人數的多寡」這個道德考慮之上。

單憑「死亡人數多寡」來作決定？

相信不會有人反對，若純粹以「死亡人數的多寡」作為道德考量的準則，「改變列車方向」是道德上最佳的選擇，因為「改變列車方向」（撞死一人的結局）顯然要比「不改變列車方向」（撞死五人的結局）在道德上更可取。

然而，我們必須要問：為何我們應該或可以純粹以「死亡人數的多寡」來作判斷？無可否認，對大部份人來說，「死亡人數的多寡」是一個道德上相關的因素。在思考電車問題時，很少人會覺得一個恰當的解答，可以完全不考慮「死亡人數的多寡」這個因素。可是，在電車問題中，我們真的應該或真的可以單憑「死亡人數的多寡」來決定哪一個選擇是道德上最恰當？對不少人來說，電車問題其中一個困難，正是由於我們不可以或不應該單憑「死亡人數的多寡」來作決定（而另一方面的困難則是死去五名工人的結局（相比死去一名工人）卻又相當不可取）。若果于飛對電車問題的解答是成功的，則他必須証立「我們應該或可以單憑「死亡人數的多寡」來決定哪一個選擇是道德上最恰當」。若他未能証立這一點，他對電車問題的解答將會不成立，因為他根本未能解決人們在選擇上所面對的困難。

根據于飛對電車問題的解答，他的理由很可能會是：在電車問題中，由於唯一可供道德考量的準則，就是「死亡人數的多寡」，因此，我們應該或可以純粹以「死亡人數的多寡」來判斷。這種思考可以理解如下：

1. 「死亡人數的多寡」是唯一可供考量的（道德上相關）因素。
2. 若「死亡人數的多寡」是唯一可供考量的（道德上相關）因素，則我們應該或可以純粹以「死亡人數的多寡」來判斷哪一個選擇是道德上最恰當。
3. 因此，我們應該或可以純粹以「死亡人數的多寡」來判斷哪一個選擇是道德上最恰當。

「死亡人數多寡」是唯一可供考量的因素？

我們首先談談前提(1.)是否成立──「死亡人數的多寡」是唯一可供考量的因素。

確實，由於資訊的局限，在電車問題中，我們知道的事情非常有限，例如我們不知道涉事那些工人是否我們的親友，這些因素很可能會影響我們的道德決定。然而，除了「死亡人數的多寡」，真的沒有其他（道德上相關的）因素供我們考慮？事實上，于飛在文中舉出一些我們可能會考慮的因素，例如「道德責任誰屬」：

「轉轍軌道要自己親手碰上那控桿，即使只有一人撞死，是我親手促成他的死亡，但如果我不碰，那失控的電車撞死五人也不是我的責任﹗」

若純粹考慮「道德責任誰屬」這個因素，則正確的選擇將會是我們應該「不改變列車方向」；因為若我「改變列車方向」將要那一名工人的死亡負上責任，但「不改變列車方向」則沒有，兩者比較之下，後者在道德上更可取。

更重要的是，若以上觀點成立，則可能會引致「改變列車方向」及「不改變列車方向」兩個選擇之間的角力（即電車問題演變成「道德兩難」）；因為，若純粹考慮「死亡人數的多寡」，我們則應該「改變列車方向」，但若純粹考慮「道德責任誰屬」，我們則應該「不改變列車方向」。因此，若要真正解決「道德兩難」，于飛需要反駁「道德責任誰屬」中的觀點，令我們沒有理由選擇「不改變列車方向」，他的反駁如下：

「無論你碰不碰那控桿，依然是一個選擇，等於是「選擇去碰」或是「選擇不去碰」的問題，而後果是人人都知道究竟是一人還是五人死亡的直接結果。不錯，那列失控的電車撞死工人的悲劇不是你所促成的，可是你同樣是無法避免地置身其中，並需要進行抉擇，不可能因為你刻意不碰那控桿，就等於取消了承擔選擇的責任，這顯然是一種詭辯」

于飛的反駁是站不住腳的。確實，「碰」與「不碰」皆是選擇，而選擇「不碰」當然有其責任要負，但這些責任是否包含為五名工人的死亡負責？在常人眼中，我們大概不會認為選擇「不碰」的人要為那五位工人的死亡負上道德責任，因為悲劇不是電車上面臨抉擇的人所造成。然而，于飛卻認為選擇「不碰」的人（即使他已經認同悲劇不是由電車上的人促成）仍然要為五名工人的死負責任。作者這一點顯然有違常理，而他亦沒有在文中証立這一觀點。

簡單來說，于飛未能排除「道德責任誰屬」。因此，他未能証立前提(1.)。不過，未能証立前提(1.)並非于飛唯一個問題，更嚴重的問題在前提(2.)。

「實用理由」與「道德理由」

現在我們談談前提(2.)是否成立──若「死亡人數的多寡」是唯一可供考量的（道德上相關）因素，則我們應該或可以純粹以「死亡人數的多寡」來判斷哪一個選擇是道德上最恰當。

在于飛全文中，他都沒有嘗試証立前提(2.)。或許，他認為這一點顯然正確，無爭議可言。我猜于飛所持的理由，大概是從「實用性」的角度出發：我們應該或可以純粹以「死亡人數的多寡」來作決定，因為，基於資訊的局限，這是唯一可供考量的（道德上相關的）因素。

然而，若果這就是于飛的理由，那麼他就是基於「實用理由」，而非「道德理由」，而判斷我們應該或可以純粹以「死亡人數的多寡」來決定我們的選擇。即是說，于飛認為前提(2.)成立，並非由於「死亡人數的多寡」能夠充份決定哪個選擇是道德上最恰當，而是由於這個準則是實際上唯一可操作。

顯然，電車問題是一條「道德問題」。我們關注哪一個選擇是道德上最恰當。若果選擇純粹以「死亡人數的多寡」來作判斷是由於它是實際上唯一可操作，那麼我們根本沒有好的理由相信，我們按「死亡人數的多寡」而作出選擇是道德上最恰當。我們最多有理由相信，我們按「死亡人數的多寡」而作出的選擇是最實用或實際。

總括而言，于飛未有嘗試在文中証立前提(2.)。若果他嘗試用「實用理由」來証立前提(2.)，亦顯然是不成立的。

前後不一致

上文有關前提(1.)和(2.)的討論，已指出于飛未能解釋為何我們應該或可以純粹以「死亡人數的多寡」來作判斷。証立這一點，對於于飛對電車問題的解答成立與否，至關重要。除了上文指出于飛未有証立這一點，最後，我還要指出于飛對於這一點的立場，有前後不一致的問題。于飛在文中曾說：

「的確，假如被迫要去選擇人的生死，怎能僅僅以數量來衡量呢？」

顯然，于飛認為生命的去留不能純粹以數量來衡量，但他其後對電車問題的解答，卻又認為死一人是電車兩難中「唯一」沒有違反道德的選擇。這兩個立場是前後不一致的。

若果于飛認同，在電車兩難中，生命的去留不能純粹以數量來衡量，那麼為何他又可以認為「死一人」比「死五人」在道德上更恰當？既然他已經認同了生命的去留不能純粹以數量來衡量，那麼，即使在不了解工人背景的情況下，他同樣也不該認同純粹以生命的數量來決定那個選擇是正確。若果生命數量不能充份決定哪個選擇正確，那麼，不管我們是否知道工人背景的情況下，生命數量仍是不能充份決哪個選擇正確。面對電車問題時，若果作者堅持「生命的去留不能純粹以數量來衡量」這個觀點，那麼他應該說「我們沒有充份的資訊來判斷正確的選擇」，而非認為「死一人」是唯一正確的選擇。

總結

在電車問題中，若果要純粹以「死亡人數的多寡」來決定哪一個選擇是道德上最恰當，則需要先証立「為何我們應該或可以純粹以「死亡人數的多寡」來作判斷」。于飛不但未能証立這一點，而且他在這一點的立場上有前不致的問題。因此，于飛對電車問題的解答不成立。

次要的問題

最後有一些次要的問題，我想要談談。于飛在文中提到，修改後的電車問題是真正的「兩難」：

「兩難的本質立即呈現，因為你選擇令胖子死亡，不同於那逼於無奈身陷險境的鐵路工人，胖子本來就跟你一樣，是事件中的「旁觀者」，而且「身型肥胖」增添了一種意味，好像我們將他當成工具，因為他胖，所以活該被犧牲救人。」

我不理解為何于飛同時認為修改後的電車問題是「兩難」而原初問題不是。要理解他的觀點，大概需要他先回答要下兩條問題：

1. 若果胖子是事件中的「旁觀者」，為甚麼（在原初電車兩難中）那位單獨的工人不是「旁觀者」？有人可能會解釋，單獨的工人不是「旁觀者」，因為若果我們碰了控桿，單獨的工人便會被列車撞死。不過，在修改的電車兩難中，不也是若果我們推了胖子下去（或觸動機關令胖子掉下去），他便會被列車撞死嗎？為何前者是「旁觀者」，而後者不是？
2. 為何，在修改的電車兩難中，胖子像是成了我們的工具，而在原初問題，單獨的工人不是？我們不是同樣犧牲他來救人嗎？