1

18
0

文字

分享

1
18
0

駁〈舉世爭議的「電車難題」是戲弄人的詭辯〉

活躍星系核_96
・2014/10/27 ・3981字 ・閱讀時間約 8 分鐘 ・SR值 546 ・八年級

Credit: Paul Baird via Flickr

文/Hiuman

前言

泛科學早前刊登了一篇文章《舉世爭議的「電車難題」是戲弄人的詭辯》,當中的觀點引來無數爭論。該文作者(于飛)認為「電車難題」是一個「假道德兩難」,並提出了他的解答。本文目的在於指出于飛的解答不成立。

于飛的解答

于飛認為電車問題不是真正的「道德兩難」,要解答其實相當容易。以下兩段引文為于飛的解答:

「電車難題設置過於空洞,基本上取消了「兩難」的困境,涉及如此少量的生命,在你抉擇前,沒有任何更多的內容加以考量。於是令原本可無須以量化作為考慮的問題,被扭曲成只能選擇一人撞死的定局,這也是如此設問底下,「唯一」沒有違反道德的抉擇。」

-----廣告,請繼續往下閱讀-----

「可見,涉及生命數量極少的道德抉擇,除了具體的道德情境外,也必須了解生命對象的內容進行道德判斷,假如我們對對象一無所知,不過就是抉擇 「ABCDEF君」的生死,變成了抽象的數字遊戲,毫無「兩難」可言」

于飛認為「改變列車方向」(即,撞死一人的結局)是唯一正確的選擇,因為,在電車問題中,基於資訊的局限,我們只能夠以「死亡人數的多寡」作為道德考量的準則,而按該準則,「改變列車方向」是道德上最佳的選擇。換言之,于飛認為我們應該「改變列車方向」,是建基於「死亡人數的多寡」這個道德考慮之上。

單憑「死亡人數多寡」來作決定?

相信不會有人反對,若純粹以「死亡人數的多寡」作為道德考量的準則,「改變列車方向」是道德上最佳的選擇,因為「改變列車方向」(撞死一人的結局)顯然要比「不改變列車方向」(撞死五人的結局)在道德上更可取。

然而,我們必須要問:為何我們應該或可以純粹以「死亡人數的多寡」來作判斷?無可否認,對大部份人來說,「死亡人數的多寡」是一個道德上相關的因素。在思考電車問題時,很少人會覺得一個恰當的解答,可以完全不考慮「死亡人數的多寡」這個因素。可是,在電車問題中,我們真的應該或真的可以單憑「死亡人數的多寡」來決定哪一個選擇是道德上最恰當?對不少人來說,電車問題其中一個困難,正是由於我們不可以或不應該單憑「死亡人數的多寡」來作決定(而另一方面的困難則是死去五名工人的結局(相比死去一名工人)卻又相當不可取)。若果于飛對電車問題的解答是成功的,則他必須証立「我們應該或可以單憑「死亡人數的多寡」來決定哪一個選擇是道德上最恰當」。若他未能証立這一點,他對電車問題的解答將會不成立,因為他根本未能解決人們在選擇上所面對的困難。

-----廣告,請繼續往下閱讀-----
Credit: + + via Flickr
Credit: + + via Flickr

根據于飛對電車問題的解答,他的理由很可能會是:在電車問題中,由於唯一可供道德考量的準則,就是「死亡人數的多寡」,因此,我們應該或可以純粹以「死亡人數的多寡」來判斷。這種思考可以理解如下:

  1. 「死亡人數的多寡」是唯一可供考量的(道德上相關)因素。
  2. 若「死亡人數的多寡」是唯一可供考量的(道德上相關)因素,則我們應該或可以純粹以「死亡人數的多寡」來判斷哪一個選擇是道德上最恰當。
  3. 因此,我們應該或可以純粹以「死亡人數的多寡」來判斷哪一個選擇是道德上最恰當。

「死亡人數多寡」是唯一可供考量的因素?

我們首先談談前提(1.)是否成立──「死亡人數的多寡」是唯一可供考量的因素。

確實,由於資訊的局限,在電車問題中,我們知道的事情非常有限,例如我們不知道涉事那些工人是否我們的親友,這些因素很可能會影響我們的道德決定。然而,除了「死亡人數的多寡」,真的沒有其他(道德上相關的)因素供我們考慮?事實上,于飛在文中舉出一些我們可能會考慮的因素,例如「道德責任誰屬」:

「轉轍軌道要自己親手碰上那控桿,即使只有一人撞死,是我親手促成他的死亡,但如果我不碰,那失控的電車撞死五人也不是我的責任﹗」

-----廣告,請繼續往下閱讀-----

若純粹考慮「道德責任誰屬」這個因素,則正確的選擇將會是我們應該「不改變列車方向」;因為若我「改變列車方向」將要那一名工人的死亡負上責任,但「不改變列車方向」則沒有,兩者比較之下,後者在道德上更可取。

更重要的是,若以上觀點成立,則可能會引致「改變列車方向」及「不改變列車方向」兩個選擇之間的角力(即電車問題演變成「道德兩難」);因為,若純粹考慮「死亡人數的多寡」,我們則應該「改變列車方向」,但若純粹考慮「道德責任誰屬」,我們則應該「不改變列車方向」。因此,若要真正解決「道德兩難」,于飛需要反駁「道德責任誰屬」中的觀點,令我們沒有理由選擇「不改變列車方向」,他的反駁如下:

「無論你碰不碰那控桿,依然是一個選擇,等於是「選擇去碰」或是「選擇不去碰」的問題,而後果是人人都知道究竟是一人還是五人死亡的直接結果。不錯,那列失控的電車撞死工人的悲劇不是你所促成的,可是你同樣是無法避免地置身其中,並需要進行抉擇,不可能因為你刻意不碰那控桿,就等於取消了承擔選擇的責任,這顯然是一種詭辯」

于飛的反駁是站不住腳的。確實,「碰」與「不碰」皆是選擇,而選擇「不碰」當然有其責任要負,但這些責任是否包含為五名工人的死亡負責?在常人眼中,我們大概不會認為選擇「不碰」的人要為那五位工人的死亡負上道德責任,因為悲劇不是電車上面臨抉擇的人所造成。然而,于飛卻認為選擇「不碰」的人(即使他已經認同悲劇不是由電車上的人促成)仍然要為五名工人的死負責任。作者這一點顯然有違常理,而他亦沒有在文中証立這一觀點。

-----廣告,請繼續往下閱讀-----

簡單來說,于飛未能排除「道德責任誰屬」。因此,他未能証立前提(1.)。不過,未能証立前提(1.)並非于飛唯一個問題,更嚴重的問題在前提(2.)。

「實用理由」與「道德理由」

現在我們談談前提(2.)是否成立──若「死亡人數的多寡」是唯一可供考量的(道德上相關)因素,則我們應該或可以純粹以「死亡人數的多寡」來判斷哪一個選擇是道德上最恰當。

在于飛全文中,他都沒有嘗試証立前提(2.)。或許,他認為這一點顯然正確,無爭議可言。我猜于飛所持的理由,大概是從「實用性」的角度出發:我們應該或可以純粹以「死亡人數的多寡」來作決定,因為,基於資訊的局限,這是唯一可供考量的(道德上相關的)因素。

然而,若果這就是于飛的理由,那麼他就是基於「實用理由」,而非「道德理由」,而判斷我們應該或可以純粹以「死亡人數的多寡」來決定我們的選擇。即是說,于飛認為前提(2.)成立,並非由於「死亡人數的多寡」能夠充份決定哪個選擇是道德上最恰當,而是由於這個準則是實際上唯一可操作。

-----廣告,請繼續往下閱讀-----

顯然,電車問題是一條「道德問題」。我們關注哪一個選擇是道德上最恰當。若果選擇純粹以「死亡人數的多寡」來作判斷是由於它是實際上唯一可操作,那麼我們根本沒有好的理由相信,我們按「死亡人數的多寡」而作出選擇是道德上最恰當。我們最多有理由相信,我們按「死亡人數的多寡」而作出的選擇是最實用或實際

總括而言,于飛未有嘗試在文中証立前提(2.)。若果他嘗試用「實用理由」來証立前提(2.),亦顯然是不成立的。

Credit: camasy via Flickr
Credit: camasy via Flickr

前後不一致

上文有關前提(1.)和(2.)的討論,已指出于飛未能解釋為何我們應該或可以純粹以「死亡人數的多寡」來作判斷。証立這一點,對於于飛對電車問題的解答成立與否,至關重要。除了上文指出于飛未有証立這一點,最後,我還要指出于飛對於這一點的立場,有前後不一致的問題。于飛在文中曾說:

「的確,假如被迫要去選擇人的生死,怎能僅僅以數量來衡量呢?」

-----廣告,請繼續往下閱讀-----

顯然,于飛認為生命的去留不能純粹以數量來衡量,但他其後對電車問題的解答,卻又認為死一人是電車兩難中「唯一」沒有違反道德的選擇。這兩個立場是前後不一致的。

若果于飛認同,在電車兩難中,生命的去留不能純粹以數量來衡量,那麼為何他又可以認為「死一人」比「死五人」在道德上更恰當?既然他已經認同了生命的去留不能純粹以數量來衡量,那麼,即使在不了解工人背景的情況下,他同樣也不該認同純粹以生命的數量來決定那個選擇是正確。若果生命數量不能充份決定哪個選擇正確,那麼,不管我們是否知道工人背景的情況下,生命數量仍是不能充份決哪個選擇正確。面對電車問題時,若果作者堅持「生命的去留不能純粹以數量來衡量」這個觀點,那麼他應該說「我們沒有充份的資訊來判斷正確的選擇」,而非認為「死一人」是唯一正確的選擇。

總結

在電車問題中,若果要純粹以「死亡人數的多寡」來決定哪一個選擇是道德上最恰當,則需要先証立「為何我們應該或可以純粹以「死亡人數的多寡」來作判斷」。于飛不但未能証立這一點,而且他在這一點的立場上有前不致的問題。因此,于飛對電車問題的解答不成立。

次要的問題

最後有一些次要的問題,我想要談談。于飛在文中提到,修改後的電車問題是真正的「兩難」:

-----廣告,請繼續往下閱讀-----

「兩難的本質立即呈現,因為你選擇令胖子死亡,不同於那逼於無奈身陷險境的鐵路工人,胖子本來就跟你一樣,是事件中的「旁觀者」,而且「身型肥胖」增添了一種意味,好像我們將他當成工具,因為他胖,所以活該被犧牲救人。」

我不理解為何于飛同時認為修改後的電車問題是「兩難」而原初問題不是。要理解他的觀點,大概需要他先回答要下兩條問題:

  1. 若果胖子是事件中的「旁觀者」,為甚麼(在原初電車兩難中)那位單獨的工人不是「旁觀者」?有人可能會解釋,單獨的工人不是「旁觀者」,因為若果我們碰了控桿,單獨的工人便會被列車撞死。不過,在修改的電車兩難中,不也是若果我們推了胖子下去(或觸動機關令胖子掉下去),他便會被列車撞死嗎?為何前者是「旁觀者」,而後者不是?
  2. 為何,在修改的電車兩難中,胖子像是成了我們的工具,而在原初問題,單獨的工人不是?我們不是同樣犧牲他來救人嗎?
文章難易度
所有討論 1
活躍星系核_96
752 篇文章 ・ 126 位粉絲
活躍星系核(active galactic nucleus, AGN)是一類中央核區活動性很強的河外星系。這些星系比普通星系活躍,在從無線電波到伽瑪射線的全波段裡都發出很強的電磁輻射。 本帳號發表來自各方的投稿。附有資料出處的科學好文,都歡迎你來投稿喔。 Email: contact@pansci.asia

0

3
3

文字

分享

0
3
3
圖形處理單元與人工智慧
賴昭正_96
・2024/06/24 ・6944字 ・閱讀時間約 14 分鐘

  • 作者/賴昭正|前清大化學系教授、系主任、所長;合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒,那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬.霍金(Stephen Hawking) 英國理論物理學家

大約在八十年前,當第一台數位計算機出現時,一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧;但七十年後,還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」(Artificial Intelligent,簡稱 AI)的能力最近十年突然起飛,在許多(所有?)領域的測試中擊敗了人類,正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元(graphic process unit,簡稱 GPU)是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia(英偉達)股票從每股不到 $5,上升到今天(5 月 24 日)每股超過 $1000(註一)的全世界第三大公司,其創辦人(之一)兼首席執行官、出生於台南的黃仁勳(Jenson Huang)也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人!可是多少人了解圖形處理單元是什麼嗎?到底是時勢造英雄,還是英雄造時勢?

黃仁勳出席2016年台北國際電腦展
Nvidia 的崛起究竟是時勢造英雄,還是英雄造時勢?圖/wikimedia

在回答這問題之前,筆者得先聲明筆者不是學電腦的,因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事,不是我們外行人需要了解的;但作為一位現在的知識分子或公民,了解基本原理則是必備的條件:例如了解「能量不滅定律」就可以不用仔細分析,即可判斷永動機是騙人的;又如現在可攜帶型冷氣機充斥市面上,它們不用往室外排廢熱氣,就可以提供屋內冷氣,讀者買嗎?

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」(central process unit,簡稱 CPU)。CPU 是電腦的「腦」,其電子電路負責處理所有軟體正確運作所需的所有任務,如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作;但為了簡單化,我們在這裡所談的工作將只是執行算術和邏輯運算的工作(arithmetic and logic unit,簡稱 ALU),如將兩個數加在一起。在這一簡化的定義下,CPU 在任何一個時刻均只能執行一件工作而已。

-----廣告,請繼續往下閱讀-----

在個人電腦剛出現只能用於一般事物的處理時,CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後,CPU 開始顯示心有餘而力不足:例如電玩動畫需要應用程式處理數以萬計的像素(pixel),每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年,英偉達將其一「具有集成變換、照明、三角形設定/裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」(註二)定位為「世界上第一款 GPU」,「GPU」這一名詞於焉誕生。不像 CPU,GPU 可以在同一個時刻執行許多算術和邏輯運算的工作,快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢?因每一時刻只能做一件事,所以其步驟為:

  • 計算 7×5;
  • 計算 6/3;
  • 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢?很多工作便可以同時(平行)進行:

-----廣告,請繼續往下閱讀-----
  • 同時計算 7×5 及 6/3;
  • 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間,但如果我們有 16 對 a×b 要相加呢?單獨的 CPU 需要 31 個運算的時間(16 個 × 的運算時間及 15 個 + 的運算時間),而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間(1 個 × 的運算時間及 4 個 + 的運算時間)!

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了,如何將它擺正成右圖呢? 一句話:「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點(座標 x, y)組成的,所以這句簡單的話可讓 CPU 忙得不亦樂乎了:每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

-----廣告,請繼續往下閱讀-----

即每一點均需要做四個 × 及兩個 + 的運算!如果每一運算需要 10-6 秒,那麼讓《我愛科學》一書做個簡單的角度旋轉,便需要 6 秒,這豈是電動玩具畫面變化所能接受的?

圖形處理的例子

人類的許多發明都是基於需要的關係,因此電腦硬件設計家便開始思考:這些點轉換都是獨立的,為什麼我們不讓它們同時進行(平行運算,parallel processing)呢?於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 106 運算,那上圖的轉換只需 10-6 秒鐘!

GPU 的興起

GPU 可分成兩種:

  • 整合式圖形「卡」(integrated graphics)是內建於 CPU 中的 GPU,所以不是插卡,它與 CPU 共享系統記憶體,沒有單獨的記憶體組來儲存圖形/視訊,主要用於大部分的個人電腦及筆記型電腦上;早期英特爾(Intel)因為不讓插卡 GPU 侵蝕主機的地盤,在這方面的研發佔領先的地位,約佔 68% 的市場。
  • 獨立顯示卡(discrete graphics)有不與 CPU 共享的自己專用內存;由於與處理器晶片分離,它會消耗更多電量並產生大量熱量;然而,也正是因為有自己的記憶體來源和電源,它可以比整合式顯示卡提供更高的效能。

2007 年,英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後,科學家發現獨立 GPU 不但能夠快速處理圖形變化,在需要大量計算才能實現特定結果的任務上也非常有效,因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理,不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化,也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬(註三)等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分,正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲,遠遠落在英偉達(80%)及超微半導體公司(Advance Micro Devices Inc.,19%,註四)之後,大約只有 1% 的市場。

-----廣告,請繼續往下閱讀-----
典型的CPU與GPU架構

事實上現在的中央處理單元也不再是真正的「單元」,而是如圖二可含有多個可以同時處理運算的核心(core)單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心,因此其核心功能不如 CPU 核心強大,但它們能同時高速執行大量相同的指令,在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心;GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書,不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等,也知道它擺斜了。這種「平行運作」的能力不僅限於視覺,它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是:嘴巴在講,腦筋思考已經不知往前跑了多少公里,常常為了追趕而越講越快,將不少學生拋到腦後!這不表示筆者聰明,因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技,因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣(matrix)的讀者應該知道,如果用矩陣和向量(vector)表達,上面所談到之座標轉換將是非常簡潔的(註五)。而矩陣和向量計算正是機器學習(machine learning)演算法的基礎!也正是獨立圖形處理單元最強大的功能所在!因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石:它們的架構就是充分利用並行處理,來快速執行多個操作,進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」(deep learning)。

黃仁勳在 5 月 22 日的發布業績新聞上謂:「下一次工業革命已經開始了:企業界和各國正與英偉達合作,將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升,幫助企業降低成本和提高能源效率,同時擴大收入機會。」

附錄

人工智慧的實用例子:下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後,讀者是不是認為筆者該退休了?

-----廣告,請繼續往下閱讀-----

GPU(圖形處理單元)和 AI(人工智慧)之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力,特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步,使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率,使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐,而且使其更具成本效益,因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展,GPU 的角色可能會變得更加不可或缺,推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標,這些神經元網路可以獨立但有凝聚力地工作,使我們能夠執行複雜的任務,例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外,研究表明,與非人類動物相比,人類大腦具有更多平行通路,這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上,一邊聽音樂一邊做飯,或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技,因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵:透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

(註一)當讀者看到此篇文章時,其股票已一股換十股,現在每一股約在 $100 左右。

(註二)組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」(GeForce 256)插卡吧?

(註三)筆者於 1984 年離開清華大學到 IBM 時,就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士(fellow)」Enrico Clementi 的團隊:因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層,我們只能自己寫軟體將 8 台中型電腦(非 IBM 品牌!)與一大型電腦連接來做平行運算,進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

-----廣告,請繼續往下閱讀-----

(註四)補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商:英偉達及 ATI(Array Technology Inc.)。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立,2006 年被超微半導體公司收購,品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐(Lisa Tzwu-Fang Su)博士為執行長後,股票從每股 $4 左右,上升到今天每股超過 $160,其市值已經是英特爾的兩倍,完全擺脫了在後者陰影下求生存的小眾玩家角色,正在挑戰英偉達的 GPU 市場。順便一題:超微半導體公司現任總裁(兼 AI 策略負責人)為出生於台北的彭明博(Victor Peng);與黃仁勳及蘇姿豐一樣,也是小時候就隨父母親移居到美國。

(註五)

延伸閱讀

  • 熱力學與能源利用」,《科學月刊》,1982 年 3 月號;收集於《我愛科學》(華騰文化有限公司,2017 年 12 月出版),轉載於「嘉義市政府全球資訊網」。
  • 網路安全技術與比特幣」,《科學月刊》,2020 年 11 月號;轉載於「善科教育基金會」的《科技大補帖》專欄。
文章難易度

討論功能關閉中。

賴昭正_96
43 篇文章 ・ 56 位粉絲
成功大學化學工程系學士,芝加哥大學化學物理博士。在芝大時與一群留學生合創「科學月刊」。一直想回國貢獻所學,因此畢業後不久即回清大化學系任教。自認平易近人,但教學嚴謹,因此穫有「賴大刀」之惡名!於1982年時當選爲 清大化學系新一代的年青首任系主任兼所長;但壯志難酬,兩年後即辭職到美留浪。晚期曾回台蓋工廠及創業,均應「水土不服」而鎩羽而歸。正式退休後,除了開始又爲科學月刊寫文章外,全職帶小孫女(半歲起);現已成七歲之小孫女的BFF(2015)。首先接觸到泛科學是因爲科學月刊將我的一篇文章「愛因斯坦的最大的錯誤一宇宙論常數」推薦到泛科學重登。

0

3
3

文字

分享

0
3
3
為什麼「電車難題」那麼難?因為我們同時擁有理性與感性的心!——《欲望分子多巴胺》
臉譜出版_96
・2023/02/04 ・2336字 ・閱讀時間約 4 分鐘

法蘭克.赫伯特(Frank Herbert)的科幻小說經典《沙丘》(Dune)裡面有一段情節,是要看看主角能不能抑制當下的動物本能,證明自己是人。

老婦人要主角把手伸進黑盒子裡,承受難以想像的痛苦,同時拿一根毒針抵著主角的脖子,如果主角把手抽出來,就刺下毒針結束他的生命。老婦人說:「你知道動物落入陷阱的時候,會咬斷自己的腿逃走吧?但只有動物才會這麼做。人類會待在陷阱裡,忍痛裝死,這樣才能殺死設下陷阱的人,從此消滅族人的威脅。」

能不能抑制住當下的動物本能,證明自己是人?/YouTube

決定情緒表現

某些人天生就比較會壓抑情緒,部分原因,就是每個人的多巴胺受體密度和性質未必相同。

多巴胺受體決定多巴胺分泌的時候,大腦會有怎樣的改變,它跟每個人的基因有關。研究人員測量受試者腦中的多巴胺受體密度(包括受體的數量有多少,以及排列得多緊密),比較受體密度與「情緒疏離程度」(emotional detachment)之間的關係。

-----廣告,請繼續往下閱讀-----

科學家用受試者有多麼願意分享個人資訊、有多麼願意與他人交往,來測量每個人的疏離程度。結果發現,多巴胺的受體密度,與受試者的情緒疏離程度呈正相關。受體密度高的人,情緒也比較疏離。另一項研究中,疏離程度得分最高的人,認為自己「冷漠、孤傲、容易記恨」;疏離程度最低的人,則認為自己「太愛照顧別人,容易被利用」。

情緒的展現與多巴胺受體密度有關。圖/Envato Elements

人們的「疏離程度」大部分介於中間,既不冷漠,也不會天天想要照顧別人,而是依環境決定會怎麼做。當目標在我們身邊,近距離直接接觸,或者當我們關注當下,我們腦中的「當下分子」迴路就會啟動,讓我們變得溫暖而重感情。

但當目標遠在天邊,當下看不到摸不到,或者當我們進行抽象思考或關注未來,腦中的理性層面就會浮現,讓我們變得不近人情。倫理學的「電車問題」,就清楚顯示這兩種思維都在我們腦中:

失控的列車沿著軌道衝向五名勞工,如果什麼都不做,他們必死無疑。不過軌道旁邊剛好有個路人,只要把他推到軌道上讓列車撞死,列車就會減速,五個勞工就能及時逃脫。是你的話,會把路人推下去嗎?

在這種敘述情境中,大部分的受試者都無法把路人推到軌道上,他們會說即使是為了拯救五個人,也無法親手殺死一個人。他們因為腦中的「當下分子」而產生同理心,壓過多巴胺的理性計算。

-----廣告,請繼續往下閱讀-----

故事敘述的方式,讓受試者覺得路人就在自己身邊,把他推下軌道的感覺會留在手上;這時候,「當下分子」就會大量分泌,除了最疏離的人以外,幾乎都無法下手推人。

面對失控的列車,你會如何選擇?圖/Envato Elements

離得夠遠,就殺得下手

不過既然五官感受得到的周圍區域,最容易受到當下分子的影響,那麼如果逐漸遠離現場,當下分子是不是就沒那麼能夠影響決策?當我們離自己得殺的人愈來愈遠,當我們從當下分子掌控的周圍區域,退到多巴胺掌控的外界區域,我們是不是就更願意,或者說更能夠用一個人的性命來交換五個人的性命?

我們可以先從消除身體接觸開始。假設你站在一段距離之外,手裡握著一個軌道開關;電車正衝向五個人,但你只要扳動開關,電車就會駛向另一個軌道,撞死一個人。這時候,你會扳動開關嗎?

接下來請退得更遠。你坐在辦公桌前,控制全國火車的行駛路線。忽然電話鈴聲大作,幾千公里外的鐵路工人說列車失控,即將撞上五個人;你只要按下手邊的開關,就可以切換軌道,但會讓電車撞死一個人。這時候你會按嗎?

-----廣告,請繼續往下閱讀-----

最後我們來到最抽象的情境,一個「當下分子」幾乎無從作用,幾乎只剩下多巴胺的情境:你是鐵路系統工程師,正在設計各種緊急應變方案。你在鐵軌旁邊安裝了攝影機,可以即時蒐集鐵軌上的資訊;而且寫出了一個程式,可以根據當下的狀況即時切換列車軌道。你會讓這個程式在未來遇到電車問題的時候,犧牲一個人去拯救五個人嗎?

你會為了救五人,犧牲一人性命嗎?圖/維基百科

這幾個敘述方式差異很大,但結果其實都一樣:
如果要拯救五個人就得殺掉一個人,如果不想殺人就得放五個人去死。

但不同的場景引發的反應卻不相同,很少人願意親手把人推到鐵軌上;但絕大多數的人都毫不猶豫地讓程式切換鐵軌,盡量減少死亡人數。這就好像我們腦中住著兩顆完全不同的心,其中一顆心只根據理性來判斷;另一顆心則很重感情,即使知道對大局不利,也無法下手殺人。

理性的心只在乎能活下來的人愈多愈好,感性的心卻同時在意其他事情。

多巴胺迴路的活躍程度,大幅影響了我們偏向哪一顆心。

——本文摘自《欲望分子多巴胺:帶來墮落與貪婪、同時激發創意和衝動的賀爾蒙,如何支配人類的情緒、行為及命運》,2023 年 1 月,臉譜出版,未經同意請勿轉載。

-----廣告,請繼續往下閱讀-----
臉譜出版_96
88 篇文章 ・ 255 位粉絲
臉譜出版有著多種樣貌—商業。文學。人文。科普。藝術。生活。希望每個人都能找到他要的書,每本書都能找到讀它的人,讀書可以僅是一種樂趣,甚或一個最尋常的生活習慣。

4

11
3

文字

分享

4
11
3
在機器與人的交會之處——《再.創世》專題
再・創世 Cybernetic_96
・2021/09/08 ・6672字 ・閱讀時間約 13 分鐘

-----廣告,請繼續往下閱讀-----

  • 作者/施奇廷|東海大學應用物理學系 
「羅梭的萬能機器人」(Rossum’s Universal Robots) 劇中機器人反抗人類的一幕。圖/WIKIPEDIA

起源

從 1920 年「羅梭的萬能機器人」(Rossum’s Universal Robots,通稱R.U.R.)登上舞台以來,「機器人」這個概念,一直是科幻作品中的常客。機器人「具有人的形象,而(在某些方面)具有比人類更強的能力」的設定,一直刺激著人類的想像力:能力強大卻又聽命於人類的忠實僕人;或是領悟到自己其實可以取代人類,成為下一代的地球霸主?樂觀的期待與被反噬的恐懼,向來是欣賞以機器人為主題的科幻作品的兩大樂趣。不過近十年來「人工智慧」(Artificial Intelligence)與「機器人學」(Robotics)的發展速度超乎預期,上述本來只存在於科幻作品中的兩面議題,突然變得不是那麼遙不可及。

提出「機器人學」這個名詞,並將理論系統化的,並不是工程領域的學者,而是科幻小說大師艾薩克‧艾西莫夫(Isaac Asimov),這個詞現在已經成為工程界對機器人科學的正式名稱,是一個從科幻對科技「逆輸入」的有趣案例。生於俄羅斯的艾西莫夫的本行是就科學家(專長是生物化學),曾經任教於波士頓大學醫學院,不過後來因為全力投入寫作,不再進行一般學者的教學研究工作,但是波士頓大學仍然保留他的職位。他所接受過的嚴謹科學訓練,也反映在作品中。1940 年,年方 19 歲的艾西莫夫就發表了第一篇機器人短篇小說「小機」(Robbie,收錄於短篇小說集「我‧機器人」),開啟了「機器人系列」的序幕。

法則

「人類製造的機器人結果反過來支配人類」這個命題可說是充滿「為何要搬磚頭砸自己的腳」的矛盾,因為人類絕對可以在一開始設計、製造時就預防這件事發生。不過睽諸人類科技發展的歷史,這種矛盾其實一直存在,也不斷發生,目前我們面臨的「核能科技的發展衍生的核子大戰威脅」、「高度工業化生產導致環境污染」,以及「大量使用石化燃料導致全球氣候變遷」這些問題,都是現在進行式。

不過「人類依照自己的形象打造的仿人類」又有點不同,高功能的機器「外型像人」這件事,足以引起人類的「科學怪人情結」,讓人類會對機器人的發展保持高度的戒心,在此思考下,1942 年時,艾西莫夫在他的作品中,比照「牛頓運動學三定律」的規格,揭示了「機器人三定律」:

-----廣告,請繼續往下閱讀-----

一、機器人不得傷害人類,也不能坐視人類受到傷害

二、在不違反第一法則的前提下,機器人必須保護自己的安全

三、在不違反第一與第二法則的前提下,機器人必須執行人類的命令

這三大法則是在機器人出廠時,就內建於其軟硬體內,絕對不容違反。如果讀者是「理科人」的話,大概會覺得這三大法則邏輯簡單明瞭,簡直無懈可擊,在此控制下,機器人應該可以成為人類最忠實的僕人,無須擔心他們會叛變了。

有趣的是,在艾西莫夫的機器人短篇小說中,幾乎都是在探討「會引起三大法則的缺陷、迷惑、矛盾的可能情境」,所以幾乎每篇小說都會產生一個「精神錯亂」的機器人。這些小說非常有趣,推薦喜歡「燒腦型作品」的讀者一讀。

Will Smith Robot GIF by 20th Century Fox Home Entertainment - Find & Share on GIPHY
電影中違反三大法則的機器人。/Giphy

這個系列作品的內容其實也部分反映了人性:人也是又內建「道德基準」(moral norms),能進行邏輯思考的動物,但是即使最理性冷靜的人,也是會碰到兩難的困境,例如著名的「電車難題」:「一輛失控的列車在軌道上急馳,在軌道上有五個人即將被碾過,你剛好在鐵軌的轉軌器旁邊,只要扳動轉軌器,就可以把列車轉向另一條軌道,但是另一條軌道上有一個人,本來不會有事,因為你將列車轉軌而會被碾斃,在這個狀況下,你到底要不要將列車轉軌呢?」幾十年來這個問題引起了許多哲學以及倫理學、社會學的廣泛討論。事實上,自動駕駛汽車(除了不具有人形之外,其實也算是機器人的一種)的設計就必須把這類情境納入考量。

電車難題。自動駕駛汽車的設計就必須把這類情境納入考量,其中牽涉了哲學、倫理學以及社會學 。 圖/WIKIPEDIA

就筆者的「理科腦」來看,這些矛盾的起因是「機器人定律與人類的道德準則是定性的,而實際情境卻是定量的」。例如兩個人類同時對一個機器人下命令,而這兩個命令互相矛盾,那麼這個機器人到底要聽誰的?這時候機器人必須對下命令的兩個人做出「定量上的評價」,決定執行哪一個命令。這個結果導致「機器人可以(必須)評價人類,將人類分出等級」,之後又會衍生出更多的問題…

-----廣告,請繼續往下閱讀-----

1985 年時,在機器人系列故事四十餘年的發展之下,艾西莫夫被自己的筆下的故事逼得追加了一個「第零定律」,位階在原來的三定律之上:「機器人不得傷害『整體人類』,或坐視『整體人類』受到傷害。」,這下子定律的規格從「牛頓三定律」變成了「熱力學的零+三定律」了,不愧是正統派科學家出身!這個第零定律跟之前一樣,從邏輯上看起來也很合理,但是這又造成機器人必須評價「整體人類」的福祉是什麼,由於第零定律凌駕於第一定律之上,因此視情況機器人是可以為了避免整體人類受到傷害,而去傷害甚至殺死個人的,最後可能會演變成「機器人為了整體人類好而接管、控制人類社會」的反烏托邦結果。

不過或許是因為「機器人叛變」這個展開實在太過顯而易見,而且因為可以塞進許多動作場面而成為影視作品愛用的題材,艾西莫夫的機器人作品中對這方面反倒是著墨不多,而是將關心的焦點放在「機器人是否能在三定律的規範下,活出自己的人格?」這個主題的代表作,就是獲得 1976 年「雨果獎」與「星雲獎」雙料大獎的中篇小說「雙百人」,後來在 1992 年由令一位作家羅伯特‧席維伯格(Robert Silverberg)擴充成長篇小說「正子人」;這個故事也在 1999 年改編為電影「變人」,由已故的喜劇泰斗羅賓‧威廉斯(Robin Williams)主演。

說實在的,想要瞭解「機器 → 人形機器 → 機器人 → 人」的演進與思辯,而又沒有很多時間與耐性的讀者,看這一本就夠了。

1999 年的科幻電影《變人》,由作家羅伯特‧席維伯格的長篇小說「正子人」改編而成。

分流

前面花了相當的篇幅講了艾西莫夫的機器人觀,除了這個「大師典範之外」,其實幾十年的科幻與娛樂文化演變下來,機器人也了更多的樣貌。

-----廣告,請繼續往下閱讀-----

好萊塢電影與日本動漫畫,是目前全球影視娛樂的兩大主流,當然兩者還是有一段差距,好萊塢挾其資金、人才、技術的實力,最為強勢;不過「小本經營」的日本御宅文化,在全世界的影響力也逐年提升,對好萊塢電影也產生了不小的影響。它們對於機器人這個主題的處理,有很大的不同。以下分成不同的機器人類型討論,不過要先說明的是,以下的分類有些是好萊塢電影擅長的題材,有些則是日本動漫畫的偏好,但是其實並沒有這麼涇渭分明,大部分在兩邊都有出現,只是多寡有別。

一、近未來,覺醒的機器人,成為人類之敵——好萊塢電影的機器人,跟艾西莫夫的機器人類似,是外型、尺寸都比照人類,並且具有不同程度的人工智慧。不過如前所述,好萊塢電影中的機器人有許多都是扮演「人類之敵」的大反派,完全不受艾西莫夫「機器人三定律」的節制,最經典的例子就是「魔鬼終結者」系列,劇中的機器人存在的目的就是用來追殺人類——可說是把「機器人三定律」完全反過來看就行了。這些機器人的背後是由一個名為「天網」的人工智慧,也可以說是個不具人形的機器人,本來是美國研發的國防電腦系統,後來這個系統產生自我意識,並且判斷人類才是「世界最大的威脅」,於是就發動核戰毀滅人類,並且持續掃蕩殘存的人類反抗軍,並且派遣機器人穿越時間回到過去殺害反抗軍領袖的母親以斬草除根。

相對於艾西莫夫小說中以「機器人三定律」來節制機器人的能力,以消除人們的「科學怪人情結」,努力讓人類社會接受機器人;「魔鬼終結者」系列是反過來喚起觀眾的「科學怪人情結」,再加上「末日電影」的背景設定,來營造危機感與戲劇性,然後在人類與機器人的對立下順理成章的大打出手,「拳腳與槍砲齊飛,鮮血共煙硝一色」,讓本來是「低成本 B 級動作片」的「魔鬼終結者」成為娛樂性與思想性兼具的成功作品。就這個視角而言,「駭客任務」中的架構與設定,以及成功的要素也頗有共同之處。

終結者 GIF
魔鬼終結者喚起觀眾的「科學怪人情結」,成為娛樂性與思想性兼具的成功作品。 圖/Giphy

二、遙遠的未來,機器人已經融入人類社會,共同面對更廣闊的星際世界——上述這種「人類與機器人的衝突與生死戰」的背景通常發生於「近未來」,故事舞台跟現代有相當程度的重疊,機器人進入生活的正面與負面效應,都比較能引起觀眾的代入感。如果是以「遙遠的未來」為背景,機器人與人類之間的「磨合陣痛期」已經過去,像是兩大名門「星際大戰」與「星際爭霸戰」,人類的足跡已經遍佈銀河系,見識過各種稀奇古怪的外星生命體,機器人也早就已經成為人類好伙伴,甚至被視為跟人類同等的存在了。

-----廣告,請繼續往下閱讀-----

三、機器人是人類肉體的延伸,力量的放大器——另一方面,日本動漫畫作品中的機器人,除了早期的「原子小金剛」是走「真人的大小與外貌,且具有人工智慧」的路線以外,主流是象徵「人類力量的延伸」的「巨大機器人」類型。這種機器人不具有人工智慧,而是搭載操作界面與作業系統,由人類駕駛員來操作,相當於扮演其大腦的角色。以早期的名作「無敵鐵金剛」而言,所標舉的主題是「如果人類透過機器取得了巨大的力量,將會成為神?還是成為惡魔?」,這類作品有別於西方「機器如何變成人」,而是「人類與機器合為一體」的概念。

機器人是吸引目標觀眾目光的賣點,也是贊助或出資廠商販賣模型玩具的獲利神器,導致許多巨大機器人動畫作品一味強調機器人造型帥氣而不注重劇情內涵,被譏為「為了販賣玩具所製作的 30 分鐘廣告片」,不過由於出資者只要求「機器人玩具賣得好」,對於內容不太有興趣干涉,反而讓創作者有揮灑的空間,出現了「長濱忠夫三部曲」、「機動戰士鋼彈」等名作。1995 年的「新世紀福音戰士」,把前述「人類與機器合為一體」的概念推到極致,駕駛員是透過神經系統直接與機器人(稱為 Evangelion,簡稱 EVA )「同調」連結,以精神力取代操縱桿與按鈕,直接操控 EVA——不過其實 EVA 與其說是機器人,「生化」味更重一些,劇中還曾出現駕駛員與 EVA 機體「完全融合」的情節。

Evangelion GIF - Find & Share on GIPHY
EVA 與其說是機器人,「生化」味更重一些,劇中還曾出現駕駛員與 EVA 機體「完全融合」的情節。圖/Giphy

四、機械化的人類——人與機器的關係,除了「機器→人形機器→機器人→人」這條路線外,也有反方向的路徑:由於疾病或受傷而失去部分身體功能的人,利用科技的力量改造身體,恢復正常的功能,甚至更為強大,這種被部分改造的人類稱為「改造人 Cyborg」(cybernetic organism),結合了「模控學」與「有機體」兩個字,也有人翻譯為「生化電子人」、「半機械人」,後來乾脆直接音譯為「賽伯格」。其實許多現實世界的人類已經多多少少變成改造人了:義肢、人工水晶體、心律調節器、人工關節等等,人們已經普遍可以接受為了維持身體機能以侵入性的方式改造部分器官,未來可以預見改造的範圍與精密程度必定會逐漸提升。

在這個「人體改造」的延長線上,我們可以看到像「機器戰警」中,殉職的員警被改造並且復活來執行正義,「鋼鐵人」受傷後在自己的胸腔裝了一個反應爐,成為裝甲動力服的能量來源;日系作品方面,有「無敵金剛 009」(後來改名為「人造人 009」,少了一股中二的氣勢)、「假面騎士系列」(真人演出的特攝片),這些作品中,並非前述因為疾病或受傷而修補人體,而是為了培養「征服世界用的超級士兵」,而將人體改造成具有超越一般人能力的戰鬥道具。

-----廣告,請繼續往下閱讀-----

與「機器人覺醒為人類、或自覺為超越人類的存在」的方向相反,在「改造人」這條線上會出現的問題則是「當人類持續被改造,被機械取代的部位越來越多,會不會因此變成『不是人類』?這個轉變的界線何在?」也是非常值得探討的問題,也讓「改造人」這類的作品更具有思想上的深度。

近年來日本動漫畫與好萊塢合流的作品逐漸增加,「攻殼機動隊」與「戰鬥天使艾莉塔」是其中翹楚,都是以「改造人與人類的分界線」,以日本原創的動漫畫作品為主題,結合好萊塢的資金與技術的大製作電影,都獲得了相當程度的成功。

交會

本文以包含小說、電影、動漫畫等科幻作品的角度來看「機器人與人」之間的關係。雖然不是從真實世界的科學與技術來進行嚴謹的探討,不過在「機器人與人」這個主題上,科技與科幻的發展路徑其實亦步亦趨、互為因果:如同艾西莫夫的「機器人學」與「機器人三定律」對真實世界的機器人科技有極大的影響一般,科幻的想像有可能成為引導科技發展的路標;相對的,科技的發展當然也會墊高科幻作品的根基。

前文我們看過了幾種「機器人與人」的類型作品:從機器人變成人、機器人與人共存、機器人與人合體、從人變成機器人。這幾種模式,各自以不同的視角來刺激我們思考「人到底是什麼」這個問題。從數十年來這個主題的科幻作品的發展看來,不論是從哪個角度切入,最後都指向一個共同的交會點:人類的大腦。

-----廣告,請繼續往下閱讀-----
數十年來這個主題的科幻作品的發展看來,不論是從哪個角度切入,最後都指向一個共同的交會點:人類的大腦。 圖/Pixabay

「正子人」中的機器人主角「安德魯‧馬丁」要爭取在法律上被認可為「人」,其起點是他的「正子腦」產生了類似人腦的感情、創造力、以及自我意識的自覺,在其兩百年的生涯中,他的「鉑銥合金正子腦」的運作模式與人腦越來越接近,應該可以通過任何像「圖靈測試」這種「能分辨人腦與電腦差別」的考驗。而他克服爭取成為「人」的最後阻礙的方式是:改造他那相對於人腦幾乎算是不朽的正子腦,讓它像人腦般會逐漸老化與死亡,終於取得了「人」的資格。

另一方面,「從人變成機器人」的這條路上,也是以「大腦是不是原裝貨」來作為人類與機械的分界點。身上的器官怎麼更換都沒關係,但是這個人的「自我」(identity)只存在於大腦的神經元之間的連結以及在內部儲存以及傳送的資訊中,如果大腦被換掉、或是內部的資訊消失了,這個人也將不再存在。更激進的說法是,連大腦的「硬體」都不重要,只有內含的資訊才是「人的本體」,所以只要能夠把腦內的資訊保留、複製下來,人將可以成為不朽的存在,就像「攻殼機動隊」的主角草薙素子,拋棄了已經多次改造的肉身,以及還是「原裝」的大腦,將腦內資訊轉進網路中,只要這個網路仍在運作,這組來自草薙素子大腦的資訊仍存在於這個網路中,她就相當於取得了永生。

回到現實世界,「人工智慧」與「腦科學」正好也是目前最熱門、進展也最快的科技領域,前者致力於「讓機器除了強大的計算與記憶能力之外,還能像人腦一樣能進行複雜的思考」,後者則是要「瞭解大腦如何學習、記憶、創造,以及人類的自我意識從何而來」,這兩個領域發展的進程與細節跟科幻作品當然不會一模一樣,但是在大方向上,「科學」與「科幻」實在有驚人的相似之處,最後兩個領域也有可能交會在同一點上。

看看社群網站的自動審查機制,以及電子商務網站的推薦系統,極權國家用來監控人民的社會科技體系,「不具人形的機器人」正逐漸接管我們的生活。也許在我們的有生之年,就可以看到這些科幻名作中的情節在現實世界中發生,至於人與機器人之間的關係,是對抗、共生、還是融合?人類社會未來的流向,仍然掌握在人類手上嗎?再不嚴肅思考這個問題,或許很快就會來不及了。

-----廣告,請繼續往下閱讀-----
所有討論 4
再・創世 Cybernetic_96
11 篇文章 ・ 29 位粉絲
由策展人沈伯丞籌畫之藝術計畫《再・創世 Cybernetic》,嘗試從演化控制學的理論基礎上,探討仿生學、人工智慧、嵌合體與賽伯格以及環境控制學等新知識技術所構成的未來生命圖像。