0

0
0

文字

分享

0
0
0

當科技可以操控生命,我們為何不能扮演上帝?──《道德可以建立嗎?》

PanSci_96
・2017/06/21 ・4226字 ・閱讀時間約 8 分鐘 ・SR值 530 ・七年級

  • 【科科愛看書】小時候老師常常要我們成為一位有德之人,可是可是……《道德可以建立嗎?》如果道德可以建立的話,那我們又該怎麼做?總而言之,快快拋開那些讓人暈頭轉向的道德教科書,來面對有趣的難題,一起來燃燒大腦、喚醒你的哲學小宇宙吧!

不應該扮演上帝的角色,或不應該過於違反自然,這個論點究竟有什麼價值?

超完美人類該不該出現?

如果基因工程能大幅改善我們的肌肉、感覺、感情或認知能力,以及我們的身材與其他外型元素,我們目前對人類屬性的辨識標準必定有所更改。如果有可能運用化學或機械方式,在我們腦袋中誘引出各種信念、欲望與感覺,監視與操控心靈的技術就可達到更高的程度:甚至個人經驗以及內在的意識自由這樣的觀念都無法抵擋。

如果人類因為基因工程、化學或機械方式大幅改造,那麼人類屬性的辨識標準必定有所更改,甚至連個人經驗以及內在的意識自由這樣的觀念都可能不復在。圖/IMDb

如果天然或人造器官的移植不再有任何技術性的困難,那麼我們對人體的神聖、不可分割、不可被他人利用的性質,以及人體與我們個人認同之間具親密關連的種種想法,最終都會改變。

如果人類的生殖複製成為可能,我們大概會被迫放棄這樣的想法:一無所知的未來,構成了我們的身分。

如果我們更加清楚也更能控制老化的過程,如果我們能以良好的健康狀態無限延續生命,那麼什麼是「失敗」或「成功」的人生,就不再有跟現在一樣的定義。如果有可能創造出超人類、後人類、類人類、賽伯人或不同物種嵌合人,我們對道德群體所畫出的範圍,指的是我們選擇出來不能被當成物品對待、不是只能利用或食用的生物,這方面的種種看法或許都會徹底改變1

-----廣告,請繼續往下閱讀-----

如果所有這些知識與科技變得容易理解,人人都能用,必然給我們的生活帶來實用的結果;誰要是否認這一點就太可笑了。這些結果有可能全是負面的嗎?它們會讓我們的倫理觀產生根本的改變嗎?目前我們還遠遠無法了解,未來生物醫學技術的發展與運用會造成的一切後果。我們可以預料,到目前為止我們關於人類本性的許多先入之見,可能因為這些蘊涵而作廢,我們對善的理解也會改變。不過為什麼這些會影響到我們對正義的理解,以及訴諸正義的要求,例如每個人都能平等享用自己想要的、由技術革新帶來的成果?

你是否認為,就算所有人都能從這些生物技術中獲得同等好處,也必須禁止實現這些計畫?你是否認為,就算這些生物技術能用來消除人與人之間某些天生的不平等,也必須禁止實現這些計畫?

你是否認為,禁止這些生物技術並不是在考慮正義或不正義的問題,而是單純因為實現這些生物技術可能危害到我們對人類認同的理解?你是否認為,禁止這些生物技術並不是在考慮正義或不正義的問題,而是單純因為實現這些生物技術可能危害到我們對善的理解?

你是否認為,有可能接受這些計畫中的某幾項但不是全部,或者你認為全部都該禁止沒有任何例外,因為就怕有某個恐怖的滑坡,把我們從最能接受的程度,帶到最可怕的地步?

-----廣告,請繼續往下閱讀-----
你是不是覺得應該把生物技術全部禁止沒有任何例外,因為就怕有某個恐怖的滑坡,把我們從最能接受的程度,帶到最可怕的地步?圖/IMDb

所謂「自然」到底指的是什麼?

女性到了四十歲,還有一半的生命在前面等著,而且她們的平均壽命還能繼續延長。有了醫學進步的幫助,她們的健康狀態維持得越來越久,仍然能掌控自己的能力與外表。冷凍卵子的技術可以讓她們晚一點才生孩子,甚至過了更年期再生也不冒任何風險。在生育上和男性平等不再是個空想。

然而,大部分女性似乎不接受這樣的遠景。92% 完全拒絕,而四十歲以下的法國女性,只有 8% 考慮冷凍卵子。而且,在這些人當中,只有 3% 表示,如果真有這樣的技術,她們「一定」會這麼做,而 5% 則說,「大概」會這麼做2

為什麼?在她們的解釋當中,有人說不應該「過於違反自然」3。可是她們對化學避孕方式的接受度很高。這難道不是很明顯的捨棄自然嗎?不應該「過於違反自然」,這個論點有什麼價值?

自然」跟所有廣袤的觀念一樣,具有好幾個意思。彌爾認為它有兩個主要的意思4

-----廣告,請繼續往下閱讀-----

(1)代表所有存在的東西,以及根據物理定律所有可以存在的東西(這就把奇蹟排除在外,但沒有排除基因改造物)。
(2)代表沒有人類介入的世界會呈現的樣子(這幾乎直接或間接排除了地球上所有存在的東西)。

如果考慮第一個意思,那麼人類必須遵循自然這句話就很可笑。因為人本來就只能遵循自然。所有他經歷或感受的,都符合自然的定律。所有他做的、所有他製造的,也都不可能違反自然定律(包括生物科技、基因改造科技)。

如果考慮第二個意思,那麼人類必須遵循自然的想法,既不合理也不道德。

不合理:人類的一切行動都在改變自然的運行,而且一切行動都對這種改變有用。不做任何「違反自然」的事,就等於什麼都不做!也可以說「仿效自然」在第二個意思當中,意味著絕對禁止任何技術上的創新,包括用來切奶油的那條線。

-----廣告,請繼續往下閱讀-----

不道德:如果人做的全是自然會做的事,我們一定會覺得那就是怪物。

「事實上,我們會赫然發現,如果人類對人類做出和大自然每天對人類所做的一樣的事,人會被關起來,或吊死(…)。大自然把人刺穿、把人粉碎像用車輪輾過、把人當飼料餵給猛獸、把人活活燒死、對人投石塊像對待第一個殉難的基督徒;大自然讓人餓死、凍死、用它迅速或緩慢的毒氣讓人中毒,還保留數百種其他駭人聽聞的死法,就連納比斯(Nabis)或圖密善(Domitianus)富有獨創性的殘酷本領都未曾超越。」5

為了對彌爾表示贊同(這是我的習慣),我想補充一點,以遵循自然為職責(或禁止違反自然),在上述兩個意義下,都嚴重背離了不少道德推理的基本規則。聲稱人必須遵循自然(或不能違反自然),違反了以下這項規則:沒有必要強迫人去做他們自己必定會做的事。

確實如此,如果人類的所作所為不可能違反自然法則(採用第一個意思),又何必鄭重其事地說這麼做是他的職責?何必囑咐他去做他已經在做的事?此外,為了說明什麼是好或壞、正當或不正當,而以第二個意思訴諸自然,也會違反這個規則:不能因為事情是怎麼樣,就說它應該怎麼樣。

-----廣告,請繼續往下閱讀-----

這個規則其實有以下的含意:

(1)某件事不是因為是自然的就是好的。

(2)某件事不是因為不是自然的就是壞的。

訴諸自然不僅背離了必須用相似的方法處理相似的事件這個原則,還會編造出各式各樣的「滑坡論證」。

-----廣告,請繼續往下閱讀-----

恐怖滑坡真恐怖?沒有邏輯才可怕

認為生物技術會造成「恐怖的滑坡」,意思是如果我們容許某個道德價值有爭論的行為(安樂死、胚胎研究、墮胎等等),最終就必定要容許另一些行動,而這些行動在道德上是絕對且毋庸置疑必須受到譴責的:大規模清除窮人、弱者、難看的人、殘障或後期墮胎。

許多人認為生物技術會造成「恐怖的滑坡」,意思是如果我們容許某個道德價值有爭論的行為,最終就必定要容許另一些行動,在道德上是絕對且毋庸置疑必須受到譴責的:大規模清除窮人、弱者、難看的人、殘障或後期墮胎。圖/By Filipe Moreira @ flickr, CC BY-SA 2.0

如果我們不要獲得這些無法接受的結論,一開始就不要讓危險的滑坡出現,因為這是滑坡論證的必然走向。這個論點的難題在於,讓我們必定得出可惡結論的理由可能是藏起來的,也可能毫無根據。

有關生殖複製的公共辯論是個很有意思的事件,因為我們清楚看見,不應該「過於違反自然」或「把自己當作神」的想法,帶出許多輕率的滑坡論證,以及其他道德推理的錯誤。

(1)生殖複製技術的開發,可能具有不良意圖。可是其他的人工生殖技術也有這個可能,它們卻沒有因為這樣就被禁止。例如沒有人會認為必須完全禁止體外人工受精,因為也許有一天,某個暴虐的政府會強迫婦女接受冷凍胚胎,以便為國添增人口,解決退休的問題。那麼,為什麼生殖複製一定會導向最壞的結果?這難道不是滑坡論證的謬誤所造成的恐懼?

-----廣告,請繼續往下閱讀-----

(2)就算我們基於某些理由,尤其是宗教上的理由,反對生殖複製的開發,我們也能理解那些以醫療為目的,而對生殖複製技術產生的高度需求。可是有什麼理由可以用來支持以生殖為目的的生殖複製?這不符合沒有必要禁止人去做他們絕對不會自願去做的事。

(3)生殖複製時常受到譴責的原因是,這是一種對人的侵犯,因為以這種方式生下來的孩子,純粹是工具性的計畫產物。可是,如果必須禁止所有可以評定為「工具性」的生育計畫,大概也沒剩下多少計畫可以進行。幾個世紀以來人們養兒育女,就為了生病或年邁時能得到照顧與供養。我們不能說這些親子計畫不具工具性。然而,似乎沒有人認為這樣的事特別不道德。

事實上,生孩子的計畫一直多多少少帶有工具性。人之所以要生孩子,難道不是為了確保相當程度的物質或情感保障,讓自己的伴侶或父母高興等等?為什麼唯有提到生殖複製的時候,生殖行為才被認定帶有工具性,還被評論為不道德或駭人聽聞?這違反了「用相似的方法處理相似的事件」這項規則。

生殖複製時常受到譴責的原因是,這是一種對人的侵犯,因為以這種方式生下來的孩子,純粹是工具性的計畫產物。可是你有沒有想過生孩子的計畫多多少少都帶有工具性?圖/By Profile @ pixabay, CC0 Public Domain

雖然大部分反對生殖複製的論點,因為違反了道德推理的基本規則而沒有接受的必要,這不表示我們有什麼好的理由來推動生殖複製。有個思想實驗可以幫助我們了解為什麼。

設想以下這個不能算是完全荒誕的情況:人類的自然生殖力受到威脅,因為人類精子出現普遍且不可逆轉的枯竭現象。在這種情況下,無性繁殖可以為人類物種的延續問題提供合理的解決方法,也許是唯一的方法。

我們還能設想出其他狀況,來推動生殖複製嗎?如果不能,為什麼還要繼續推動?

注釋:

  1. Smilansky, Ten Moral Pardoxes, op. cit., p. 134-137.
  2. IPSOS, Enquête maternité, 2009.
  3. Ibid.
  4. John Stuart Mill, La nature (1874), trad. Estiva Reus, Paris, La Découverte, 2003.
  5. Ibid., p. 68-69.

 

本文摘自《道德可以建立嗎?:在麵包香裡學哲學,法國最受歡迎的 19 堂道德實驗哲學練習課》臉譜出版

-----廣告,請繼續往下閱讀-----
文章難易度
PanSci_96
1254 篇文章 ・ 2382 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。

0

1
0

文字

分享

0
1
0
人與 AI 的關係是什麼?走進「2024 未來媒體藝術節」,透過藝術創作尋找解答
鳥苷三磷酸 (PanSci Promo)_96
・2024/10/24 ・3176字 ・閱讀時間約 6 分鐘

本文與財團法人臺灣生活美學基金會合作。 

AI 有可能造成人們失業嗎?還是 AI 會成為個人專屬的超級助理?

隨著人工智慧技術的快速發展,AI 與人類之間的關係,成為社會大眾目前最熱烈討論的話題之一,究竟,AI 會成為人類的取代者或是協作者?決定關鍵就在於人們對 AI 的了解和運用能力,唯有人們清楚了解如何使用 AI,才能化 AI 為助力,提高自身的工作效率與生活品質。

有鑑於此,目前正於臺灣當代文化實驗場 C-LAB 展出的「2024 未來媒體藝術節」,特別將展覽主題定調為奇異點(Singularity),透過多重視角探討人工智慧與人類的共生關係。

-----廣告,請繼續往下閱讀-----

C-LAB 策展人吳達坤進一步說明,本次展覽規劃了 4 大章節,共集結來自 9 個國家 23 組藝術家團隊的 26 件作品,帶領觀眾從了解 AI 發展歷史開始,到欣賞各種結合科技的藝術創作,再到與藝術一同探索 AI 未來發展,希望觀眾能從中感受科技如何重塑藝術的創造範式,進而更清楚未來該如何與科技共生與共創。

從歷史看未來:AI 技術發展的 3 個高峰

其中,展覽第一章「流動的錨點」邀請了自牧文化 2 名研究者李佳霖和蔡侑霖,從軟體與演算法發展、硬體發展與世界史、文化與藝術三條軸線,平行梳理 AI 技術發展過程。

圖一、1956 年達特茅斯會議提出「人工智慧」一詞

藉由李佳霖和蔡侑霖長達近半年的調查研究,觀眾對 AI 發展有了清楚的輪廓。自 1956 年達特茅斯會議提出「人工智慧(Artificial Intelligence))」一詞,並明確定出 AI 的任務,例如:自然語言處理、神經網路、計算學理論、隨機性與創造性等,就開啟了全球 AI 研究浪潮,至今將近 70 年的過程間,共迎來三波發展高峰。

第一波技術爆發期確立了自然語言與機器語言的轉換機制,科學家將任務文字化、建立推理規則,再換成機器語言讓機器執行,然而受到演算法及硬體資源限制,使得 AI 只能解決小問題,也因此進入了第一次發展寒冬。

-----廣告,請繼續往下閱讀-----
圖二、1957-1970 年迎來 AI 第一次爆發

之後隨著專家系統的興起,讓 AI 突破技術瓶頸,進入第二次發展高峰期。專家系統是由邏輯推理系統、資料庫、操作介面三者共載而成,由於部份應用領域的邏輯推理方式是相似的,因此只要搭載不同資料庫,就能解決各種問題,克服過去規則設定無窮盡的挑戰。此外,機器學習、類神經網路等技術也在同一時期誕生,雖然是 AI 技術上的一大創新突破,但最終同樣受到硬體限制、技術成熟度等因素影響,導致 AI 再次進入發展寒冬。

走出第二次寒冬的關鍵在於,IBM 超級電腦深藍(Deep Blue)戰勝了西洋棋世界冠軍 Garry Kasparov,加上美國學者 Geoffrey Hinton 推出了新的類神經網路算法,並使用 GPU 進行模型訓練,不只奠定了 NVIDIA 在 AI 中的地位, 自此之後的 AI 研究也大多聚焦在類神經網路上,不斷的追求創新和突破。

圖三、1980 年專家系統的興起,進入第二次高峰

從現在看未來:AI 不僅是工具,也是創作者

隨著時間軸繼續向前推進,如今的 AI 技術不僅深植於類神經網路應用中,更在藝術、創意和日常生活中發揮重要作用,而「2024 未來媒體藝術節」第二章「創造力的轉變」及第三章「創作者的洞見」,便邀請各國藝術家展出運用 AI 與科技的作品。

圖四、2010 年發展至今,高性能電腦與大數據助力讓 AI 技術應用更強

例如,超現代映畫展出的作品《無限共作 3.0》,乃是由來自創意科技、建築師、動畫與互動媒體等不同領域的藝術家,運用 AI 和新科技共同創作的作品。「人們來到此展區,就像走進一間新科技的實驗室,」吳達坤形容,觀眾在此不僅是被動的觀察者,更是主動的參與者,可以親身感受創作方式的轉移,以及 AI 如何幫助藝術家創作。

-----廣告,請繼續往下閱讀-----
圖五、「2024 未來媒體藝術節——奇異點」展出現場,圖為超現代映畫的作品《無限共作3.0》。圖/C-LAB 提供

而第四章「未完的篇章」則邀請觀眾一起思考未來與 AI 共生的方式。臺灣新媒體創作團隊貳進 2ENTER 展出的作品《虛擬尋根-臺灣》,將 AI 人物化,採用與 AI 對話記錄的方法,探討網路發展的歷史和哲學,並專注於臺灣和全球兩個場景。又如國際非營利創作組織戰略技術展出的作品《無時無刻,無所不在》,則是一套協助青少年數位排毒、數位識毒的方法論,使其更清楚在面對網路資訊時,該如何識別何者為真何者為假,更自信地穿梭在數位世界裡。

透過歷史解析引起共鳴

在「2024 未來媒體藝術節」規劃的 4 大章節裡,第一章回顧 AI 發展史的內容設計,可說是臺灣近年來科技或 AI 相關展覽的一大創舉。

過去,這些展覽多半以藝術家的創作為展出重點,很少看到結合 AI 發展歷程、大眾文明演變及流行文化三大領域的展出內容,但李佳霖和蔡侑霖從大量資料中篩選出重點內容並儘可能完整呈現,讓「2024 未來媒體藝術節」觀眾可以清楚 AI 技術於不同階段的演進變化,及各發展階段背後的全球政治經濟與文化狀態,才能在接下來欣賞展區其他藝術創作時有更多共鳴。

圖六、「2024 未來媒體藝術節——奇異點」分成四個章節探究 AI 人工智慧時代的演變與社會議題,圖為第一章「流動的錨點」由自牧文化整理 AI 發展歷程的年表。圖/C-LAB 提供

「畢竟展區空間有限,而科技發展史的資訊量又很龐大,在評估哪些事件適合放入展區時,我們常常在心中上演拉鋸戰,」李佳霖笑著分享進行史料研究時的心路歷程。除了從技術的重要性及代表性去評估應該呈現哪些事件,還要兼顧詞條不能太長、資料量不能太多、確保內容正確性及讓觀眾有感等原則,「不過,歷史事件與展覽主題的關聯性,還是最主要的決定因素,」蔡侑霖補充指出。

-----廣告,請繼續往下閱讀-----

舉例來說,Google 旗下人工智慧實驗室(DeepMind)開發出的 AI 軟體「AlphaFold」,可以準確預測蛋白質的 3D 立體結構,解決科學家長達 50 年都無法突破的難題,雖然是製藥或疾病學領域相當大的技術突破,但因為與本次展覽主題的關聯性較低,故最終沒有列入此次展出內容中。

除了內容篩選外,在呈現方式上,2位研究者也儘量使用淺顯易懂的方式來呈現某些較為深奧難懂的技術內容,蔡侑霖舉例說明,像某些比較艱深的 AI 概念,便改以視覺化的方式來呈現,為此上網搜尋很多與 AI 相關的影片或圖解內容,從中找尋靈感,最後製作成簡單易懂的動畫,希望幫助觀眾輕鬆快速的理解新科技。

吳達坤最後指出,「2024 未來媒體藝術節」除了展出藝術創作,也跟上國際展會發展趨勢,於展覽期間規劃共 10 幾場不同形式的活動,包括藝術家座談、講座、工作坊及專家導覽,例如:由策展人與專家進行現場導覽、邀請臺灣 AI 實驗室創辦人杜奕瑾以「人工智慧與未來藝術」為題舉辦講座,希望透過帶狀活動創造更多話題,也讓展覽效益不斷發酵,讓更多觀眾都能前來體驗由 AI 驅動的未來創新世界,展望 AI 在藝術與生活中的無限潛力。

展覽資訊:「未來媒體藝術節——奇異點」2024 Future Media FEST-Singularity 
展期 ▎2024.10.04 ( Fri. ) – 12.15 ( Sun. ) 週二至週日12:00-19:00,週一休館
地點 ▎臺灣當代文化實驗場圖書館展演空間、北草坪、聯合餐廳展演空間、通信分隊展演空間
指導單位 ▎文化部
主辦單位 ▎臺灣當代文化實驗場

-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

1

1
1

文字

分享

1
1
1
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

-----廣告,請繼續往下閱讀-----
所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3619 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

5
2

文字

分享

0
5
2
解釋善性:從雄性黑猩猩「阿莫斯」的臨終之時——《我們與動物的距離》
馬可孛羅_96
・2022/01/14 ・2251字 ・閱讀時間約 4 分鐘

阿莫斯(Amos)是我見過的公黑猩猩當中數一數二俊美的,唯一的例外也許是他把兩顆大蘋果同時塞進嘴裡的那一天,而他的那個舉動也再度讓我意識到,黑猩猩能做出許多我們做不到的事情。他有一雙大眼睛,嵌在一張和善而勻稱的臉龐裡,還有一身濃密閃亮的黑毛,手臂與雙腿也有清楚的肌肉線條。他從來不像有些公黑猩猩那樣攻擊性過強,但盛年期間仍有無比自信。阿莫斯備受喜愛,他死的時候我們有些人都不禁落淚,他的猿類同胞也在那幾天靜得令人發毛,連胃口都受到了影響。

我們當時不曉得他出了什麼問題,直到死後驗屍才知道除了大幅腫脹的肝臟占滿了腹部之外,還有不少癌化增生。他的體重在前一年掉了百分之十五,儘管病況必定是從幾年前就已經開始惡化,他卻一直表現得與正常無異,直到身體再也支撐不住為止。阿莫斯一定有好幾個月都生活在痛苦之中,但他只要稍微表現出衰弱的模樣,必定會導致其社會地位喪失。黑猩猩似乎懂得這一點。野地裡,一頭瘸了腿的黑猩猩被觀察到自行孤立獨處了幾個星期養傷,但在這段期間仍然偶爾會現身猩群當中,展現出健壯又充滿活力的模樣,然後再退出其他猩群成員的視線之外。這麼一來,就沒有成員會對他起疑。

黑猩猩只要稍微表現出衰弱的模樣,必定會導致其社會地位喪失。圖/Pexels

阿莫斯直到死前一天才表露他的病況,當時我們發現他的喘息速率達每分鐘六十口氣,臉上不停冒汗,其他黑猩猩都在外頭的陽光下,唯獨他坐在夜間圍欄裡的一口麻布袋上。阿莫斯拒絕出去戶外,於是我們把他隔離開來,等待獸醫撥空前來檢查。不過,其他黑猩猩一再回到室內探望他,我們只好把阿莫斯前方的門打開一道小縫,讓其他黑猩猩能接觸他。阿莫斯刻意坐在那道門縫旁,一頭名叫黛西的母黑猩猩於是輕柔地抱住他的頭,為他耳朵後方的柔軟部位理毛。接著,她把大量的木屑透過縫隙推進門內,這是黑猩猩喜歡用來築巢的材料。牠們會把木屑鋪在自己的身旁四周,然後睡在上面。黛西給了阿莫斯這些木屑之後,我們又看到一頭公黑猩猩也跟著這麼做。由於阿莫斯背靠著牆坐而沒有理會那些木屑,於是黛西數度從門縫伸手進來,把木屑塞在他的背部與牆壁之間。

這種情形實在引人注目。這豈不表示黛西意識到阿莫斯必定身體不適,所以靠在柔軟的東西上會比較舒服,就像我們在醫院也會幫病患背後墊個枕頭一樣嗎?黛西也許是從自己對木屑的感覺推斷出這一點,而且我們也確實認為她是個「木屑狂」(她通常不會分享木屑,只是自己大量囤積)。我相信猿類會採納他人的觀點,尤其是對遭遇困難的朋友。的確,這類能力在實驗室裡接受測試的時候,並不是每次都能獲得證實,但那些研究通常都是要求猩猩在某種人造情境裡理解人類。先前已經提過,我們的科學帶有人類中心偏見。在猿類對猿類的相同實驗操作下,黑猩猩的表現就好上許多,而在野地裡,牠們更是會關注其他同伴已知或未知的事物。因此,對於黛西似乎能夠理解阿莫斯的處境,我們不該覺得意外。

-----廣告,請繼續往下閱讀-----

第二天,阿莫斯就接受了安樂死。他已經沒有活命的希望,繼續拖下去只會讓他痛苦更久而已。這起事件闡明了靈長類動物社會生活的兩個對比面向。第一,靈長類生活在一個殘酷的世界裡,迫使雄性必須盡力隱藏生理上的障礙好擺出強悍的表象。但第二,靈長類也是緊密社群裡的一分子,可以指望獲得別人的喜愛與協助,包括非親屬在內。這種雙重性很難理解。廣受大眾喜愛的書寫者偏好簡化實際狀況,不是以霍布斯式的赤裸筆法把黑猩猩的生活描寫得凶惡殘暴,不然就是只強調牠們和善的一面。不過,實際上絕對不是像這樣二擇一,兩種狀況始終並存。如果有人提問,黑猩猩既然有時會互相殘殺,怎麼可能算是擁有同理心的動物?我總是這麼反問:按照同樣的標準,那麼我們是不是也該徹底揚棄人類擁有同理心的概念?

這種雙重性非常重要。我們如果全都溫和善良,道德就會是一種多餘的東西。如果人類總是互相同情,從來不會偷竊、不會在背後捅別人一刀、不會覬覦別人的妻子,那我們還有什麼好擔心的呢?顯然人類不是這樣的動物,這也就說明了道德法則的必要性。另一方面,我們可以設計無數的規則提倡對別人的尊重與關懷,倘若我們原本就沒有這樣的傾向,那麼這些規則也絕不會有任何用處。在那種情況下,這些規則就會像是撒在玻璃上的種子一樣,根本沒有生根發芽的機會。人類之所以得辨別是非,正是因為我們生來就同時具有行善與做惡的能力。

黛西協助阿莫斯的行為在生物學上算是「利他行為」的表現,其定義就是會導致某個個體付出代價(例如冒險或者耗費精力),但是去執行利於他人的行為。不過,生物學對利他行為的討論通常不涉及動機,只關注這類行為如何影響他人,以及為什麼會演化出這種行為。這項辯論雖然已有一百五十年以上的歷史,卻在過去幾十年才成為注目焦點。

——本文摘自《我們與動物的距離:在動物身上發現無私的人性》,2021 年 12 月,馬可孛羅

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
馬可孛羅_96
25 篇文章 ・ 19 位粉絲
馬可孛羅文化為台灣「城邦文化出版集團」的一個品牌,成立於1998年,經營的書系多元,包含旅行文學、探險經典、文史、社科、文學小說,以及本土華文作品,期望為全球中文讀者提供一個更開闊、可以縱橫古今、和全世界對話的新閱讀空間。