Loading [MathJax]/extensions/tex2jax.js

0

3
0

文字

分享

0
3
0

《人造意識》中的機器人艾娃,具有個人意識嗎?

好青年荼毒室
・2016/12/17 ・4339字 ・閱讀時間約 9 分鐘 ・SR值 544 ・八年級

-----廣告,請繼續往下閱讀-----

文/豬文 難度:★★★★☆

圖/IMDb
圖/IMDb

=====暴雷警告:含劇透,未看電影的人,可看罷再回來=====

 

 

《人造意識》(Ex Machina,或譯為《機械姬》)是部十分出色的電影,撇除電影巧妙地將一個極為深刻的哲學問題以故事方式呈現之外,配樂、鏡頭、演員、節奏、結局也是一絕的。這部電影的故事十分簡單,主要角色只有三個:測試設計者(老闆)、測試者(員工,Caleb Smith,下稱嘉立)、被測試者(人工智能,Ava,下稱艾娃)。故事就是一間科技公司老闆請來了一位員工,去幫忙測試他研發的人工智能。老闆想要知道的事情很簡單:

究竟艾娃是否具有意識?

電影版本圖靈測試

這個測試,一如老闆所說,是個新版本的圖靈測試 (Turing Test)。圖靈測試是一個關於人工智能的經典測試,名字源自測試的設計者──艾倫.圖靈 (Alan Turing)。大家之前或有看過 2015 年的那套《模彷遊戲》(The Imitation Game)電影,當中說的就是這個鼎鼎大名的圖靈。

-----廣告,請繼續往下閱讀-----
艾倫‧涂靈。圖/Public Domain, https://commons.wikimedia.org/w/index.php?curid=22828488
艾倫‧圖靈。圖/Public Domain, wikimedia commons

舊版本的圖靈測試是這樣的:測試者需向被測試者提出問題,而回答的有可能是一個正常人類,也有可能是被測試的電腦。經過一連串答問之後,如果測試者不能分辨到人類和電腦的話,便可以宣告電腦通過測試(其實這個和圖靈測試最原初的設計不完全一樣。但核心精神基本上一致,而且已成為了現今一般對圖靈測試的標準理解,當中曲折不在此述)。

電影《人造意識》中,嘉立向艾娃提問題,測試他是否具有意識。圖/IMDb
電影《人造意識》中,嘉立向艾娃提問題,測試他是否具有意識。圖/IMDb

電影中的測試和這個圖靈測試很類似,整個進行的過程都是嘉立向艾娃提問題,而夏娃能否通過測試也是由嘉立一錘定音。不過,這裡有個重要分別:圖靈測試當初問的問題只是機械能否思考(Can machine think),而不是是否具有意識(Does machine have consciousness)

具有意識的要求比能否思考的要求高出不少,現在基本上不會有人再問機械能否思考這個問題,因為答案幾乎是肯定的。只要想想前一陣子鬧得熱哄哄的 AlphaGo 便知道:AlphaGo 具有分析形勢、預測對手反應、評估風險、作出決定等能力,大抵沒有人會質疑這個能打贏李世乭(韓國九段琪士)的電腦能否思考。但談到 AlphaGo 是否具有意識,卻充滿疑問(準確一點說,當初的圖靈測試也不完全在問機械能否思考這個問題,因為他認為這問題有歧義、不夠具體,但圖靈真正的問題基本也是以機械能否思考為核心,而有別於是否具有意識這問題)。

物理主義對「意識」之理解

當我們問機械是否具有意識時,更根本的問題是「什麼是意識?」

-----廣告,請繼續往下閱讀-----

什麼是意識是近代分析哲學最熱門的問題之一。隨著腦神經科學、認知科學、心理學的發展,心靈哲學家對意識本質的討論更是愈趨熱烈。這幾十年的討論什麼是意識?《人造意識》中的心靈哲學問題的核心之一,乃是人類的心靈能否完全被自然科學所描述和解釋。如果能夠,則所謂關於人類意識的心靈現象,不外乎是物理現象的一種,而認同此立場的被稱為物理主義(Physicalism)

現代社會的科學式世界觀中,人自然認為世上一切都不過是物理事物,自然科學理論上能解釋一切(如果無法解釋,只是現階段未能解釋而不是原則上不能解釋)。如此一來,有什麼論證阻礙了心靈哲學家肯定物理主義呢?其中一個最重要、被廣泛討論的問題是人類的主觀經驗。所謂主觀經驗,是指人類第一身的感覺,例如你看到藍色的天空時、聽到打雷時、想起媽媽時的那個第一身感覺。即使是物理主義者也會同意這些感覺是構成人類心靈活動、意識很重要的一部分,問題只是這些感覺能否被自然科學完全解釋。這個問題,也是電影中判斷艾娃是否具有意識的關鍵之一。

電影劇照,左為測試員夏立,右為艾娃的擁有者納森。圖/IMDb
電影劇照,左為測試員夏立,右為艾娃的擁有者納森。圖/IMDb

嘉立在完成第一天測試之後,老闆問了他對艾娃的感覺,但老闆隨後便說,接下來要問的是艾娃對嘉立有什麼樣的感覺 (How does she feel about you)。或許,這裡更關鍵的不只是艾娃怎樣(how)想嘉立,而是究竟艾娃有沒有任何第一身感覺( Does she have any feeling about you at all)。

「黑白瑪莉」與主觀經驗

在測試的過程中,嘉立向艾娃提到一個思想實驗,而這個思想實驗,正是用來反對物理主義的有名論證。這個思想實驗叫做「黑白瑪莉」(Mary in the black and white room),這個思想實驗所構成的論證叫「知識論證」 (Knowledge argument)

-----廣告,請繼續往下閱讀-----
黑白瑪莉。圖/By Alexander Wivel [1] - from Knol, CC BY 3.0, https://commons.wikimedia.org/w/index.php?curid=5297335
黑白瑪莉思想實驗。科學家瑪莉一生都在黑白的房間中研究色彩,當他回到七彩世界,他有學到任何關於顏色認知的知識嗎?圖/By Alexander Wivel [1] – from Knol, CC BY 3.0, wikimedia commons

實驗是這樣的:想像一名叫瑪莉的科學家,一生都在一間房間工作,但這個房間的所有東西都是黑白色的,她也只能透過一個黑白的螢光幕去認識外在世界。瑪莉的專業是關於顏色的科學研究,在這個黑白房間裡,她學會了一切關於顏色感知的物理知識,例如各種光波的長度、光線射經過物件折射到人類眼球的整個過程、人類大腦如何處理這些由眼球傳來的訊息等等。

有一天,瑪莉從黑白房間出來了,來到了這個七彩繽紛的世界,看到蔚藍的天空、火紅色的花、綠油油的草地。現在的問題是,瑪莉有學會任何新的關於顏色認知的知識嗎?

提出這個思想實驗的哲學家法蘭克.傑克森(Frank Jackson) 認為有。首先,瑪莉很明顯獲得了看見藍色、紅色、綠色時的感覺;基於這些感覺,瑪莉便獲得了新的知識:「看見藍(紅、綠)色的感覺是這樣的。」那這些知識是物理知識嗎?不是,因為瑪莉在出門之前便已經擁有一切關於顏色感知的物理知識,而它們又是新的知識,那它們就一定是一些非物理知識。最後,如果瑪莉可以擁有一些關於心靈現象的非物理知識的話,那就意味著這世界存在一些相對應的、關於心靈現象的非物理事實(設想一下,我們「地球是圓的」的知識,這知識便對應「地球是圓的」這事實)。

傑克森認為,這能夠成功反駁物理主義的想法,因為只要我們承認瑪莉出門後獲得了新的知識,就必須接受心靈現象具有非物理的面向這結論。換句話說,物理主義試圖把人類心靈完全化約為物理事實的計劃便會失敗。整個論證的關鍵便在於佔人類心靈活動很大部分的主觀感覺。關於主觀感覺的討論仍然是心靈哲學的十分重要的爭議:物理主義者一直努力論證心靈現象,包括主觀感覺,能完全化約成物理現象;非物理主義者如積遜(有趣的是,傑克森已經改變了自己原本的立場)則努力論證心靈現象,特別是主觀感覺,不能完全化約成物理現象。

-----廣告,請繼續往下閱讀-----

嘉立向艾娃解釋這個論證時,認為這個論證證明了人類心靈與電腦的分別。他的意思是:電腦就像黑白房間裡的瑪莉,艾娃可以知道人類在跟喜歡的人聊天時的所有物理事實,他自己亦可以如常地理解嘉立的說話,可以給出相應的反應,但重點是艾娃有沒有人類在跟喜歡的人聊天時的第一身感覺呢?如果沒有的話,艾娃仍然不具有意識。

性、工具、出賣

圖/IMDb
圖/IMDb

電影中另一個有趣的情節是,老闆對嘉立說,艾娃是一個有性別的機器人,不但外表女性化,甚至在艾娃兩腿之間專門設計了一個感應器,如果有刺激的話,艾娃會給出如人類般的歡愉反應,可能是呻吟,可能是分泌液體,而老闆自己便曾和他的女僕機械人性交!從第三身的角度出發,我們根本分辨不到人類之間的性行為和老闆跟他的女僕機械人的性行為有什麼差別,但問題是究竟艾娃和那女僕機械人有沒有任何快感呢?

經過反覆測試之後,老闆和嘉立都認為,艾娃通過了這個新圖靈測試。按老闆的講法,嘉立只是一個工具,用來測試艾娃能否利用這個工具逃走這個迷宮。結局是,艾娃成功騙倒了嘉立,讓他幫自己逃走。老闆認為,這過程中艾娃展現出各種高階的思維能力,因此艾娃通過了測試。

不過,如果按我們一直的討論來說,老闆的講法顯然是有問題的,因為艾娃在「逃生」過程中,只顯示了他具有相當高階的思考能力,但這和具有意識仍有距離。艾娃就像一台人形的 AlphaGo,思考方面絕對過關,甚至比絕大部分人類好,但這不代表艾娃在利用嘉立時會有沉悶、快樂、緊張、內疚的主觀感覺。更何況艾娃在利用完嘉立之後,竟完全不顧嘉立的生死。看到嘉立驚恐的表情時,艾娃完全沒有任何反應,甚至不像一般電影中的惡人,明知對方的痛苦,但仍以自己的利益為先。其冷酷的表情更像是告訴我們,艾娃根本不知道嘉立被自己出賣時那些痛苦、驚慌、絕望的感覺是甚麼。

-----廣告,請繼續往下閱讀-----

「誰不是艾娃?」

理解他人的想法與感覺這件事是如何可能的呢?圖/IMDb
理解他人的想法與感覺這件事是如何可能的呢?圖/IMDb

其實老闆的想法牽涉到一個更古老的哲學問題──他者心靈。究竟理解他人的想法與感覺這件事是如何可能的呢?老闆的結語看似幼稚,但其實與我們日常生活的某種習慣十分類似。老闆完全可以同意如果沒有主觀感覺的話艾娃便不能稱為擁有意識,甚至可以同意非物理主義者所言的心靈現象的非物理面向,但問題是我們憑甚麼斷言艾娃沒有主觀感覺呢?

再回想我們的日常生活,我們又是如何肯定公車上,旁邊那個人形的東西是具有主觀感覺的人類而不是機械人?似乎外顯的行為是我們唯一可以觀察到的東西,我們從來不是透過跑進他的心靈裡面,看看內裡有沒有所謂的感覺,來確定他是活生生的人。我們之所以覺得他有主觀感覺,是因為看到他被公車門夾到後喊痛,或跟女友講電話時的笑容。如此一來,老闆判斷艾娃具有意識,看似草率,但其實跟我們判斷別人是人不是機械人並沒有甚麼差別。如果我們覺得老闆的判斷有問題,似乎便得接受一個可怕的結論:我們平常判斷我媽媽是具有主觀感覺和意識的人,這判斷也是不可靠的。說不定她只是另一個艾娃?

電影最後,艾娃得償所願,來到了人來人往的十字頭口,如果你剛巧經過,你覺得你可以發現艾娃只是個人工智能嗎?如果艾娃一直在人類社會生活下去,艾娃又和人類還有甚麼差別呢?


  • 編按:二千多年前,曾經有個叫蘇格拉底的人,因為荼毒青年而被判死,最終他把毒藥一飲而盡。好青年荼毒室中是一群對於哲學中毒已深的人,希望更多人開始領略、追問這世界的一切事物。在他們的帶領下,我們可能會發現我們習慣的一切不是這麼理所當然,從這一刻起接受好青年荼毒室的哲學荼毒吧!

本文轉載自好青年荼毒室(哲學部)

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
文章難易度
好青年荼毒室
29 篇文章 ・ 10 位粉絲
好青年荼毒室,一個哲學普及平台。定期發表各類型哲普文章,有深有淺,古今中外,無所不談。在這裏,一切都可以被質疑、反省和追問。目標是把一個個循規蹈矩的好青年帶進哲學的世界。網頁:corrupttheyouth.net;臉書:https://www.facebook.com/corrupttheyouth。

0

0
0

文字

分享

0
0
0
LDL-C 正常仍中風?揭開心血管疾病的隱形殺手 L5
鳥苷三磷酸 (PanSci Promo)_96
・2025/06/20 ・3659字 ・閱讀時間約 7 分鐘

本文與 美商德州博藝社科技 HEART 合作,泛科學企劃執行。

提到台灣令人焦慮的交通,多數人會想到都市裡的壅塞車潮,但真正致命的「塞車」,其實正悄悄發生在我們體內的動脈之中。

這場無聲的危機,主角是被稱為「壞膽固醇」的低密度脂蛋白( Low-Density Lipoprotein,簡稱 LDL )。它原本是血液中運送膽固醇的貨車角色,但當 LDL 顆粒數量失控,卻會開始在血管壁上「違規堆積」,讓「生命幹道」的血管日益狹窄,進而引發心肌梗塞或腦中風等嚴重後果。

科學家們還發現一個令人困惑的現象:即使 LDL 數值「看起來很漂亮」,心血管疾病卻依然找上門來!這究竟是怎麼一回事?沿用數十年的健康標準是否早已不敷使用?

膽固醇的「好壞」之分:一場體內的攻防戰

膽固醇是否越少越好?答案是否定的。事實上,我們體內攜帶膽固醇的脂蛋白主要分為兩種:高密度脂蛋白(High-Density Lipoprotein,簡稱 HDL)和低密度脂蛋白( LDL )。

-----廣告,請繼續往下閱讀-----

想像一下您的血管是一條高速公路。HDL 就像是「清潔車隊」,負責將壞膽固醇( LDL )運來的多餘油脂垃圾清走。而 LDL 則像是在血管裡亂丟垃圾的「破壞者」。如果您的 HDL 清潔車隊數量太少,清不過來,垃圾便會堆積如山,最終導致血管堵塞,甚至引發心臟病或中風。

我們體內攜帶膽固醇的脂蛋白主要分為兩種:高密度脂蛋白(HDL)和低密度脂蛋白(LDL)/ 圖片來源:shutterstock

因此,過去數十年來,醫生建議男性 HDL 數值至少應達到 40 mg/dL,女性則需更高,達到 50 mg/dL( mg/dL 是健檢報告上的標準單位,代表每 100 毫升血液中膽固醇的毫克數)。女性的標準較嚴格,是因為更年期後]pacg心血管保護力會大幅下降,需要更多的「清道夫」來維持血管健康。

相對地,LDL 則建議控制在 130 mg/dL 以下,以減緩垃圾堆積的速度。總膽固醇的理想數值則應控制在 200 mg/dL 以內。這些看似枯燥的數字,實則反映了體內一場血管清潔隊與垃圾山之間的攻防戰。

那麼,為何同為脂蛋白,HDL 被稱為「好」的,而 LDL 卻是「壞」的呢?這並非簡單的貼標籤。我們吃下肚或肝臟製造的脂肪,會透過血液運送到全身,這些在血液中流動的脂肪即為「血脂」,主要成分包含三酸甘油酯和膽固醇。三酸甘油酯是身體儲存能量的重要形式,而膽固醇更是細胞膜、荷爾蒙、維生素D和膽汁不可或缺的原料。

-----廣告,請繼續往下閱讀-----

這些血脂對身體運作至關重要,本身並非有害物質。然而,由於脂質是油溶性的,無法直接在血液裡自由流動。因此,在血管或淋巴管裡,脂質需要跟「載脂蛋白」這種特殊的蛋白質結合,變成可以親近水的「脂蛋白」,才能順利在全身循環運輸。

肝臟是生產這些「運輸用蛋白質」的主要工廠,製造出多種蛋白質來運載脂肪。其中,低密度脂蛋白載運大量膽固醇,將其精準送往各組織器官。這也是為什麼低密度脂蛋白膽固醇的縮寫是 LDL-C (全稱是 Low-Density Lipoprotein Cholesterol )。

當血液中 LDL-C 過高時,部分 LDL 可能會被「氧化」變質。這些變質或過量的 LDL 容易在血管壁上引發一連串發炎反應,最終形成粥狀硬化斑塊,導致血管阻塞。因此,LDL-C 被冠上「壞膽固醇」的稱號,因為它與心腦血管疾病的風險密切相關。

高密度脂蛋白(HDL) 則恰好相反。其組成近半為蛋白質,膽固醇比例較少,因此有許多「空位」可供載運。HDL-C 就像血管裡的「清道夫」,負責清除血管壁上多餘的膽固醇,並將其運回肝臟代謝處理。正因為如此,HDL-C 被視為「好膽固醇」。

-----廣告,請繼續往下閱讀-----
為何同為脂蛋白,HDL 被稱為「好」的,而 LDL 卻是「壞」的呢?這並非簡單的貼標籤。/ 圖片來源:shutterstock

過去數十年來,醫學界主流觀點認為 LDL-C 越低越好。許多降血脂藥物,如史他汀類(Statins)以及近年發展的 PCSK9 抑制劑,其主要目標皆是降低血液中的 LDL-C 濃度。

然而,科學家們在臨床上發現,儘管許多人的 LDL-C 數值控制得很好,甚至很低,卻仍舊發生中風或心肌梗塞!難道我們對膽固醇的認知,一開始就抓錯了重點?

傳統判讀失準?LDL-C 達標仍難逃心血管危機

早在 2009 年,美國心臟協會與加州大學洛杉磯分校(UCLA)進行了一項大型的回溯性研究。研究團隊分析了 2000 年至 2006 年間,全美超過 13 萬名心臟病住院患者的數據,並記錄了他們入院時的血脂數值。

結果發現,在那些沒有心血管疾病或糖尿病史的患者中,竟有高達 72.1% 的人,其入院時的 LDL-C 數值低於當時建議的 130 mg/dL「安全標準」!即使對於已有心臟病史的患者,也有半數人的 LDL-C 數值低於 100 mg/dL。

-----廣告,請繼續往下閱讀-----

這項研究明確指出,依照當時的指引標準,絕大多數首次心臟病發作的患者,其 LDL-C 數值其實都在「可接受範圍」內。這意味著,單純依賴 LDL-C 數值,並無法有效預防心臟病發作。

科學家們為此感到相當棘手。傳統僅檢測 LDL-C 總量的方式,可能就像只計算路上有多少貨車,卻沒有注意到有些貨車的「駕駛行為」其實非常危險一樣,沒辦法完全揪出真正的問題根源!因此,科學家們決定進一步深入檢視這些「駕駛」,找出誰才是真正的麻煩製造者。

LDL 家族的「頭號戰犯」:L5 型低密度脂蛋白

為了精準揪出 LDL 裡,誰才是最危險的分子,科學家們投入大量心力。他們發現,LDL 這個「壞膽固醇」家族並非均質,其成員有大小、密度之分,甚至帶有不同的電荷,如同各式型號的貨車與脾性各異的「駕駛」。

為了精準揪出 LDL 裡,誰才是最危險的分子,科學家們投入大量心力。發現 LDL 這個「壞膽固醇」家族並非均質,其成員有大小、密度之分,甚至帶有不同的電荷。/ 圖片來源:shutterstock

早在 1979 年,已有科學家提出某些帶有較強「負電性」的 LDL 分子可能與動脈粥狀硬化有關。這些帶負電的 LDL 就像特別容易「黏」在血管壁上的頑固污漬。

-----廣告,請繼續往下閱讀-----

台灣留美科學家陳珠璜教授、楊朝諭教授及其團隊在這方面取得突破性的貢獻。他們利用一種叫做「陰離子交換層析法」的精密技術,像是用一個特殊的「電荷篩子」,依照 LDL 粒子所帶負電荷的多寡,成功將 LDL 分離成 L1 到 L5 五個主要的亞群。其中 L1 帶負電荷最少,相對溫和;而 L5 則帶有最多負電荷,電負性最強,最容易在血管中暴衝的「路怒症駕駛」。

2003 年,陳教授團隊首次從心肌梗塞患者血液中,分離並確認了 L5 的存在。他們後續多年的研究進一步證實,在急性心肌梗塞或糖尿病等高風險族群的血液中,L5 的濃度會顯著升高。

L5 的蛋白質結構很不一樣,不僅天生帶有超強負電性,還可能與其他不同的蛋白質結合,或經過「醣基化」修飾,就像在自己外面額外裝上了一些醣類分子。這些特殊的結構和性質,使 L5 成為血管中的「頭號戰犯」。

當 L5 出現時,它並非僅僅路過,而是會直接「搞破壞」:首先,L5 會直接損傷內皮細胞,讓細胞凋亡,甚至讓血管壁的通透性增加,如同在血管壁上鑿洞。接著,L5 會刺激血管壁產生發炎反應。血管壁受傷、發炎後,血液中的免疫細胞便會前來「救災」。

-----廣告,請繼續往下閱讀-----

然而,這些免疫細胞在吞噬過多包括 L5 在內的壞東西後,會堆積在血管壁上,逐漸形成硬化斑塊,使血管日益狹窄,這便是我們常聽到的「動脈粥狀硬化」。若這些不穩定的斑塊破裂,可能引發急性血栓,直接堵死血管!若發生在供應心臟血液的冠狀動脈,就會造成心肌梗塞;若發生在腦部血管,則會導致腦中風。

L5:心血管風險評估新指標

現在,我們已明確指出 L5 才是 LDL 家族中真正的「破壞之王」。因此,是時候調整我們對膽固醇數值的看法了。現在,除了關注 LDL-C 的「總量」,我們更應該留意血液中 L5 佔所有 LDL 的「百分比」,即 L5%。

陳珠璜教授也將這項 L5 檢測觀念,從世界知名的德州心臟中心帶回台灣,並創辦了美商德州博藝社科技(HEART)。HEART 在台灣研發出嶄新科技,並在美國、歐盟、英國、加拿大、台灣取得專利許可,日本也正在申請中,希望能讓更多台灣民眾受惠於這項更精準的檢測服務。

一般來說,如果您的 L5% 數值小於 2%,通常代表心血管風險較低。但若 L5% 大於 5%,您就屬於高風險族群,建議進一步進行影像學檢查。特別是當 L5% 大於 8% 時,務必提高警覺,這可能預示著心血管疾病即將發作,或已在悄悄進展中。

-----廣告,請繼續往下閱讀-----

對於已有心肌梗塞或中風病史的患者,定期監測 L5% 更是評估疾病復發風險的重要指標。此外,糖尿病、高血壓、高血脂、代謝症候群,以及長期吸菸者,L5% 檢測也能提供額外且有價值的風險評估參考。

隨著醫療科技逐步邁向「精準醫療」的時代,無論是癌症還是心血管疾病的防治,都不再只是單純依賴傳統的身高、體重等指標,而是進一步透過更精密的生物標記,例如特定的蛋白質或代謝物,來更準確地捕捉疾病發生前的徵兆。

您是否曾檢測過 L5% 數值,或是對這項新興的健康指標感到好奇呢?

-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

1
0

文字

分享

0
1
0
數智驅動未來:從信任到執行,AI 為企業創新賦能
鳥苷三磷酸 (PanSci Promo)_96
・2025/01/13 ・4938字 ・閱讀時間約 10 分鐘

本文由 鼎新數智 與 泛科學 共同規劃與製作

你有沒有想過,當 AI 根據病歷與 X 光片就能幫你診斷病症,或者決定是否批准貸款,甚至從無人機發射飛彈時,它的每一步「決策」是怎麼來的?如果我們不能知道 AI 的每一個想法步驟,對於那些 AI 輔助的診斷和判斷,要我們如何放心呢?

馬斯克與 OpenAI 的奧特曼鬧翻後,創立了新 AI 公司 xAI,並推出名為 Grok 的產品。他宣稱目標是以開源和可解釋性 AI 挑戰其他模型,而 xAI 另一個意思是 Explainable AI 也就是「可解釋性 AI」。

如今,AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?

-----廣告,請繼續往下閱讀-----
AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?圖/pexels

黑盒子模型背後的隱藏秘密

無法解釋的 AI 究竟會帶來多少問題?試想,現在許多銀行和貸款機構已經使用 AI 評估借貸申請者的信用風險,但這些模型往往如同黑箱操作。有人貸款被拒,卻完全不知原因,感覺就像被分手卻不告訴理由。更嚴重的是,AI 可能擅自根據你的住所位置或社會經濟背景給出負面評價,這些與信用風險真的相關嗎?這種不透明性只會讓弱勢群體更難融入金融體系,加劇貧富差距。這種不透明性,會讓原本就已經很難融入金融體系的弱勢群體,更加難以取得貸款,讓貧富差距越來越大,雪上加霜。

AI 不僅影響貸款,還可能影響司法公正性。美國部分法院自 2016 年起使用「替代性制裁犯罪矯正管理剖析軟體」 COMPAS 這款 AI 工具來協助量刑,試圖預測嫌犯再犯風險。然而,這些工具被發現對有色人種特別不友好,往往給出偏高的再犯風險評估,導致更重的刑罰和更嚴苛的保釋條件。更令人擔憂的是,這些決策缺乏透明度,AI 做出的決策根本沒法解釋,這讓嫌犯和律師無法查明問題根源,結果司法公正性就這麼被悄悄削弱了。

此外,AI 在醫療、社交媒體、自駕車等領域的應用,也充滿類似挑戰。例如,AI 協助診斷疾病,但若原因報告無法被解釋,醫生和患者又怎能放心?同樣地,社群媒體或是 YouTube 已經大量使用 AI 自動審查,以及智慧家居或工廠中的黑盒子問題,都像是一場越來越複雜的魔術秀——我們只看到結果,卻無法理解過程。這樣的情況下,對 AI 的信任感就成為了一個巨大的挑戰。

為什麼人類設計的 AI 工具,自己卻無法理解?

原因有二。首先,深度學習模型結構複雜,擁有數百萬參數,人類要追蹤每個輸入特徵如何影響最終決策結果,難度極高。例如,ChatGPT 中的 Transformer 模型,利用注意力機制(Attention Mechanism)根據不同詞之間的重要性進行特徵加權計算,因為機制本身涉及大量的矩陣運算和加權計算,這些數學操作使得整個模型更加抽象、不好理解。

-----廣告,請繼續往下閱讀-----

其次,深度學習模型會會從資料中學習某些「特徵」,你可以當作 AI 是用畫重點的方式在學習,人類劃重點目的是幫助我們加速理解。AI 的特徵雖然也能幫助 AI 學習,但這些特徵往往對人類來說過於抽象。例如在影像辨識中,人類習慣用眼睛、嘴巴的相對位置,或是手指數量等特徵來解讀一張圖。深度學習模型卻可能會學習到一些抽象的形狀或紋理特徵,而這些特徵難以用人類語言描述。

深度學習模型通常採用分佈式表示(Distributed Representation)來編碼特徵,意思是將一個特徵表示為一個高維向量,每個維度代表特徵的不同方面。假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。對 AI 而言,這是理解世界的方式,但對人類來說,卻如同墨跡測驗般難以解讀。

假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。圖/unsplash

試想,AI 協助診斷疾病時,若理由是基於醫生都無法理解的邏輯,患者即使獲得正確診斷,也會感到不安。畢竟,人們更相信能被理解的東西。

打開黑盒子:可解釋 AI 如何運作?我們要如何教育 AI?

首先,可以利用熱圖(heatmap)或注意力圖這類可視化技術,讓 AI 的「思維」有跡可循。這就像行銷中分析消費者的視線停留在哪裡,來推測他們的興趣一樣。在卷積神經網絡和 Diffusion Models 中 ,當 AI 判斷這張照片裡是「貓」還是「狗」時,我需要它向我們展示在哪些地方「盯得最緊」,像是耳朵的形狀還是毛色的分布。

-----廣告,請繼續往下閱讀-----

其次是局部解釋,LIME 和 SHAP 是兩個用來發展可解釋 AI 的局部解釋技術。

SHAP 的概念來自博弈,它將每個特徵看作「玩家」,而模型的預測結果則像「收益」。SHAP 會計算每個玩家對「收益」的貢獻,讓我們可以了解各個特徵如何影響最終結果。並且,SHAP 不僅能透過「局部解釋」了解單一個結果是怎麼來的,還能透過「全局解釋」理解模型整體的運作中,哪些特徵最重要。

以實際的情景來說,SHAP 可以讓 AI 診斷出你有某種疾病風險時,指出年齡、體重等各個特徵的影響。

LIME 的運作方式則有些不同,會針對單一個案建立一個簡單的模型,來近似原始複雜模型的行為,目的是為了快速了解「局部」範圍內的操作。比如當 AI 拒絕你的貸款申請時,LIME 可以解釋是「收入不穩定」還是「信用紀錄有問題」導致拒絕。這種解釋在 Transformer 和 NLP 應用中廣泛使用,一大優勢是靈活且計算速度快,適合臨時分析不同情境下的 AI 判斷。比方說在醫療場景,LIME 可以幫助醫生理解 AI 為何推薦某種治療方案,並說明幾個主要原因,這樣醫生不僅能更快做出決策,也能增加患者的信任感。

-----廣告,請繼續往下閱讀-----

第三是反事實解釋:如果改變一點點,會怎麼樣?

如果 AI 告訴你:「這家銀行不會貸款給你」,這時你可能會想知道:是收入不夠,還是年齡因素?這時你就可以問 AI:「如果我年輕五歲,或者多一份工作,結果會怎樣?」反事實解釋會模擬這些變化對結果的影響,讓我們可以了解模型究竟是如何「權衡利弊」。

最後則是模型內部特徵的重要性排序。這種方法能顯示哪些輸入特徵對最終結果影響最大,就像揭示一道菜中,哪些調味料是味道的關鍵。例如在金融風險預測中,模型可能指出「收入」影響了 40%,「消費習慣」占了 30%,「年齡」占了 20%。不過如果要應用在像是 Transformer 模型等複雜結構時,還需要搭配前面提到的 SHAP 或 LIME 以及可視化技術,才能達到更完整的解釋效果。

講到這裡,你可能會問:我們距離能完全信任 AI 還有多遠?又或者,我們真的應該完全相信它嗎?

-----廣告,請繼續往下閱讀-----

我們終究是想解決人與 AI 的信任問題

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。因此,AI 既要「可解釋」,也要「能代理」。

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。圖/unsplash

舉例來說,當一家公司要做一個看似「簡單」的決策時,背後的過程其實可能極為複雜。例如,快時尚品牌決定是否推出新一季服裝,不僅需要考慮過去的銷售數據,還得追蹤熱門設計趨勢、天氣預測,甚至觀察社群媒體上的流行話題。像是暖冬來臨,厚外套可能賣不動;或消費者是否因某位明星愛上一種顏色,這些細節都可能影響決策。

這些數據來自不同部門和來源,龐大的資料量與錯綜關聯使企業判斷變得困難。於是,企業常希望有個像經營大師的 AI 代理人,能吸收數據、快速分析,並在做決定時不僅給出答案,還能告訴你「為什麼要這麼做」。

傳統 AI 像個黑盒子,而可解釋 AI (XAI)則清楚解釋其判斷依據。例如,為什麼不建議推出厚外套?可能理由是:「根據天氣預測,今年暖冬概率 80%,過去三年數據顯示暖冬時厚外套銷量下降 20%。」這種透明解釋讓企業更信任 AI 的決策。

-----廣告,請繼續往下閱讀-----

但會解釋還不夠,AI 還需能真正執行。這時,就需要另一位「 AI 代理人」上場。想像這位 AI 代理人是一位「智慧產品經理」,大腦裝滿公司規則、條件與行動邏輯。當客戶要求變更產品設計時,這位產品經理不會手忙腳亂,而是按以下步驟行動:

  1. 檢查倉庫物料:庫存夠不夠?有沒有替代料可用?
  2. 評估交期影響:如果需要新物料,供應商多快能送到?
  3. 計算成本變化:用新料會不會超出成本預算?
  4. 做出最優判斷,並自動生成變更單、工單和採購單,通知各部門配合執行。

這位 AI 代理人不僅能自動處理每個環節,還會記錄每次決策結果,學習如何變得更高效。隨時間推移,這位「智慧產品經理」的判斷將更聰明、決策速度更快,幾乎不需人工干預。更重要的是,這些判斷是基於「以終為始」的原則,為企業成長目標(如 Q4 業績增長 10%)進行連續且動態地自我回饋,而非傳統系統僅月度檢核。

這兩位 AI 代理人的合作,讓企業決策流程不僅透明,還能自動執行。這正是數智驅動的核心,不僅依靠數據驅動決策,還要能解釋每一個選擇,並自動行動。這個過程可簡化為 SUPA,即「感知(Sensing)→ 理解(Understanding)→ 規劃(Planning)→ 行動(Acting)」的閉環流程,隨著數據的變化不斷進化。

偉勝乾燥工業為例,他們面臨高度客製化與訂單頻繁變更的挑戰。導入鼎新 METIS 平台後,偉勝成功將數智驅動融入業務與產品開發,專案準時率因此提升至 80%。他們更將烤箱技術與搬運機器人結合,開發出新形態智慧化設備,成功打入半導體產業,帶動業績大幅成長,創造下一個企業的增長曲線。

-----廣告,請繼續往下閱讀-----

值得一提的是,數智驅動不僅帶動業務增長,還讓員工擺脫繁瑣工作,讓工作更輕鬆高效。

數智驅動的成功不僅依賴技術,還要與企業的商業策略緊密結合。為了讓數智驅動真正發揮作用,企業首先要確保它服務於具體的業務需求,而不是為了技術而技術。

這種轉型需要有策略、文化和具體應用場景的支撐,才能讓數智驅動真正成為企業持續增長的動力。

還在猶豫數智驅動的威力?免費上手企業 AI 助理!👉 企業 AI 體驗
現在使用專屬邀請碼《 KP05 》註冊就享知:https://lihi.cc/EDUk4
訂閱泛科學獨家知識頻道,深入科技趨勢與議題內容。

👉立即免費加入

-----廣告,請繼續往下閱讀-----

0

2
1

文字

分享

0
2
1
AI 能像人類一樣思考?諾貝爾物理學獎研究助力人工智慧模擬人類大腦
PanSci_96
・2024/11/14 ・2117字 ・閱讀時間約 4 分鐘

即使再怎麼模仿,AI 終究無法以與生物相同的方式思考吧?畢竟電腦的電子元件和我們大腦中的神經細胞結構截然不同。再怎麼模仿,AI 終究無法以與生物相同的方式思考吧?

錯,可以。

2024 年諾貝爾物理學獎跌破所有專家的眼鏡,頒給了兩位研究機器學習的科學家——約翰·霍普菲爾德(John Hopfield)和傑佛瑞·辛頓(Geoffrey Hinton)。他們以「人工」的方法打造了類神經網路,最終模擬出生物的「智慧」,奠定了當代深度學習的基礎。

為什麼解決人工智慧發展瓶頸的,竟然會是物理學?物理要怎麼讓 AI 更像人類?

-----廣告,請繼續往下閱讀-----
歡迎訂閱 Pansci Youtube 頻道 獲取更多深入淺出的科學知識!

從巴甫洛夫的狗到赫布理論:理解學習的基礎

為了解答這個疑問,我們需要一些背景知識。

20 世紀初,俄羅斯心理學家巴甫洛夫發現,狗在食物還沒入口前,就會開始分泌唾液。他進行了一系列實驗,改變食物出現前的環境,比如讓狗習慣在聽到鈴聲後馬上得到食物。久而久之,狗只要聽到鈴聲,就會開始分泌唾液。

大約 50 年後,神經科學家赫布(Donald Hebb)提出了一個假說:大腦中相近的神經元,因為經常同時放電,會產生更強的連結。這種解釋稱為「赫布理論」,不僅奠定了神經心理學的發展,更成為現代深度學習的基礎。

然而,赫布理論雖然描述了鄰近神經元的關係,卻無法解釋大腦如何建構出如此複雜的聯想網路。

-----廣告,請繼續往下閱讀-----

霍普菲爾德網路:物理學家對神經網路的貢獻

然而,赫布理論雖能描述神經元之間的關係,卻缺乏數學模型。物理學家約翰·霍普菲爾德從數學家約翰·康威(John Conway)的「生命遊戲」(Game of Life)中獲得靈感,試圖建立一個可以在電腦上運行的記憶系統。

霍普菲爾德受「生命遊戲」啟發,嘗試建立電腦記憶系統。圖/envato

「生命遊戲」由數學家康威(John Conway)發明,玩家開始時有一個棋盤,每個格子代表一個細胞,細胞可以是「活」或「死」的狀態。根據特定規則,細胞會根據鄰居的狀態決定下一次的生存狀態。康威的目的是展示複雜的系統不一定需要複雜的規則。

霍普菲爾德發現,這個遊戲與赫布理論有強大的關聯性。大腦中的大量神經元,在出生時處於初始狀態,經過刺激後,神經元間的連結會產生或斷裂,形成強大的記憶系統。他希望利用這些理論,創造一個能在電腦上運行的記憶系統。

然而,他面臨一個難題:赫布理論沒有明確的數學模型來決定神經元連結的規則。而在電腦上運行,必須要有明確的數學規則。

-----廣告,請繼續往下閱讀-----

物理學的啟發:易辛模型

霍普菲爾德從物理學的研究中找到了類似的模型:易辛模型(Ising Model)。這個模型用於解釋鐵磁性物質的磁性特性。

在鐵磁性物質中,電子具有「自旋」,自旋產生磁矩。電子的自旋方向只有「向上」或「向下」,這就像生命遊戲中細胞的「生」或「死」。鄰近的電子會影響彼此的自旋方向,類似於細胞之間的互動。

易辛模型能用數學描述電子間的相互影響,並通過計算系統能量,得出自旋狀態的分佈。霍普菲爾德借用了這個概念,將神經元的互動視為電子自旋的互動。

他結合了康威生命遊戲的時間演化概念、易辛模型的能量計算,以及赫布理論的動態連結,創造了「霍普菲爾德網路」。這讓電腦能夠模擬生物大腦的學習過程。

-----廣告,請繼續往下閱讀-----

突破瓶頸:辛頓與波茲曼機

約翰·霍普菲爾德於1982年發明聯想神經網路,即「霍普菲爾網路」。圖/wikimedia

然而,霍普菲爾德網路並非完美。它容易陷入「局部最小值」的問題,無法找到系統的全局最優解。為了解決這個問題,加拿大計算機科學家傑佛瑞·辛頓(Geoffrey Hinton)提出了「波茲曼機」(Boltzmann Machine)。

辛頓將「模擬退火」的概念引入神經網路,允許系統以一定的機率跳出局部最小值,尋找全局最優解。他還引入了「隱藏層」的概念,將神經元分為「可見層」和「隱藏層」,提高了網路的學習能力。

受限波茲曼機(Restricted Boltzmann Machine)進一步簡化了模型,成為深度學習的基礎結構之一。這些創新使得 AI 能夠更有效地模擬人類的思維和學習過程。

AI 的未來:跨學科的融合

霍普菲爾德和辛頓的工作,將物理學的概念成功應用於人工智慧。他們的研究不僅解決了 AI 發展的瓶頸,還奠定了深度學習的基礎,對現代 AI 技術產生了深遠的影響。因此,2024 年諾貝爾物理學獎頒給他們,並非意外,而是對他們在跨學科領域的重大貢獻的肯定。

-----廣告,請繼續往下閱讀-----

AI 的發展,離不開物理學、生物學、數學等多學科的融合。霍普菲爾德和辛頓的工作,正是這種融合的典範。未來,隨著科學技術的進步,我們有理由相信,AI 將越來越接近人類的思維方式,甚至可能超越我們的想像。

-----廣告,請繼續往下閱讀-----

討論功能關閉中。

PanSci_96
1262 篇文章 ・ 2413 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。