1

1
1

文字

分享

1
1
1

AI 當法官,會是正義女神的化身嗎?專訪李建良

研之有物│中央研究院_96
・2020/09/19 ・5644字 ・閱讀時間約 11 分鐘 ・SR值 587 ・九年級

本文轉載自中央研究院研之有物,泛科學為宣傳推廣執行單位

  • 採訪編輯|劉芝吟
    美術編輯|林洵安

AI 進入法律領域,該踩剎車嗎?

Alpha Go 打敗人類棋王,自駕車躍躍欲試,人工智慧不僅改變世界運作的規則,也逐漸從科技跨入人文社會領域。讓 AI 坐上審判席,會是追求正義的新解方嗎?AI 法官是鐵面無私的包青天,或者科技暴走的新危機?

「研之有物」專訪中研院法律學研究所特聘研究員李建良,從法學視角提供思辨觀點,我們不只應審視 AI 的技術能力,也必須嚴肅面對規範性界線。

人工智慧變身法律小幫手

十幾年前,電腦會揀土豆已經夠驚奇,現在的 AI 更是大進擊,能辨識人臉、駕駛汽車,根據 2019 年眾多媒體報導,歐洲愛沙尼亞甚至即將推行「AI 法官」!法律事務涉及事實認定、法條解釋與價值規範等多重問題,人工智慧果真已如此高「智慧」,有能力涉入複雜的法律領域?

前兩波人工智慧(AI)希望電腦能像人一樣思考,但皆失敗。2010 年至今的 AI 熱潮由「 機器學習」領銜,簡單來說就是我們提供大量資料,讓電腦自己找出事件之間的關聯規則,學會判斷,在許多領域都已比人類預測得更精準。資料來源│〈人工智慧在台灣〉演講,陳昇瑋

中研院李建良特聘研究員說:「將 AI 應用到法律訴訟其實並非未來式,而是行之有年的現在式。」

在美國,近年法院已廣泛運用「COMPAS」系統,這是一套由商業公司開發的 AI ,幫助法官評估被告的再犯風險,作為量刑的準據。COMPAS 會進行大量問答調查,依據被告回答、年齡、過往犯罪紀錄與類型等各項資料,推估被告的再犯率,給出 1-10 的危險指數,最後由法官決定被告服刑的長短。

-----廣告,請繼續往下閱讀-----

有研究指出,AI 判定為高風險者,63% 在交保期間犯罪,其中 5% 犯下性侵或謀殺。做為法官小幫手,AI 似乎確實能發揮一定程度的「鷹眼」,預測危險性。

國內也逐步嘗試將 AI 運用在量刑與家事判決預測。司法院建立「量刑趨勢建議系統」,以自然語言分析判決書,提供法官、律師量刑參考。清華大學研究團隊則開發出「AI人工智慧協助家事判決預測系統」,讓 AI 從判例「學會」法官的判決模式,預測撫養權花落誰家。圖片來源│ 取自量刑趨勢建議系統網頁
國內也逐步嘗試將 AI 運用在量刑與家事判決預測。司法院建立的「量刑趨勢建議系統」,以自然語言分析判決書,提供類似案件的量刑參考。清華大學研究團隊則開發出「AI 人工智慧協助家事判決預測系統」,讓 AI 從判例「學會」法官的判決模式,預測撫養權花落誰家。
圖片來源│ 取自量刑趨勢建議系統網頁

法官不是人?!別急,再等等

從現況來看,人工智慧確實已進入國家司法系統,但目前仍作為「專家團隊」扮演輔助角色,由法官做裁決。那麼下一步, AI 有可能獨當一面坐上審判席嗎?

愛沙尼亞的 AI 法官計畫,似乎就朝著這個方向前進。

根據報導,AI 法官將處理小額民事訴訟案件(少於 7000 歐元,台幣約 24 萬),由原告方輸入訴訟對象、金額、提告理由等。AI 系統能從過往大量判例學習,解析法條做出判決。換句話說,隔壁鄰居摔壞你的 iPhone,你一狀告到法院,會由 AI 判定誰勝訴,鄰居該賠你一台手機或折價金額。對結果不服?可以上訴,將有人類法官審理。這項超級計畫如果成真,「法官不是人」恐怕就要從罵人話變為描述句了!

-----廣告,請繼續往下閱讀-----

不過,李建良特別澄清:「媒體報導後,我們研究團隊成員曾請教愛沙尼亞法界人士,目前所知這是數位政府計畫的一部分,但應該還只停在『計畫』階段。」

他強調,若要把國家審判權完全交給 AI ,必定需要法源基礎,明確建立一套法規方案。由於目前愛沙尼亞並沒有出現相關法規,這個突破仍是「只聞樓梯響」。

AI 法官的技術邊界:它能做出好判決嗎?

儘管 AI 尚未披上法官袍,但愛沙尼亞構想彷彿是驚天一雷,預示出可能的未來圖像。許多人或許有同樣的好奇:AI 當法官究竟行不行?

李建良分成不同層次來討論:

-----廣告,請繼續往下閱讀-----

行不行有兩層涵義:能力上行不行,規範上可不可以。

第一層次是「可能性」問題:AI 法官足以擔任人類法官的角色嗎?更直白地問:AI 真有那麼厲害,能夠做出好判決?

要確認 AI 的能力,首先我們得問:什麼是好判決?

「這牽涉社會對法院判決的評斷標準。」李建良分析,一種標準是檢視「判決結果」;另一種則是審視「判決理由」,法官在判決書詳述的心證,如調查結果、採信哪些證據、證據效力、法條依據等。

若觀察近年台灣社會的現象,大眾似乎較關注判決結果。好比引發社會矚目的「台鐵殺警案」,這樁尚未確定的爭議案件,引發了司法當局對司法鑑定制度的重視與檢討,而輿論譁然多半是殺人無罪的結論,批評法官「不接地氣」,關於心證過程的討論相對較少些。

-----廣告,請繼續往下閱讀-----

換言之,假如重視結果,那不難想像 AI 法官有能力透過歸納、類比分析對案件做出判決。但若我們在乎法官為什麼、如何做出裁決,依照目前技術和愛沙尼亞計畫,AI 所產出的可能只有答案,但沒有理由(或較簡式的理由)。

這形成了第一重挑戰:

若 AI 法官無法清楚說明理由,我們如何檢視它的判決好不好?有沒有瑕疵?

有些人也質疑,AI 的精準、一致可能反倒是弱點。現行 AI 不具有真正理解他人的能力,無法實際參與答辯交鋒和開庭審理,而許多訊息來自臨場、個別案例的判讀,並非用數據化與資料化就足夠解釋,背後涉及文化、風俗、情境常識,相當複雜。

目前的人工智慧仍屬於「弱 AI」,沒有意識、思考能力,只是透過巨量資料與機器學習歸納出已知和未知之間的關聯。哲學家 John Searle 曾用「中文房」譬喻提出挑戰:如果 AI 並不了解真正意涵,就算它能和人一樣做出正確回應,似乎也不代表它就有獨立的心靈意識。
圖說設計│ 劉芝吟、林洵安

不過,AI 派並沒有全輸!

-----廣告,請繼續往下閱讀-----

首先,技術可能超前突破,讓 AI 未來也有能力寫判決書、說明論證。另外若拿現行制度相比,美國陪審制同樣只宣告:「陪審團認為無罪」,不會附上理由。更何況所謂的情境判斷,經常也會造成主觀性偏誤,《美國國家科學院院刊》(PNAS)研究發現,接近午餐時間法官對假釋認定較嚴格,用餐休息後,假釋審查就變寬鬆了!

想要假釋,還得祈禱法官吃飽飽?恐怕多數人難以接受。

鐵面無私包青天? 小心 AI 的內建歧視

總地來說,理性、客觀幾乎是 AI 的最大光環,以準確一致的邏輯做判斷,不受法官個人情緒與好惡影響。

但真是這樣嗎?許多研究證實:AI 默默戴上了有色眼鏡! COMPAS 系統被抨擊帶有種族歧視,有色人種更容易被預測為高再犯率;亞馬遜招聘、蘋果信用卡信貸系統都曾被發現隱含性別差別待遇。

-----廣告,請繼續往下閱讀-----

「這就如同人類一路走來看到的歷史不平等。」Amazon 資訊科學家說。

AI 系統在資料學習的過程,複製了人類長年累積的性別、種族、階級偏見。即便這些偏見已長久存在,但 AI 可能更強化不平等,因為人們會在毫無所覺下,信任科技工具的「客觀」訊息,對陌生人打分數。

然而,科技支持派沒有全盤放棄。AI 歧視是學來的,因應之策是在資料訓練時降低這些「標籤」,並且提供多樣性的資料。此外,比起人類刻意包裝、掩飾偏見,AI 反而有機會讓偏誤被「顯題化」,讓我們更加警覺,並進行修正。

綜合而論,若單從技術可能性評估,目前的 AI 也許不夠「聰明」,但是只要科技持續追求突破、進展,似乎沒有理由全盤否定 AI 法官可行性。畢竟,人類同樣也會犯錯、誤判、有偏見。

-----廣告,請繼續往下閱讀-----

「從能力來看,AI 確實可以幫助人類、補位弱點,很值得期待未來發展。」李建良持平分析:「但國家是否應該開放制度,更重要的仍在第二層次的考量。」

AI 法官需要明確法源基礎

他點出更關鍵的第二層議題:從規範角度來看,讓 AI 當法官可不可以?

簡單來說,即使人工智慧有能力獨立分析、判決,我們應該把審判大權交給 AI 嗎 ?是否可能衍生倫理問題?

「第一個遇到的是:需不需要修憲?這是多數人忽略的框架。」專研憲法、行政法的李建良特別指出。法官的身分保障及審判獨立的要求是直接寫在憲法上頭的,但憲法規定的法官是不是專指「人」呢?法學界可能有不同論述。

如果憲法說的法官專指「人」,也就是法官審判權奠基在人的前提,勢必需要修憲。反之,就算憲法允許「非人」擔任法官,仍然需要修法 ── 如同剛拍板的《國民法官法》,國家同樣必須建立一套法制來規範非人法官。例如,適用民事或刑事案件?能上訴嗎?上訴後交給另一位 AI 法官(AI 會有不同法官嗎?),或者由人類法官打掉重來?

價值選擇的難題:科技優勢 VS 法律原則

法源基礎僅是第一步,對整個社會而言,AI 法官挑戰的是價值選擇的難題。

2013 年,美國威斯康辛州法院參酌 COMPAS 風險指標,判處被告 Eric Loomis 6 年徒刑。Loomis 不服而上訴最高法院,認為法庭以 AI 系統裁決是一種「秘密審判」!要求說明 COMPAS 系統如何演算判斷出危險值。

這個案例顯然暴露了 AI 法官的價值衝突:演算法黑箱(black box)。

「在民主法治國家,法官不是個人,他代表的是國家。審判必須在公開透明的運作下,被監督、檢驗、究責。」李建良說:「法院公開審理、法官說明判決理由,都是來自這種被檢驗的要求。」

倘若披上法官袍的 AI ,無法開庭、詰問、說明判決理由,讓審判攤在陽光下,勢必挑戰現行的法院體制,也可能稀釋透明、公開、負責的司法價值。我們無從知道它為何會做出 A 判決,而不是 B 判決,不能確定它有沒有失誤,也難以確認責任歸屬。

Loomis 案也突顯出另一挑戰:代罪羔羊! AI 推測來自過往的資料,但「相似條件的其它人這麼做,不代表個別主體也會這麼做」。

這同時讓人擔憂 AI 的「因襲性」:社會信仰的美好價值是不斷翻轉、改變,有時正是因為劃時代的法院判決,才讓我們終於能破除傳統、確立新價值,例如美國法院推翻種族隔離平等制度,AI 法官會不會弱化、壓縮了法律肩負的深刻意義?

李建良直言,第一層次的「能力可行性」是人與 AI 的 比較參照,AI 能做到什麼,補足哪些人類弱點,帶來什麼優勢。

但最終,「倫理辯證」仍是無可迴避的關鍵核心,當新科技打破、牴觸基本價值,我們是否願意為了科技可能提供的「客觀公正」,放棄退讓這些原則?

我們願意授權給一套科技系統,讓它判定人們是否有罪,剝奪我們的人身自由(甚至生命)嗎?李建良認為,AI 法官的倫理爭議勢必挑戰人類的信任邊界,最終將深刻探問人類對科技制度的核心信念。圖片來源│ iStock
我們願意授權給一套科技系統,讓它判定人們是否有罪,剝奪我們的人身自由(甚至生命)嗎?李建良認為,AI 法官的倫理爭議勢必挑戰人類的信任邊界,最終將深刻探問人類對科技制度的核心信念。
圖片來源│ iStock

人文關懷,也是艱困的價值論辯

「這不會是全面贊成/反對的選擇題,因為 AI 法官很難普遍性適用每一種案件。」李建良強調。

AI 在資料統整、數據分析上已大放異彩,導入科技新工具、人機合作,可以減輕法院負擔,也拉近一般人與訴訟裁決的距離。然而,法律範疇高度複雜,即便未來開放 AI 法官,也必定是在特定的條件、脈絡與案型。

他以行政法說明,「大埔農地要不要徵收?美麗灣渡假村能不能蓋?這類行政法案件極度複雜,牽涉環保、制度、法規多重衝突,還有價值選擇的命題,不太可能由 AI 獨立裁決。」

更重要的是,即使技術邊界有機會突破、修正,讓 AI 越來越聰明,我們也不應迴避第二層次的倫理辯證。這也正是人文學科最重要的價值關懷。

「我們很容易倒過來想,認為有這麼多好處,為什麼不開放、不使用?但人文學者關注的是價值倫理,一旦越過了某些界線,無論多少優勢,我們都必須謹慎、嚴肅地看待。」李建良提出艱難考驗做類比:

當你明確知道這人是兇手,卻沒有任何證據,這時我們要不要放棄無罪推定,不計手段堅持罪有應得?這就是價值選擇的論辯。很困難,但很重要!

「人文學者的使命,是預先關切各種可能的問題。」面對 AI 大躍進,李建良集結法政、社會、哲學學者展開長期跨領域計畫,關切 AI 應用的人文思辨。他這麼說:「客觀來看,目前的 AI 技術還無法高度涉入法律系統,但當我們做更多思考對話,才能讓社會更清楚彼此的價值、信念與方向。」
攝影│林洵安

延伸閱讀

本文轉載自中央研究院研之有物,原文為AI 當法官,會是正義女神的化身嗎?專訪李建良,泛科學為宣傳推廣執行單位

-----廣告,請繼續往下閱讀-----
文章難易度
所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3923 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

0
0

文字

分享

0
0
0
不是不會髒,而是更難沾:耐污馬桶的表面科學
鳥苷三磷酸 (PanSci Promo)_96
・2026/09/22 ・3364字 ・閱讀時間約 7 分鐘

-----廣告,請繼續往下閱讀-----

本文與 Panasonic 合作,泛科學撰文 

●以下科學研究內容作為知識分享,不直接與Panasonic A La Uno全自動洗淨馬桶產品功能連結

在做家務的痛苦排行榜上,「刷馬桶」絕對名列前茅。明明天天都在沖水,但過不了幾天,馬桶內壁邊角總會浮現黃黃的水垢、角落發黑的霉斑,甚至是那些刷掉又長出來的粉紅色污垢(黏質沙雷氏菌)。

許多市售衛浴設備常標榜「神奇抗污」或「永久不沾」,讓人誤以為安裝後便能永保潔淨。然而從材料科學的角度來看,世上並無能使污垢憑空消失的魔法。所謂「耐污」的實質機制,並非打造完全不沾染髒污的材質,而是調整表面的物理與化學屬性,使水垢和微生物難以強力附著。一旦降低了污垢與內壁之間的附著力,透過日常水流沖刷,便能輕易地將髒污帶走。

-----廣告,請繼續往下閱讀-----

為什麼垢「黏不住」? 

要搞懂為什麼某些特殊表面能做到「耐污」,我們得先像偵探一樣,拆解馬桶裡的髒污究竟是怎麼「抓緊」材料表面的。馬桶內壁的污垢主要有兩大難纏的元兇:

  1. 水垢與礦物沉積*1:我們日常使用的自來水中含有鈣、鎂等金屬離子。當水滴在表面經歷反覆的濕潤與蒸發乾燥循環時,這些離子會逐漸結晶析出,變成硬度極高、緊緊「卡」在微觀縫隙裡的礦物質水垢。
  2. 生物膜與有機物*2:包含尿液中的無機鹽、油脂殘留,以及細菌入侵後分泌出像超強膠水一般的聚合物,所組成的黏滑防禦大本營。
關鍵不是沖水,而是「這些污垢如何抓住表面」

這兩大類污垢想要在材料上「落腳」,前提是它們必須能在表面找到足夠的附著點與黏合力。那麼,材料科學家是如何讓這些髒污「站不穩」的呢?答案就藏在「表面能(Surface Energy)」與「濕潤性(Wettability)」這兩個核心概念中。

當我們把水滴在某個表面上時,水滴會聚成一顆圓滾滾的水珠,還是迅速攤平開來?這取決於表面的特性:

  • 疏水路線(Hydrophobic)*1:具備低表面能的疏水表面,能顯著減少水分子或污染物與表面之間的極性作用力與氫鍵。水滴在這種表面上會因為表面張力而收縮成水珠,當水珠滾動滑落時,就能順便把表面的灰塵與礦物質顆粒帶走,這就是著名的「自清潔效應」。
  • 親水路線(Hydrophilic / Superhydrophilic)*2:相反地,極度親水的超親水表面則會強烈地吸引水分子,在材料最外層形成一層薄薄的「水化層(Hydration Layer)」。這層水化層就像是實體的液體盾牌,讓油污、蛋白質或細菌無法直接接觸到材料基底,只能漂浮在水膜上方。

如果要用攀岩來比喻:傳統粗糙的表面就像是有許多凹槽的攀岩牆,髒污就像攀岩者,需要找到落腳點並用力撐住才能攀附;而我們做的是抽掉把手點,或是在把手上塗上潤滑油,讓髒污找不到施力點,自然難以停留。

-----廣告,請繼續往下閱讀-----
材料科學的核心:想辦法讓污垢「抓不住」

不給細菌「握手」的機會

解決了水垢,下一個更棘手的對手是「細菌」。

馬桶內壁那些黑黑粉粉、摸起來滑滑的污垢,在微生物學中被稱為「生物膜(Biofilm)」。細菌並不是孤立生長的,當單顆細菌落在表面後,如果覺得環境舒適,它就會開始分泌胞外聚合物(EPS),這是一種天然的超強膠水。細菌們用這種膠水把自己與同伴緊緊黏在一起,並築起堅固的防禦堡壘,這時一般的沖水就很難把它們沖洗乾淨了。

根據《Nature Communications》與《Microsystems & Nanoengineering》的學術期刊研究指出,要阻止生物膜形成,除了化學上的抗菌,材料的「表面微幾何結構」扮演了至關重要的角色。

材料科學領域中有一個著名的「附著點理論(Attachment Point Theory)」:

-----廣告,請繼續往下閱讀-----
  1. 粗糙與微孔洞表面:如果材料表面存在許多微小的裂縫、氣孔或微米級凹洞,細菌(體積通常約 1 到 3 微米)就會興高采烈地鑽進這些小凹槽裡。這些凹槽不僅提供了極佳的機械咬合支點,還能幫細菌擋掉水流的沖刷。
  2. 極致平滑與微結構表面:相反地,如果材料表面做到極致平滑,完全沒有微米級的缺陷;或者反過來設計出尺寸遠小於細菌的奈米結構,細菌的足跡構造(如鞭毛或纖毛)就無法在表面找到穩固的「接觸附著點(Contact Points)」。

當細菌發現自己在這個表面上連「手都握不緊」、隨時會被水流吹走時,它就無法順利定殖並分泌膠水築巢。此外,現代衛浴結構在設計時,也越來越強調「一體成形」與「無接縫工藝」。消除接縫與死角,等於直接拔除了細菌與水垢最喜歡的避風港。

阻止細菌、生物膜找不到「落腳點」

當材料、結構與流體科技組隊聯防 

了解了材料化學與微觀幾何,我們就能勾勒出一座現代耐污馬桶的完整防禦體系:【材料層(低附著力)】+【結構層(無縫平滑)】+【動態流體層(泡沫與水流剪切力)】= 高效清潔!

以市面上備受矚目的 Panasonic A La Uno 全自動洗淨馬桶為例,就是將材料科學、結構工程與流體力學發揮到極致的典型代表:

1. 材料層:有機玻璃系新素材

A La Uno 全自動洗淨馬桶採新開發的「有機玻璃系新素材」(以壓克力高分子為基礎研發的衛浴專用材料,這類高分子成形技術亦被廣泛運用於大型水族館高壓觀景窗與飛機機艙罩)。這種材料表面具備極佳的疏水性與耐水垢特性,水滴不易長時間攤平停留;材質堅固、不易破裂,耐刮、不易造成細小傷痕。通過實驗測試,這種素材配合泡沫洗淨,在沖洗後能有效沖刷掉高達 99.99% 的大腸桿菌,從源頭阻斷細菌定殖。

-----廣告,請繼續往下閱讀-----

2. 結構層:無接縫工藝與三重防濺防護

在宏觀結構上,A La Uno 全自動洗淨馬桶採用無水箱沖水與便器、溫水洗淨便座一體成型設計,減少傳統水箱與座體之間的結構層次及接縫,並搭配可動迴轉式排水系統完成沖洗。更貼心的是其「三重防護」設計:

  • 泡沫防護:在水面上製造一層充沛的泡沫緩衝層,有效抑制男性站立小便時的尿液與污水飛濺;
  • 外圍防護:馬桶邊界特別設計了高約 3mm 的水檔,防止液體延著外壁滴落至地板;
  • 測漏防護:便座與馬桶本體採用不外露的防護設計,避免液體從縫隙飛濺滲漏。
Panasonic A La Uno 全自動洗淨馬桶

3. 動態流體層:雙效泡沫洗淨、漩渦水流與 nanoe™ X

當污垢降落在馬桶內壁時,A La Uno全自動洗淨馬桶 的動態流體科技便接手進行徹底打掃。其「雙效泡沫洗淨」會先釋放直徑約 5mm 的「毫米泡沫」包裹並帶走大塊髒污,再透過直徑約 60微米的「微米泡沫」深入微觀縫隙,徹底溶解殘餘的油脂與細微污垢。接著,配合高度清潔力的「漩渦型強力水流」,利用旋轉產生的流體剪切力,一口氣將附著力已被削弱的污垢剝離並沖走。此外,Panasonic A La Uno 全自動洗淨馬桶還搭襯了 nanoe™ X 健康科技,釋放氫氧離子有效抑制異味與髒污,維持空氣與內壁的良好衛生狀態。

科技讓生活變輕鬆,但物理法則依然誠實

從材料化學的低表面能設計,到微觀幾何的附著點控制,再到流體力學的水流沖刷,一座現代抗污馬桶的演進,縮影了人類如何運用基礎科學來解決日常生活痛點的智慧。

我們習慣將衛生清潔想像成一場與細菌髒污的硬碰硬死鬥。然而,A La Uno全自動洗淨馬桶 等現代衛浴技術的突破,展示了材料科學的另一種聰明思維:不靠強酸強鹼硬打,而是透過物理與化學邏輯,將「污垢固著」的機率降到最低。

-----廣告,請繼續往下閱讀-----

當材料科學與現代衛浴技術結合,刷馬桶不再是一件令人頭痛的辛苦瑣事。透過這些前沿科技的加持,我們得以從繁重的家務勞動中解放,享受更加乾淨、舒適且有品質的日常生活。

*1 參考論文:A metallic anti-biofouling surface with a hierarchical topography containing nanostructures on curved micro-riblets

*2 參考論文:Brushing up functional materials

-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

鳥苷三磷酸 (PanSci Promo)_96
251 篇文章 ・ 321 位粉絲
充滿能量的泛科學品牌合作帳號!相關行銷合作請洽:contact@pansci.asia

0

1
0

文字

分享

0
1
0
數智驅動未來:從信任到執行,AI 為企業創新賦能
鳥苷三磷酸 (PanSci Promo)_96
・2025/01/13 ・4938字 ・閱讀時間約 10 分鐘

-----廣告,請繼續往下閱讀-----

本文由 鼎新數智 與 泛科學 共同規劃與製作

你有沒有想過,當 AI 根據病歷與 X 光片就能幫你診斷病症,或者決定是否批准貸款,甚至從無人機發射飛彈時,它的每一步「決策」是怎麼來的?如果我們不能知道 AI 的每一個想法步驟,對於那些 AI 輔助的診斷和判斷,要我們如何放心呢?

馬斯克與 OpenAI 的奧特曼鬧翻後,創立了新 AI 公司 xAI,並推出名為 Grok 的產品。他宣稱目標是以開源和可解釋性 AI 挑戰其他模型,而 xAI 另一個意思是 Explainable AI 也就是「可解釋性 AI」。

如今,AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?

-----廣告,請繼續往下閱讀-----
AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?圖/pexels

黑盒子模型背後的隱藏秘密

無法解釋的 AI 究竟會帶來多少問題?試想,現在許多銀行和貸款機構已經使用 AI 評估借貸申請者的信用風險,但這些模型往往如同黑箱操作。有人貸款被拒,卻完全不知原因,感覺就像被分手卻不告訴理由。更嚴重的是,AI 可能擅自根據你的住所位置或社會經濟背景給出負面評價,這些與信用風險真的相關嗎?這種不透明性只會讓弱勢群體更難融入金融體系,加劇貧富差距。這種不透明性,會讓原本就已經很難融入金融體系的弱勢群體,更加難以取得貸款,讓貧富差距越來越大,雪上加霜。

AI 不僅影響貸款,還可能影響司法公正性。美國部分法院自 2016 年起使用「替代性制裁犯罪矯正管理剖析軟體」 COMPAS 這款 AI 工具來協助量刑,試圖預測嫌犯再犯風險。然而,這些工具被發現對有色人種特別不友好,往往給出偏高的再犯風險評估,導致更重的刑罰和更嚴苛的保釋條件。更令人擔憂的是,這些決策缺乏透明度,AI 做出的決策根本沒法解釋,這讓嫌犯和律師無法查明問題根源,結果司法公正性就這麼被悄悄削弱了。

此外,AI 在醫療、社交媒體、自駕車等領域的應用,也充滿類似挑戰。例如,AI 協助診斷疾病,但若原因報告無法被解釋,醫生和患者又怎能放心?同樣地,社群媒體或是 YouTube 已經大量使用 AI 自動審查,以及智慧家居或工廠中的黑盒子問題,都像是一場越來越複雜的魔術秀——我們只看到結果,卻無法理解過程。這樣的情況下,對 AI 的信任感就成為了一個巨大的挑戰。

為什麼人類設計的 AI 工具,自己卻無法理解?

原因有二。首先,深度學習模型結構複雜,擁有數百萬參數,人類要追蹤每個輸入特徵如何影響最終決策結果,難度極高。例如,ChatGPT 中的 Transformer 模型,利用注意力機制(Attention Mechanism)根據不同詞之間的重要性進行特徵加權計算,因為機制本身涉及大量的矩陣運算和加權計算,這些數學操作使得整個模型更加抽象、不好理解。

-----廣告,請繼續往下閱讀-----

其次,深度學習模型會會從資料中學習某些「特徵」,你可以當作 AI 是用畫重點的方式在學習,人類劃重點目的是幫助我們加速理解。AI 的特徵雖然也能幫助 AI 學習,但這些特徵往往對人類來說過於抽象。例如在影像辨識中,人類習慣用眼睛、嘴巴的相對位置,或是手指數量等特徵來解讀一張圖。深度學習模型卻可能會學習到一些抽象的形狀或紋理特徵,而這些特徵難以用人類語言描述。

深度學習模型通常採用分佈式表示(Distributed Representation)來編碼特徵,意思是將一個特徵表示為一個高維向量,每個維度代表特徵的不同方面。假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。對 AI 而言,這是理解世界的方式,但對人類來說,卻如同墨跡測驗般難以解讀。

假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。圖/unsplash

試想,AI 協助診斷疾病時,若理由是基於醫生都無法理解的邏輯,患者即使獲得正確診斷,也會感到不安。畢竟,人們更相信能被理解的東西。

打開黑盒子:可解釋 AI 如何運作?我們要如何教育 AI?

首先,可以利用熱圖(heatmap)或注意力圖這類可視化技術,讓 AI 的「思維」有跡可循。這就像行銷中分析消費者的視線停留在哪裡,來推測他們的興趣一樣。在卷積神經網絡和 Diffusion Models 中 ,當 AI 判斷這張照片裡是「貓」還是「狗」時,我需要它向我們展示在哪些地方「盯得最緊」,像是耳朵的形狀還是毛色的分布。

-----廣告,請繼續往下閱讀-----

其次是局部解釋,LIME 和 SHAP 是兩個用來發展可解釋 AI 的局部解釋技術。

SHAP 的概念來自博弈,它將每個特徵看作「玩家」,而模型的預測結果則像「收益」。SHAP 會計算每個玩家對「收益」的貢獻,讓我們可以了解各個特徵如何影響最終結果。並且,SHAP 不僅能透過「局部解釋」了解單一個結果是怎麼來的,還能透過「全局解釋」理解模型整體的運作中,哪些特徵最重要。

以實際的情景來說,SHAP 可以讓 AI 診斷出你有某種疾病風險時,指出年齡、體重等各個特徵的影響。

LIME 的運作方式則有些不同,會針對單一個案建立一個簡單的模型,來近似原始複雜模型的行為,目的是為了快速了解「局部」範圍內的操作。比如當 AI 拒絕你的貸款申請時,LIME 可以解釋是「收入不穩定」還是「信用紀錄有問題」導致拒絕。這種解釋在 Transformer 和 NLP 應用中廣泛使用,一大優勢是靈活且計算速度快,適合臨時分析不同情境下的 AI 判斷。比方說在醫療場景,LIME 可以幫助醫生理解 AI 為何推薦某種治療方案,並說明幾個主要原因,這樣醫生不僅能更快做出決策,也能增加患者的信任感。

-----廣告,請繼續往下閱讀-----

第三是反事實解釋:如果改變一點點,會怎麼樣?

如果 AI 告訴你:「這家銀行不會貸款給你」,這時你可能會想知道:是收入不夠,還是年齡因素?這時你就可以問 AI:「如果我年輕五歲,或者多一份工作,結果會怎樣?」反事實解釋會模擬這些變化對結果的影響,讓我們可以了解模型究竟是如何「權衡利弊」。

最後則是模型內部特徵的重要性排序。這種方法能顯示哪些輸入特徵對最終結果影響最大,就像揭示一道菜中,哪些調味料是味道的關鍵。例如在金融風險預測中,模型可能指出「收入」影響了 40%,「消費習慣」占了 30%,「年齡」占了 20%。不過如果要應用在像是 Transformer 模型等複雜結構時,還需要搭配前面提到的 SHAP 或 LIME 以及可視化技術,才能達到更完整的解釋效果。

講到這裡,你可能會問:我們距離能完全信任 AI 還有多遠?又或者,我們真的應該完全相信它嗎?

-----廣告,請繼續往下閱讀-----

我們終究是想解決人與 AI 的信任問題

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。因此,AI 既要「可解釋」,也要「能代理」。

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。圖/unsplash

舉例來說,當一家公司要做一個看似「簡單」的決策時,背後的過程其實可能極為複雜。例如,快時尚品牌決定是否推出新一季服裝,不僅需要考慮過去的銷售數據,還得追蹤熱門設計趨勢、天氣預測,甚至觀察社群媒體上的流行話題。像是暖冬來臨,厚外套可能賣不動;或消費者是否因某位明星愛上一種顏色,這些細節都可能影響決策。

這些數據來自不同部門和來源,龐大的資料量與錯綜關聯使企業判斷變得困難。於是,企業常希望有個像經營大師的 AI 代理人,能吸收數據、快速分析,並在做決定時不僅給出答案,還能告訴你「為什麼要這麼做」。

傳統 AI 像個黑盒子,而可解釋 AI (XAI)則清楚解釋其判斷依據。例如,為什麼不建議推出厚外套?可能理由是:「根據天氣預測,今年暖冬概率 80%,過去三年數據顯示暖冬時厚外套銷量下降 20%。」這種透明解釋讓企業更信任 AI 的決策。

-----廣告,請繼續往下閱讀-----

但會解釋還不夠,AI 還需能真正執行。這時,就需要另一位「 AI 代理人」上場。想像這位 AI 代理人是一位「智慧產品經理」,大腦裝滿公司規則、條件與行動邏輯。當客戶要求變更產品設計時,這位產品經理不會手忙腳亂,而是按以下步驟行動:

  1. 檢查倉庫物料:庫存夠不夠?有沒有替代料可用?
  2. 評估交期影響:如果需要新物料,供應商多快能送到?
  3. 計算成本變化:用新料會不會超出成本預算?
  4. 做出最優判斷,並自動生成變更單、工單和採購單,通知各部門配合執行。

這位 AI 代理人不僅能自動處理每個環節,還會記錄每次決策結果,學習如何變得更高效。隨時間推移,這位「智慧產品經理」的判斷將更聰明、決策速度更快,幾乎不需人工干預。更重要的是,這些判斷是基於「以終為始」的原則,為企業成長目標(如 Q4 業績增長 10%)進行連續且動態地自我回饋,而非傳統系統僅月度檢核。

這兩位 AI 代理人的合作,讓企業決策流程不僅透明,還能自動執行。這正是數智驅動的核心,不僅依靠數據驅動決策,還要能解釋每一個選擇,並自動行動。這個過程可簡化為 SUPA,即「感知(Sensing)→ 理解(Understanding)→ 規劃(Planning)→ 行動(Acting)」的閉環流程,隨著數據的變化不斷進化。

偉勝乾燥工業為例,他們面臨高度客製化與訂單頻繁變更的挑戰。導入鼎新 METIS 平台後,偉勝成功將數智驅動融入業務與產品開發,專案準時率因此提升至 80%。他們更將烤箱技術與搬運機器人結合,開發出新形態智慧化設備,成功打入半導體產業,帶動業績大幅成長,創造下一個企業的增長曲線。

-----廣告,請繼續往下閱讀-----

值得一提的是,數智驅動不僅帶動業務增長,還讓員工擺脫繁瑣工作,讓工作更輕鬆高效。

數智驅動的成功不僅依賴技術,還要與企業的商業策略緊密結合。為了讓數智驅動真正發揮作用,企業首先要確保它服務於具體的業務需求,而不是為了技術而技術。

這種轉型需要有策略、文化和具體應用場景的支撐,才能讓數智驅動真正成為企業持續增長的動力。

還在猶豫數智驅動的威力?免費上手企業 AI 助理!👉 企業 AI 體驗
現在使用專屬邀請碼《 KP05 》註冊就享知:https://lihi.cc/EDUk4
訂閱泛科學獨家知識頻道,深入科技趨勢與議題內容。

👉立即免費加入

-----廣告,請繼續往下閱讀-----

0

2
1

文字

分享

0
2
1
AI 能像人類一樣思考?諾貝爾物理學獎研究助力人工智慧模擬人類大腦
PanSci_96
・2024/11/14 ・2117字 ・閱讀時間約 4 分鐘

即使再怎麼模仿,AI 終究無法以與生物相同的方式思考吧?畢竟電腦的電子元件和我們大腦中的神經細胞結構截然不同。再怎麼模仿,AI 終究無法以與生物相同的方式思考吧?

錯,可以。

2024 年諾貝爾物理學獎跌破所有專家的眼鏡,頒給了兩位研究機器學習的科學家——約翰·霍普菲爾德(John Hopfield)和傑佛瑞·辛頓(Geoffrey Hinton)。他們以「人工」的方法打造了類神經網路,最終模擬出生物的「智慧」,奠定了當代深度學習的基礎。

為什麼解決人工智慧發展瓶頸的,竟然會是物理學?物理要怎麼讓 AI 更像人類?

-----廣告,請繼續往下閱讀-----
歡迎訂閱 Pansci Youtube 頻道 獲取更多深入淺出的科學知識!

從巴甫洛夫的狗到赫布理論:理解學習的基礎

為了解答這個疑問,我們需要一些背景知識。

20 世紀初,俄羅斯心理學家巴甫洛夫發現,狗在食物還沒入口前,就會開始分泌唾液。他進行了一系列實驗,改變食物出現前的環境,比如讓狗習慣在聽到鈴聲後馬上得到食物。久而久之,狗只要聽到鈴聲,就會開始分泌唾液。

大約 50 年後,神經科學家赫布(Donald Hebb)提出了一個假說:大腦中相近的神經元,因為經常同時放電,會產生更強的連結。這種解釋稱為「赫布理論」,不僅奠定了神經心理學的發展,更成為現代深度學習的基礎。

然而,赫布理論雖然描述了鄰近神經元的關係,卻無法解釋大腦如何建構出如此複雜的聯想網路。

-----廣告,請繼續往下閱讀-----

霍普菲爾德網路:物理學家對神經網路的貢獻

然而,赫布理論雖能描述神經元之間的關係,卻缺乏數學模型。物理學家約翰·霍普菲爾德從數學家約翰·康威(John Conway)的「生命遊戲」(Game of Life)中獲得靈感,試圖建立一個可以在電腦上運行的記憶系統。

霍普菲爾德受「生命遊戲」啟發,嘗試建立電腦記憶系統。圖/envato

「生命遊戲」由數學家康威(John Conway)發明,玩家開始時有一個棋盤,每個格子代表一個細胞,細胞可以是「活」或「死」的狀態。根據特定規則,細胞會根據鄰居的狀態決定下一次的生存狀態。康威的目的是展示複雜的系統不一定需要複雜的規則。

霍普菲爾德發現,這個遊戲與赫布理論有強大的關聯性。大腦中的大量神經元,在出生時處於初始狀態,經過刺激後,神經元間的連結會產生或斷裂,形成強大的記憶系統。他希望利用這些理論,創造一個能在電腦上運行的記憶系統。

然而,他面臨一個難題:赫布理論沒有明確的數學模型來決定神經元連結的規則。而在電腦上運行,必須要有明確的數學規則。

-----廣告,請繼續往下閱讀-----

物理學的啟發:易辛模型

霍普菲爾德從物理學的研究中找到了類似的模型:易辛模型(Ising Model)。這個模型用於解釋鐵磁性物質的磁性特性。

在鐵磁性物質中,電子具有「自旋」,自旋產生磁矩。電子的自旋方向只有「向上」或「向下」,這就像生命遊戲中細胞的「生」或「死」。鄰近的電子會影響彼此的自旋方向,類似於細胞之間的互動。

易辛模型能用數學描述電子間的相互影響,並通過計算系統能量,得出自旋狀態的分佈。霍普菲爾德借用了這個概念,將神經元的互動視為電子自旋的互動。

他結合了康威生命遊戲的時間演化概念、易辛模型的能量計算,以及赫布理論的動態連結,創造了「霍普菲爾德網路」。這讓電腦能夠模擬生物大腦的學習過程。

-----廣告,請繼續往下閱讀-----

突破瓶頸:辛頓與波茲曼機

約翰·霍普菲爾德於1982年發明聯想神經網路,即「霍普菲爾網路」。圖/wikimedia

然而,霍普菲爾德網路並非完美。它容易陷入「局部最小值」的問題,無法找到系統的全局最優解。為了解決這個問題,加拿大計算機科學家傑佛瑞·辛頓(Geoffrey Hinton)提出了「波茲曼機」(Boltzmann Machine)。

辛頓將「模擬退火」的概念引入神經網路,允許系統以一定的機率跳出局部最小值,尋找全局最優解。他還引入了「隱藏層」的概念,將神經元分為「可見層」和「隱藏層」,提高了網路的學習能力。

受限波茲曼機(Restricted Boltzmann Machine)進一步簡化了模型,成為深度學習的基礎結構之一。這些創新使得 AI 能夠更有效地模擬人類的思維和學習過程。

AI 的未來:跨學科的融合

霍普菲爾德和辛頓的工作,將物理學的概念成功應用於人工智慧。他們的研究不僅解決了 AI 發展的瓶頸,還奠定了深度學習的基礎,對現代 AI 技術產生了深遠的影響。因此,2024 年諾貝爾物理學獎頒給他們,並非意外,而是對他們在跨學科領域的重大貢獻的肯定。

-----廣告,請繼續往下閱讀-----

AI 的發展,離不開物理學、生物學、數學等多學科的融合。霍普菲爾德和辛頓的工作,正是這種融合的典範。未來,隨著科學技術的進步,我們有理由相信,AI 將越來越接近人類的思維方式,甚至可能超越我們的想像。

-----廣告,請繼續往下閱讀-----

討論功能關閉中。

PanSci_96
1299 篇文章 ・ 2684 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。