1

3
0

文字

分享

1
3
0

誰在傳送假訊息?提升全民媒體素養,讓謠言止於智者!

研之有物│中央研究院_96
・2023/06/09 ・4698字 ・閱讀時間約 9 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|莊崇暉、田偲妤
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

不要再轉傳假訊息了!


「我家親戚群組又在 LINE 傳假訊息了!」這是常在年輕族群中聽到的抱怨,彷彿隨意散播謠言是長輩特有的行為,當你願意了解長輩的數位社交生活,將發現事實並非如此。中央研究院「研之有物」專訪院內民族學研究所李梅君助研究員,在研究 Cofacts 事實查核協作計畫時發現,臺灣民眾對公共議題的關注存在世代衝突,該衝突延伸至日常相處上,卻在事實查核的協作過程中看到正向溝通的曙光。究竟臺灣長輩發展出什麼樣的數位社交生活?如何應用第三方資訊與長輩溝通,甚至邀請長輩加入闢謠打怪行列?

圖/研之有物。

2018 年臺灣地方選舉和公民投票讓存在已久的世代衝突瞬間引爆,面對韓流現象、同性婚姻、性平教育等議題,厭世代年輕人(1990 年代左右出生)和戰後嬰兒潮世代長輩(約 1946-1964 年出生)因經濟與社會生長背景的不同,常發生意見分歧而爭吵不休的情形。

在臺灣最多人使用的 LINE 即時通訊軟體中,出現不實謠言滿天飛的亂象,年輕人紛紛將矛頭指向長輩,批評長輩不先查核資訊真假就亂發文。

中研院民族所李梅君助研究員在研究 Cofacts 事實查核協作計畫時,發覺臺灣世代衝突問題的嚴重性。年輕人認定長輩就是假訊息的傳遞者,但事實上,許多年輕人也常在無意間互傳不實謠言。

-----廣告,請繼續往下閱讀-----

「大眾常急著為長輩貼標籤,卻從來不去了解他們怎麼使用數位工具。這樣並無助於解決問題,只會加深彼此的誤會。」研究過程中逐一浮現的問題為李梅君指引出一條研究道路,從事實查核協作行動出發,逐步深入長輩的數位社交生活,探索緩解世代衝突、提升全民媒體素養的可能途徑。

「早安圖」的背後:長輩獨特的數位社交

圖/研之有物(圖片來源/Unsplash

從了解長輩的數位社交生活做起,應有助於促進不同世代的相互理解,李梅君選擇由長輩們發展出的「早安圖」文化來切入研究。

科技與生活的緊密結合讓人手一機成為常態,再加上疫情造成的人群接觸減少,讓人們日漸習慣將社交重心從實體轉往線上。越來越多長輩靠 LINE 群組維繫親友感情、接收外界資訊,每天一早發布的「早安圖」經常是長輩社交生活的起頭。

然而,早安圖一直有被汙名化的傾向,溫馨圖片配上吉祥文字的簡單排版被貼上具有長輩風格的標籤,甚至還被戲稱為「長輩圖」。李梅君與長輩相處後發現,早安圖的存在對於長輩的社交生活具有深刻意義。

-----廣告,請繼續往下閱讀-----

首先,早安圖是長輩證明自己跟的上年輕人腳步的重要象徵!身為晚近才接觸手機、電腦的「數位移民」,長輩常因不會操作數位工具、又害怕晚輩覺得自己笨拙,而感到焦躁不安。因此,當自己好不容易學會用手機拍照、修圖、發早安圖,對長輩來說是自信心的累積,代表自己沒被時代淘汰

此外,早安圖也是長輩與人互動的敲門磚。李梅君察覺,有些長輩在傳訊息時相當在意社交分寸,不像年輕人想到什麼就 LINE 一下朋友,反而擔心隨意發文會被當成不懂規矩的「老人」。因此,當與新朋友開啟話題時,他們會先禮貌性地試探,這時無害的早安圖就是最好的敲門磚,可以從對方回傳的字句、貼圖或已讀不回,判斷能否進一步交談。

如果我們願意深入體會早安圖對長輩的意義,你將發現早安圖是長輩表達「關懷」的重要媒介。

例如在不方便見面的疫情期間,許多長輩會互相分享充滿溫馨祝福的早安圖、早安短影片,當中包含一些身體保健資訊,即時表達對遠方親友的關心,也讓對方知道自己過的很好。

但是,伴隨著早安圖的問候,群組裡轉傳的文字與圖像影片卻可能含有具爭議性的農場內容,例如每天喝檸檬水可以防疫、常喝地瓜葉牛奶可以防癌等,讓以關懷為出發點的長輩成為散播謠言的代罪羔羊。為此,有越來越多公民團體開始號召民眾一起打擊假訊息,李梅君研究的 Cofacts 就是其中一個針對 LINE 假訊息亂象所發展的計畫。

-----廣告,請繼續往下閱讀-----

聽到外面的聲音:「事實查核協作社群」打開群組封閉的大門

LINE 聊天室裡所有的對話都經過加密,就算檢舉了某用戶的言論,LINE 官方也難以遏阻資訊傳播。
圖/Unsplash

LINE 假訊息亂象一直是假新聞議題中非常難處理的一塊,因為 LINE 不像 Facebook、Twitter 或 Instagram 有審查下架機制,LINE 聊天室裡所有的對話都經過加密,就算檢舉了某用戶的言論,LINE 官方也難以遏阻資訊傳播。

李梅君提到:「雖然 LINE 群組相當封閉,在臺灣卻已具有極大的公共性。」很多群組都涉及公共議題的討論,並累積千百人以上的成員,一旦有人惡意散播不實謠言,在缺乏查核機制的情況下,後果可能不堪設想。

因此,自 2016 年起,公民科技社群 g0v 臺灣零時政府的成員推出「Cofacts 真的假的 – 訊息回報機器人與查證協作社群」,邀請民眾主動回報在 LINE 上發現的可疑訊息,再由來自各領域的編輯志工進行事實查核,撰寫有助判斷訊息真假的回應。之後只要有民眾發出相似問題,機器人便會從資料庫中找出相關回應供民眾參考。收到回應的民眾如有不同看法,也可以補充新的回應。

在 Cofacts 群組回報 18 歲公民可以選市長的可疑訊息,獲得豐富的澄清回應與參考資料,使用者也可補充新的回應或分享給朋友。
圖/截圖自 Cofacts 群組

你可能會好奇,當今的「人工智慧」(AI)已可查核假訊息,為何 Cofacts 還在仰賴編輯志工這樣的「工人智慧」?李梅君指出,目前的 AI 僅可以偵查大規模的操弄訊息來源,或者評估影像有無修圖造假。當前要用 AI 來判讀文字內容的真偽還相當困難,因為一則文字訊息通常真假資訊參雜,當中還包括個人意見或情緒用詞,很難明確判定是真是假。

-----廣告,請繼續往下閱讀-----

因此,Cofacts 的編輯志工除了指出訊息錯誤之處,也會提醒該則訊息是否含有個人意見,有助民眾從封閉的 LINE 群組接收外界聲音,進而創造一處可以參與討論的公共空間,共同思考謠言是什麼、怎麼跟謠言對話。

和時間賽跑 艱辛的闢謠之路

不過該計畫也有艱辛之處,由於需仰賴大量人力進行事實查核,Cofacts 經常面臨闢謠速度趕不上謠言散播的問題。根據統計,Cofacts 的 LINE 目前有 42 萬名好友,過去 10 週每週傳來約 650 則新謠言;目前登記的編輯志工大約有 2,600 多人,但每週會固定回應訊息者只有 20 人上下,平均澄清一則謠言要花 20 至 30 分鐘。

李梅君分享實際參與事實查核的心得:「一開始你可能很熱血地上線回應訊息,但回應了一、二天後,可能會逐漸失去參與感,畢竟你只是一個沒支薪的志工,而且很多謠言看了又很令人痛苦,還要耐著性子花 30 分鐘回應。」

因此,為了維持志工夥伴的參與熱情,Cofacts 每個月都會辦一次聚會,藉由分組競賽活動,讓志工們培養共同打怪的向心力,也可相互交流查核經驗、結交志同道合的朋友。

-----廣告,請繼續往下閱讀-----
李梅君分享實際參與 Cofacts 事實查核的心得,編輯志工透過每月聚會維繫共同打怪的向心力。
圖/研之有物

至於使用 Cofacts 釐清謠言的民眾又有何回饋呢?李梅君聽過一些年輕志工分享參與事實查核的原因,主要是想透過 Cofacts 的第三方資訊與長輩對話。雖然不確定長輩能否接受,卻可盡量避免家人之間發生正面衝突。

根據李梅君的觀察,在政治議題上,純粹處理謠言無法真正化解世代衝突,因為謠言只是表現形式之一,背後牽涉每個人不同的價值觀與政治立場,需仰賴更多對話空間的產生。

不過,在疫情期間,與防疫相關的健康資訊則明顯受到不同世代的共同關注,Cofacts 的使用人數因此大幅成長,其中增加最多的就是 50 歲以上的使用者。因為健康資訊較不受政治立場影響,再加上全民必須共同面對疫情威脅,世代衝突的問題自然較少。

公民團體的辛勤奔走 努力提升全民媒體素養才是真正的關鍵

ChatGPT 等生成式 AI 問世後,未來可能會出現更多人為操作的假圖文,或是誤信 AI 偏差回覆等狀況。面對上述危機,李梅君認為:

應對關鍵在於,大眾是否具備足夠的「媒體素養」與「思辨能力」去判讀網路訊息。

可惜這在我們過去的教育裡並不受重視,直到近幾年教育部才開始在 108 課綱下推動「媒體素養教育」,要求在不同年級與學科中融入媒體素養課程。例如資訊課會介紹社群媒體用演算法投放廣告的邏輯;理化課會教學生分辨並思考「偽科學」的成因;國文課則透過閱讀不同文本培養思辨能力。

-----廣告,請繼續往下閱讀-----

然而,社會上多數人沒有上過相關課程,很多還是不太熟悉數位工具的長輩,幸好現在有 Cofacts 以及多家臺灣公民團體在做媒體素養教育。他們主動走進長輩的生活圈,教長輩怎麼使用手機、如何確認訊息真假,甚至鼓勵長輩善用發早安圖的習慣,成為謠言破除推手。

李梅君目前的研究正在觀察這些公民團體怎麼採取行動。例如 NGO 組織「假新聞清潔劑」會前進廟口、菜市場或老人服務中心等長輩聚集地,舉辦街頭宣講活動。在宣講過程中,一開始不會直接跟長輩講假訊息,因為假訊息在臺灣的脈絡裡很容易被導向敏感的政治議題,誤以為要聊網軍。

因此,宣講的切入點通常會先問長輩是不是常收到詐騙訊息?接著,志工會分享一些受騙案例,例如有人買了網路一頁式廣告的保養品,結果臉爛掉;或是吃了來路不明的保健食品,最後弄壞身體。藉由生活化、無政治立場、令人感同身受的案例,讓長輩意識到學會辨別訊息真假很重要!

另一個事實查核的組織「MyGoPen|麥擱騙」會製作一則則精美的謠言澄清圖文,吸引長輩像發早安圖一樣,將這些闢謠圖文大量轉發到各個群組。如此一來,長輩本身既可釐清謠言,還可幫助更多長輩遠離詐騙,更證明自己擁有不輸給年輕人的知識與能力。

-----廣告,請繼續往下閱讀-----
「MyGoPen/麥擱騙」製作的謠言澄清圖文,網站上也有詳細的澄清說明與參考資料
圖/截圖自 MyGoPen 群組

「我覺得這是很令人感動的事情,因為這個題目很難,可是有很多人願意用不同的角度去介入,而且大部分都是志工。」李梅君有感而發的說。

臺灣長期被國際視為境外假訊息泛濫的國度,如今一個提升全民媒體素養的生態圈正在形成,因假訊息而延伸出的世代衝突問題有待長時間相互理解溝通,但公民社群的力量讓人們看見改變的契機。

李梅君有感而發的談到,過去很多國際友人將臺灣視為一處被假訊息攻擊很嚴重的地方,現在我們已發展出一個應對的生態圈,國際上越來越多人來跟臺灣學習!圖/研之有物

延伸閱讀

-----廣告,請繼續往下閱讀-----
文章難易度
所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3923 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

0
0

文字

分享

0
0
0
AI 可以設計散熱,但誰敢讓它出貨?林唯耕談算力背後的物理現實
鳥苷三磷酸 (PanSci Promo)_96
・2026/08/20 ・2819字 ・閱讀時間約 5 分鐘

本文由 高柏科技 合作,泛科學撰文

林唯耕剛回台灣任教時,曾在清華大學的實驗室裡用一立方公分的「氨」做實驗。沒想到氨氣意外洩漏,那股刺鼻的氣味瞬間瀰漫整棟大樓,引來眾多師生抗議。

「從此以後,我再也不敢在實驗室裡用氨了。」他在《思想實驗室》的訪談中,帶著笑意回憶這段往事。

這段插曲聽來像是一則工程師的寓言:在理論模型中,氨是太空熱控系統的理想介質;但在現實的辦公大樓裡,它首先是逼人逃竄的臭味。公式本身沒有錯,但現實世界永遠比公式更複雜——它包含了人、成本、風險,以及必須為後果負責的工程師。

-----廣告,請繼續往下閱讀-----

高柏科技技術專家、清華大學榮譽退休教授林唯耕 ,曾任職於美國 OAO 工程部熱流組,深耕電子構裝散熱與熱管技術多年。隨著 AI 浪潮席捲全球,他鑽研一輩子的老問題再次被推向科技產業的核心:當晶片運算速度無止境攀升,那股伴隨而生的熱,究竟該往哪裡去?

熱不會讀新品發表會

科技巨頭在發表會上熱衷於談論大型語言模型、GPU 規格與驚人的算力。這些詞彙在投影片上光鮮亮麗,彷彿進步毫無邊界。然而,每一次數位運算都紮實地發生在實體晶片上。晶片會發熱、材料會疲勞老化,一旦設備過熱,系統便會降頻保護。在物理現實面前,再動聽的發表會敘事也必須低頭。

晶片會發熱、材料會疲勞老化,一旦設備過熱,系統便會降頻保護 / 圖片:envato

回顧個人電腦發展早期,晶片幾乎不需專屬散熱元件。隨後,鋁製鰭片、風扇、熱管到均溫板逐一登場。這段歷程常被視為技術升級,其實更像是對空間的極限勒索:晶片功率翻倍,發熱源的面積卻沒變大,機箱空間也不可能無限擴張。

林唯耕指出,散熱設計的核心只有三要素:功率、熱源面積與空間限制。他舉例,在標準的 1U 機箱中,若發熱面積約為三十乘三十毫米,氣冷系統在達到八百瓦時就會面臨瓶頸。這並非固定的物理常數,而是取決於空間、面積與氣流的動態平衡。最現實的代價在於,風扇轉速提升的背後,是噪音、電力損耗與空間占用。

-----廣告,請繼續往下閱讀-----

因此,「液冷技術」的興起並非單純為了追求酷炫,而是算力密度提升後的必然選擇。它能更精準地帶走晶片廢熱,卻也將新的挑戰帶入機房:漏液風險、流道堵塞、材料相容性,以及維運時的難度。工程的進步,本質上鮮少是徹底消滅問題,更多時候是選擇一組「比較值得承擔」的新問題。

太空教他的,不是把答案搬回地面

太空熱控工程之所以迷人,是因為它剝奪了地球上最常見的散熱工具。在真空宇宙中,沒有空氣能讓風扇製造對流;受光面溫度破百度,陰影處卻極度嚴寒。工程師必須純粹仰賴熱傳導、熱輻射,以及熱管與環路型熱管(LHP)來搬移熱能。

熱管運作的關鍵在於「相變」——液體蒸發時吸收大量潛熱,冷凝後重回循環。林唯耕比較了銅與水的熱傳導能力:在他設定的特定條件下,實心銅塊約能傳導 120 瓦的熱能;但若每秒有一立方公分的水發生蒸發相變,移熱量可瞬間拉升至 2.4 千瓦(kW)。他強調「每秒」的觀念,因為散熱談的是動態流動速率,而非靜態的冷卻魔法。

儘管如此,太空科技並不能直接套用到地面。太空元件因考量重量、功耗與維修難度,偏好無馬達幫浦的被動式設計;但地面 AI 伺服器面臨更高的熱負載與環境溫度,往往仍需幫浦驅動流量。當年那場「氨氣洩漏」事故正是最好的提醒:技術是否「先進」,與它是否「適合」當下的場景,始終是兩回事。

-----廣告,請繼續往下閱讀-----
他強調「每秒」的觀念,因為散熱談的是動態流動速率,而非靜態的冷卻魔法。/圖片:envato

好論文,為什麼仍可能造不出好產品

學術研究致力於證明「可行性」,而工業現場則要求「可重複性」——不僅要能運作,還得確保每台出廠的設備都不漏水。林唯耕將此定義為「從 0 到 1」與「從 1 到 100」的差別。後者涉及良率、成本、公差與客戶信任。論文中那次最完美的實驗數據,在產線上往往未必管用。

他從不避談失敗。在高柏科技早期與學界合作時,也曾遇過實驗數據無法複製,或研究方向偏離產業需求。這未必是雙方努力不夠,而是彼此對「成功」的標準不同。為了解決這道鴻溝,高柏科技推動「柏苗啟航創新培育計畫」,每年投入逾千萬資金與成大、中山、台科大等校合作,並指派專業人才在過程中持續微調、校正,確保研發貼近產線現實。

他分享了近期一項液冷工質校正專案。團隊使用非侵入式的超音波流量計進行觀測,但由於儀器預設以「水」校正,換成其他化學流體後讀數便出現誤差。最初嘗試用幫浦壓差推算,卻發現缺乏重複性,數據甚至推導出不合理的蒸發率。最後團隊回歸基本面,改用秤重法搭配能量平衡進行交叉驗證,才讓數據成功收斂。

這個故事真正的價值不在於「產學雙贏」的口號,而在於那段不夠優雅的挫折:假設失效、數據混亂、方法砍掉重練。也正是在這種時刻,企業需要的不只是會算數的人才,而是能洞察研究何時「走鐘」,並有權力喊停、要求重來的關鍵決策者。

-----廣告,請繼續往下閱讀-----

林唯耕坦言,過去在校園裡總認為「技術第一、成本第二」,進入商界後才驚覺行銷與信任關係往往才是關鍵。這番話雖然不如科技突破那樣動聽,卻是產品能否進入市場的殘酷真相。再卓越的散熱設計,若無法穩定生產或贏得客戶信任,也僅止於一份精美的報告。

AI 會給答案,誰來負責出貨?

訪談尾聲,主持人國威提出了一個時代難題:假設 AI 能在彈指間生成散熱架構、材料配方與流道設計,企業該選擇全面擁抱 AI 的速度,還是保留緩慢但穩定的工程驗證,以規避潛在的失效風險?

林唯耕拒絕落入二選一的框架。他的觀點是:兩者並存。AI 擅長處理資訊、生成草案;但工程師仍須實作原型,進行嚴苛的性能與可靠度測試,最終由人決定是否出貨。這並非盲目崇拜人類直覺,而是基於一項事實:AI 的資料庫裡,通常沒記載下一次「意外洩漏」或「材料疲勞」的細節,且模型永遠無法為量產結果擔負法律與商業責任。

在 AI 時代,最稀缺的未必是熟練下指令(Prompt)的人,而是具備這種能力的人:能預判答案可能在哪裡出錯、能設計實驗將問題「逼」出來,並且願意為最終的量產品質負起責任。

-----廣告,請繼續往下閱讀-----

大眾習慣將雲端想像成輕盈、無重量的空間。但現實中,雲端是由龐大的機房架構而成,裡面裝滿了晶片、管線、泵浦與冷卻液。虛擬算力的每一次擴張,都會在實體世界留下發熱的足跡。散熱工程師的價值,就是不讓這筆物理帳單,被埋沒在光鮮亮麗的投影片背後。

-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

0
0

文字

分享

0
0
0
NCC 攜手民間推動媒體素養公民培力,跨界協作深耕社區及校園共觸及逾 1,500 人次 
鳥苷三磷酸 (PanSci Promo)_96
・2026/01/26 ・1250字 ・閱讀時間約 2 分鐘

本文為 國家通訊傳播委員會(NCC) 廣告

為因應數位時代資訊爆炸的挑戰及落實全民媒體素養教育,國家通訊傳播委員會(NCC)114 年度持續推動「媒體素養公民培力計畫」,與 10 個專業單位跨界協作,針對一般大眾、銀髮族、兒少、身心障礙者及新住民族群,量身打造 22 場公民培力活動,計畫形式涵蓋互動講座、市集陳設及實地參訪等多元形式,成功吸引超過 1,500 人次熱情參與,不僅強化民眾的媒體素養辨識力,透過與民間單位緊密合作,建構多元健康的媒體環境。 

多方協作,以創意形式增進民眾媒體素養 

本年度成功攜手廣電媒體、學術機構、民間單位辦理,充分發揮自身專業,以多元互動形式引發民眾共鳴。例如:全聯數位有線電視巧妙結合動漫元素推出《守心之呼吸》教案,將「隱私權保護」與「性別平權」轉化為互動問答,讓兒少掌握議題核心;正聲廣播則深入偏鄉校園,透過互動課程與廣播劇體驗,並結合原創 IP 故事與錄音實作,教導學童「轉發前先停十秒」與「慢一秒,真一分」心法,並介紹介紹 AI技術在影音創作上的應用,帶領學童實際體驗 AI生成聲音與變聲效果,增進其辨識資訊正確性及近用媒體之能力。 

圖1. 全聯數位有線電視將議題結合動漫與兒少族群互動 
圖2. 正聲廣播透過互動課程與廣播劇體驗深入偏鄉校園分享媒體素養 

此外,本次計畫亦與社團法人臺南市樂活關愛協會合作,透過跨領域資源整合,針對銀髮族與身障族群深入探討「假訊息防治」、「身心障礙者權益」及「網路性別暴力」等關鍵課題,本次課程中亦提供手語翻譯與聽打服務,以確保聽障者能平等參與。 

-----廣告,請繼續往下閱讀-----
圖3. 社團法人臺南市樂活關愛協會舉辦「網路性別暴力與多元性別理解」講座,宣導性別平權議題 

公民培力計畫合作版圖橫跨北、中、南、東部,確保推廣觸角延伸至各縣市與族群。例如連花廣播與人人廣播分別於花蓮及台北舉辦市集擺攤,透過集點等活潑之互動方式將媒體素養意識深入大眾生活。 

圖4. 人人廣播透過市集擺攤形式將媒體素養植入大眾生活 

各參與單位透過多場主題講座與實體活動,與地方社區、校園及大眾深度連結,成功撒下媒體素養的種子。參與者課後反饋極佳,紛紛表示活動內容實用,有助於提升日常資訊判讀能力。 

深化全民媒體素養,建構優質媒體生態環境 

NCC 每年持續推動公民培力活動,幫助閱聽者增進對媒體資訊的辨識、思考與評估能力,以深化全民媒體素養。未來 NCC 將持續深耕,結合各界資源,共同打造一個更優質的社會環境。 

  • (本活動由國家通訊傳播委員會委託深得行銷股份有限公司辦理) 
-----廣告,請繼續往下閱讀-----

討論功能關閉中。

鳥苷三磷酸 (PanSci Promo)_96
250 篇文章 ・ 320 位粉絲
充滿能量的泛科學品牌合作帳號!相關行銷合作請洽:contact@pansci.asia

0

1
0

文字

分享

0
1
0
數智驅動未來:從信任到執行,AI 為企業創新賦能
鳥苷三磷酸 (PanSci Promo)_96
・2025/01/13 ・4938字 ・閱讀時間約 10 分鐘

本文由 鼎新數智 與 泛科學 共同規劃與製作

你有沒有想過,當 AI 根據病歷與 X 光片就能幫你診斷病症,或者決定是否批准貸款,甚至從無人機發射飛彈時,它的每一步「決策」是怎麼來的?如果我們不能知道 AI 的每一個想法步驟,對於那些 AI 輔助的診斷和判斷,要我們如何放心呢?

馬斯克與 OpenAI 的奧特曼鬧翻後,創立了新 AI 公司 xAI,並推出名為 Grok 的產品。他宣稱目標是以開源和可解釋性 AI 挑戰其他模型,而 xAI 另一個意思是 Explainable AI 也就是「可解釋性 AI」。

如今,AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?

-----廣告,請繼續往下閱讀-----
AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?圖/pexels

黑盒子模型背後的隱藏秘密

無法解釋的 AI 究竟會帶來多少問題?試想,現在許多銀行和貸款機構已經使用 AI 評估借貸申請者的信用風險,但這些模型往往如同黑箱操作。有人貸款被拒,卻完全不知原因,感覺就像被分手卻不告訴理由。更嚴重的是,AI 可能擅自根據你的住所位置或社會經濟背景給出負面評價,這些與信用風險真的相關嗎?這種不透明性只會讓弱勢群體更難融入金融體系,加劇貧富差距。這種不透明性,會讓原本就已經很難融入金融體系的弱勢群體,更加難以取得貸款,讓貧富差距越來越大,雪上加霜。

AI 不僅影響貸款,還可能影響司法公正性。美國部分法院自 2016 年起使用「替代性制裁犯罪矯正管理剖析軟體」 COMPAS 這款 AI 工具來協助量刑,試圖預測嫌犯再犯風險。然而,這些工具被發現對有色人種特別不友好,往往給出偏高的再犯風險評估,導致更重的刑罰和更嚴苛的保釋條件。更令人擔憂的是,這些決策缺乏透明度,AI 做出的決策根本沒法解釋,這讓嫌犯和律師無法查明問題根源,結果司法公正性就這麼被悄悄削弱了。

此外,AI 在醫療、社交媒體、自駕車等領域的應用,也充滿類似挑戰。例如,AI 協助診斷疾病,但若原因報告無法被解釋,醫生和患者又怎能放心?同樣地,社群媒體或是 YouTube 已經大量使用 AI 自動審查,以及智慧家居或工廠中的黑盒子問題,都像是一場越來越複雜的魔術秀——我們只看到結果,卻無法理解過程。這樣的情況下,對 AI 的信任感就成為了一個巨大的挑戰。

為什麼人類設計的 AI 工具,自己卻無法理解?

原因有二。首先,深度學習模型結構複雜,擁有數百萬參數,人類要追蹤每個輸入特徵如何影響最終決策結果,難度極高。例如,ChatGPT 中的 Transformer 模型,利用注意力機制(Attention Mechanism)根據不同詞之間的重要性進行特徵加權計算,因為機制本身涉及大量的矩陣運算和加權計算,這些數學操作使得整個模型更加抽象、不好理解。

-----廣告,請繼續往下閱讀-----

其次,深度學習模型會會從資料中學習某些「特徵」,你可以當作 AI 是用畫重點的方式在學習,人類劃重點目的是幫助我們加速理解。AI 的特徵雖然也能幫助 AI 學習,但這些特徵往往對人類來說過於抽象。例如在影像辨識中,人類習慣用眼睛、嘴巴的相對位置,或是手指數量等特徵來解讀一張圖。深度學習模型卻可能會學習到一些抽象的形狀或紋理特徵,而這些特徵難以用人類語言描述。

深度學習模型通常採用分佈式表示(Distributed Representation)來編碼特徵,意思是將一個特徵表示為一個高維向量,每個維度代表特徵的不同方面。假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。對 AI 而言,這是理解世界的方式,但對人類來說,卻如同墨跡測驗般難以解讀。

假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。圖/unsplash

試想,AI 協助診斷疾病時,若理由是基於醫生都無法理解的邏輯,患者即使獲得正確診斷,也會感到不安。畢竟,人們更相信能被理解的東西。

打開黑盒子:可解釋 AI 如何運作?我們要如何教育 AI?

首先,可以利用熱圖(heatmap)或注意力圖這類可視化技術,讓 AI 的「思維」有跡可循。這就像行銷中分析消費者的視線停留在哪裡,來推測他們的興趣一樣。在卷積神經網絡和 Diffusion Models 中 ,當 AI 判斷這張照片裡是「貓」還是「狗」時,我需要它向我們展示在哪些地方「盯得最緊」,像是耳朵的形狀還是毛色的分布。

-----廣告,請繼續往下閱讀-----

其次是局部解釋,LIME 和 SHAP 是兩個用來發展可解釋 AI 的局部解釋技術。

SHAP 的概念來自博弈,它將每個特徵看作「玩家」,而模型的預測結果則像「收益」。SHAP 會計算每個玩家對「收益」的貢獻,讓我們可以了解各個特徵如何影響最終結果。並且,SHAP 不僅能透過「局部解釋」了解單一個結果是怎麼來的,還能透過「全局解釋」理解模型整體的運作中,哪些特徵最重要。

以實際的情景來說,SHAP 可以讓 AI 診斷出你有某種疾病風險時,指出年齡、體重等各個特徵的影響。

LIME 的運作方式則有些不同,會針對單一個案建立一個簡單的模型,來近似原始複雜模型的行為,目的是為了快速了解「局部」範圍內的操作。比如當 AI 拒絕你的貸款申請時,LIME 可以解釋是「收入不穩定」還是「信用紀錄有問題」導致拒絕。這種解釋在 Transformer 和 NLP 應用中廣泛使用,一大優勢是靈活且計算速度快,適合臨時分析不同情境下的 AI 判斷。比方說在醫療場景,LIME 可以幫助醫生理解 AI 為何推薦某種治療方案,並說明幾個主要原因,這樣醫生不僅能更快做出決策,也能增加患者的信任感。

-----廣告,請繼續往下閱讀-----

第三是反事實解釋:如果改變一點點,會怎麼樣?

如果 AI 告訴你:「這家銀行不會貸款給你」,這時你可能會想知道:是收入不夠,還是年齡因素?這時你就可以問 AI:「如果我年輕五歲,或者多一份工作,結果會怎樣?」反事實解釋會模擬這些變化對結果的影響,讓我們可以了解模型究竟是如何「權衡利弊」。

最後則是模型內部特徵的重要性排序。這種方法能顯示哪些輸入特徵對最終結果影響最大,就像揭示一道菜中,哪些調味料是味道的關鍵。例如在金融風險預測中,模型可能指出「收入」影響了 40%,「消費習慣」占了 30%,「年齡」占了 20%。不過如果要應用在像是 Transformer 模型等複雜結構時,還需要搭配前面提到的 SHAP 或 LIME 以及可視化技術,才能達到更完整的解釋效果。

講到這裡,你可能會問:我們距離能完全信任 AI 還有多遠?又或者,我們真的應該完全相信它嗎?

-----廣告,請繼續往下閱讀-----

我們終究是想解決人與 AI 的信任問題

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。因此,AI 既要「可解釋」,也要「能代理」。

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。圖/unsplash

舉例來說,當一家公司要做一個看似「簡單」的決策時,背後的過程其實可能極為複雜。例如,快時尚品牌決定是否推出新一季服裝,不僅需要考慮過去的銷售數據,還得追蹤熱門設計趨勢、天氣預測,甚至觀察社群媒體上的流行話題。像是暖冬來臨,厚外套可能賣不動;或消費者是否因某位明星愛上一種顏色,這些細節都可能影響決策。

這些數據來自不同部門和來源,龐大的資料量與錯綜關聯使企業判斷變得困難。於是,企業常希望有個像經營大師的 AI 代理人,能吸收數據、快速分析,並在做決定時不僅給出答案,還能告訴你「為什麼要這麼做」。

傳統 AI 像個黑盒子,而可解釋 AI (XAI)則清楚解釋其判斷依據。例如,為什麼不建議推出厚外套?可能理由是:「根據天氣預測,今年暖冬概率 80%,過去三年數據顯示暖冬時厚外套銷量下降 20%。」這種透明解釋讓企業更信任 AI 的決策。

-----廣告,請繼續往下閱讀-----

但會解釋還不夠,AI 還需能真正執行。這時,就需要另一位「 AI 代理人」上場。想像這位 AI 代理人是一位「智慧產品經理」,大腦裝滿公司規則、條件與行動邏輯。當客戶要求變更產品設計時,這位產品經理不會手忙腳亂,而是按以下步驟行動:

  1. 檢查倉庫物料:庫存夠不夠?有沒有替代料可用?
  2. 評估交期影響:如果需要新物料,供應商多快能送到?
  3. 計算成本變化:用新料會不會超出成本預算?
  4. 做出最優判斷,並自動生成變更單、工單和採購單,通知各部門配合執行。

這位 AI 代理人不僅能自動處理每個環節,還會記錄每次決策結果,學習如何變得更高效。隨時間推移,這位「智慧產品經理」的判斷將更聰明、決策速度更快,幾乎不需人工干預。更重要的是,這些判斷是基於「以終為始」的原則,為企業成長目標(如 Q4 業績增長 10%)進行連續且動態地自我回饋,而非傳統系統僅月度檢核。

這兩位 AI 代理人的合作,讓企業決策流程不僅透明,還能自動執行。這正是數智驅動的核心,不僅依靠數據驅動決策,還要能解釋每一個選擇,並自動行動。這個過程可簡化為 SUPA,即「感知(Sensing)→ 理解(Understanding)→ 規劃(Planning)→ 行動(Acting)」的閉環流程,隨著數據的變化不斷進化。

偉勝乾燥工業為例,他們面臨高度客製化與訂單頻繁變更的挑戰。導入鼎新 METIS 平台後,偉勝成功將數智驅動融入業務與產品開發,專案準時率因此提升至 80%。他們更將烤箱技術與搬運機器人結合,開發出新形態智慧化設備,成功打入半導體產業,帶動業績大幅成長,創造下一個企業的增長曲線。

-----廣告,請繼續往下閱讀-----

值得一提的是,數智驅動不僅帶動業務增長,還讓員工擺脫繁瑣工作,讓工作更輕鬆高效。

數智驅動的成功不僅依賴技術,還要與企業的商業策略緊密結合。為了讓數智驅動真正發揮作用,企業首先要確保它服務於具體的業務需求,而不是為了技術而技術。

這種轉型需要有策略、文化和具體應用場景的支撐,才能讓數智驅動真正成為企業持續增長的動力。

還在猶豫數智驅動的威力?免費上手企業 AI 助理!👉 企業 AI 體驗
現在使用專屬邀請碼《 KP05 》註冊就享知:https://lihi.cc/EDUk4
訂閱泛科學獨家知識頻道,深入科技趨勢與議題內容。

👉立即免費加入

-----廣告,請繼續往下閱讀-----
鳥苷三磷酸 (PanSci Promo)_96
250 篇文章 ・ 320 位粉絲
充滿能量的泛科學品牌合作帳號!相關行銷合作請洽:contact@pansci.asia