0

0
0

文字

分享

0
0
0

如何應對 AI 帶來的挑戰?解讀白宮人工智慧白皮書—《科學月刊》

科學月刊_96
・2016/12/25 ・3059字 ・閱讀時間約 6 分鐘 ・SR值 563 ・九年級

文/歐陽太閒|就讀美國哥倫比亞大學電機工程研究所博士班,研究領域為系統生物學、高通量定序資料分析與癌症生物標記。

圖/By Fonytas - Own work, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=47698042
圖/By Fonytas – Own work, CC BY-SA 4.0, wikimedia commons.

人工智慧(Artificial Intelligence, AI)廣泛地指有能力自行做出合理決策以解決現實世界中的複雜問題的人造系統,其可能有能力進行邏輯推理、計畫、知識學習、表達、自然語言處理(natural language processing)、感知(perception)和物理世界互動等。其相關研究曾在 1970 年代沉寂一時,但近十年來因為機器學習技術的進步、電腦運算與儲存成本的降低,以及大量的資料累積使其技術與應用快速發展,讓人工智慧系統不僅在以往被認為是人類專利的領域擊敗人類頂尖高手,例如 AlphaGo 戰勝了圍棋棋王,在實務應用上也獲得多項重大突破,例如程式化金融交易、異常金融操作自動預警已經獲得普遍應用,自駕車與無人機也已逐步邁向實用化,展現出人工智慧技術巨大的潛能,但也因此引出不少擔憂的聲音。

Alphago_logo_Reversed
人工智慧系統在以往被認為是人類專利的領域擊敗人類頂尖高手,例如 AlphaGo 戰勝了圍棋棋王。圖/By Google DeepMind, Google DeepMind AlphaGo Logo, Public Domain, wikimedia commons

白宮提出人工智慧白皮書

為了因應人工智慧快速發展可能帶來的衝擊,許多國際組織均已提出討論,如聯合國、經濟合作暨發展組織(OECD)、亞太經濟合作組織(APEC)等。各國政府與人工智慧學會也提出研究報告,其中美國白宮科學技術委員會(National Science and Technology Council, NSTC)於今(2016)年 10 月提出的白皮書,除了介紹當前人工智慧發展的概況外,也對人工智慧對社會帶來的衝擊提出回應方針,本文將以該白皮書的建議為基礎,提供臺灣政府與企業或可參考的方向。

就政策涵蓋範疇而言,泛用人工智慧(Artificial General Intelligence,或稱強人工智慧)可能有能力進行人類大部分的工作,但目前還不知道要如何建立這樣的系統,也不確定還需耗費多長時間才能研發成功,故除了需持續投入資源研究外,短期內不會對社會和政策造成太大影響。然而能解決特定問題的弱人工智慧則已經逐漸出現在日常生活中,除了熱門的自駕車外,能自動規劃行程的導航系統、購物網站的商品推薦功能都可以算是這樣的系統,而導入人工智慧的領域正在快速增長,並深入日常生活各層面,這才是政策上應該重視的部分。

-----廣告,請繼續往下閱讀-----

人工智慧的挑戰

人工智慧在公領域的應用正在起步,例如在美國匹茲堡(Pittsburg)城市內實驗將交通號誌交由人工智慧即時調控,讓交通等待時間和汽車廢氣排放改善了 21 ~ 42 %;華特瑞德國家軍事醫療中心(Walter Reed National Military Medical Center)已經導入人工智慧協助診療;芝加哥大學、南加州大學和史丹佛大學分別啟動嘗試藉人工智慧解決失業、輟學、遊民、貧窮等社會問題的研究計畫;美國政府亦提出資料導向司法(Data Driven Justice)和(shutterstock) 警察資料計畫(The Police Data Initiative),以藉人工智慧技術改善司法與警察體系的效率;在野生動物保育、國土監測方面的例子則有多國合作的海龜保育計畫「龜聯網(The Internet of Turtles)」。

11598815886_eb5841ec8f_z
人工智慧的運用已經愈來愈廣泛,甚至是運用在海龜的保育上。圖/By Ian Kennedy @ flickr, CC BY-SA 2.0

然而人工智慧的快速發展可能對社會帶來全新的挑戰。人工智慧在日常應用的普及化將可能導致教育水平和工資偏低的民眾失業,同時增加所得差距;也將改變現有的企業管理方式與成本結構,例如亞馬遜公司除在物流倉庫中導入機器人外,也已經開始讓人工智慧系統指揮倉庫中的人類員工工作、提升效率。相對而言,落後的企業將需要負擔更高的成本,難以和領先者競爭。

由於無人駕駛的交通工具將和有人駕駛的交通工具分享有限的道路和空域,因此需要修訂現有監理法規。若用於訓練人工智慧的資料品質不良,使得系統產生偏見,則可能導致其做出不公平的決策,例如法院的人工智慧輔助系統可能提出錯誤的司法建議,或者企業招募部門的系統審核求職申請時歧視申請者。人工智慧若應用於攸關生命與財產的領域,任何錯誤的決策或者系統遭受入侵都可能造成重大損失。

全心齊力突破挑戰

因此應對人工智慧帶來的挑戰並非易事, 需要產、官、學共同投入。公部門方面,政府應加強投資於相關研究與人力的訓練。目前美國非機密性的人工智慧研究計畫由聯邦政府的網路與資訊科技研發計畫(The Networking and Information Technology Research and Development Program)統一主管,去年投注在相關科技研發的經費是 11 億美元(新臺幣 348 億元),今年預估可達 12 億。同時也應該加強開放資料,但不僅僅是將檔案掃描成 PDF 放上網站,而是要將開放資料標準化成適於機器學習的格式(Open Data for AI),以便利各部門和民間人工智慧的發展。

-----廣告,請繼續往下閱讀-----
16141602477_82d6d91a2d_z
應對人工智慧帶來的挑戰並非易事, 需要產、官、學共同投入。它也會影響社會進而造成很大的變革。圖/By David Hsieh @ flickr, CC BY 2.0

因為工業界對於具有專才的研究人員需求快速增長使得薪水提升,因此應增加研究獎助預算、獎學金、實習機會、增聘教授與研究人員以吸引相關領域專家服務。而將人工智慧系統導入現實應用可能帶來無法預知的問題,一般政府部門除可聘用人工智慧專才改進現有系統外,也應邀集各領域專家協助新監管條例的建立與現有法規的修改,將使用人工智慧的裝置與載具納入法規的管理,並且對人工智慧系統的效能、可靠性和安全性訂出標準,保障公眾的安全也確保競爭的公平。也同時應加強政府與企業的資訊交流與合作,掌握最新的研究與應用進展,以及時做出回應。面對以人工智慧為基礎的自動化對經濟與就業市場的衝擊,則應制定政策使人工智慧帶來的經濟利益可以雨露均霑、公平分配,並研擬勞工就業問題的對策。

教育方面,學校應訓練更多具有資料科學專長的專家,如電腦科學家、經濟學家、資料庫與軟體工程師、資料分析家與圖書館員等。並且強化軟體開發課程中的相關方法、實務應用以及道德考量的訓練,並大力舉辦整合工業、社會、政府的人工智慧與資料科學競賽,確保勞動力熟悉其在各領域的實務應用。因為相關應用將進入生活中的所有層面,所以為確保民眾有足夠的資料素養(data-literacy)可以了解自身權益和參與相關政策的討論,資料科學教育可從小學開始。為了應對經濟衝擊,學校與職業訓練機構應提供學生與再進修人士學習相關技能的課程。

無論是政府或企業,發展人工智慧系統時都需要審慎評估其安全性,並使系統不會遭受入侵或不當運用,以免帶來生命財產的損失。人工智慧系統在研發、訓練和應用上都需要滿足公正、可問責(accountable)的要求,確保其的透明性、可控性和安全性,若發生意外時才可以釐清責任歸屬和保障民眾的權益。

人工智慧的發展與應用或許可以改善民眾生活,甚至帶動新一輪的經濟成長,但其影響也將遍及生活的所有層面,並帶來大量無前例可循的挑戰。這些挑戰不僅僅限於技術,更涉及道德、經濟、法律、社會,且發展速度極快,值得各界及早投入研究並提出對策。

-----廣告,請繼續往下閱讀-----

201612%e7%a7%91%e5%ad%b8%e6%9c%88%e5%88%8a

 

〈本文選自《科學月刊》2016 年 12 月號〉

什麼?!你還不知道《科學月刊》,我們 46 歲囉!

入不惑之年還是可以當個科青

-----廣告,請繼續往下閱讀-----
文章難易度
科學月刊_96
249 篇文章 ・ 3950 位粉絲
非營利性質的《科學月刊》創刊於1970年,自創刊以來始終致力於科學普及工作;我們相信,提供一份正確而完整的科學知識,就是回饋給讀者最好的品質保證。

0

0
0

文字

分享

0
0
0
停工即停薪:如何證明你的時間值多少?車禍背後的認知 x 情緒 x 金錢 x 法律大混戰
鳥苷三磷酸 (PanSci Promo)_96
・2026/01/09 ・3286字 ・閱讀時間約 6 分鐘

本文與 PAMO車禍線上律師 合作,泛科學企劃執行

走在台灣的街頭,你是否發現馬路變得越來越「急躁」?滿街穿梭的外送員、分秒必爭的多元計程車,為了拚單量與獎金,每個人都在跟時間賽跑 。與此同時,拜經濟發展所賜,路上的豪車也變多了 。

這場關於速度與金錢的博弈,讓車禍不再只是一場意外,更是一場複雜的經濟算計。PAMO 車禍線上律師施尚宏律師在接受《思想實驗室 video podcast》訪談時指出,我們正處於一個交通生態的轉折點,當「把車當生財工具」的職業駕駛,撞上了「將車視為珍貴資產」的豪車車主,傳統的理賠邏輯往往會失靈 。

在「停工即停薪」(有跑才有錢,沒跑就沒收入)的零工經濟時代,如果運氣不好遇上車禍,我們該如何證明自己的時間價值?又該如何在保險無法覆蓋的灰色地帶中全身而退?

-----廣告,請繼續往下閱讀-----
如果運氣不好遇上車禍,我們該如何證明自己的時間價值?/ 圖片來源: Nano Banana

薪資證明的難題:零工經濟者的「隱形損失」

過去處理車禍理賠,邏輯相對單純:拿出公司的薪資單或扣繳憑單,計算這幾個月的平均薪資,就能算出因傷停工的「薪資損失」。

但在零工經濟時代,這套邏輯卡關了!施尚宏律師指出,許多外送員、自由接案者或是工地打工者,他們的收入往往是領現金,或者分散在多個不同的 App 平台中 。更麻煩的是,零工經濟的特性是「高度變動」,上個月可能拚了 7 萬,這個月休息可能只有 0 元,導致「平均收入」難以定義 。

這時候,律師的角色就不只是法條的背誦者,更像是一名「翻譯」。

施律師解釋「PAMO車禍線上律師的工作是把外送員口中零散的『跑單損失』,轉譯成法官或保險公司聽得懂的法律語言。」 這包括將不同平台(如 Uber、台灣大車隊)的流水帳整合,或是找出過往的接單紀錄來證明當事人的「勞動能力」。即使當下沒有收入(例如學生開學期間),只要能證明過往的接單能力與紀錄,在談判桌上就有籌碼要求合理的「勞動力減損賠償 」。

-----廣告,請繼續往下閱讀-----
PAMO車禍線上律師的工作是把外送員口中零散的『跑單損失』,轉譯成法官或保險公司聽得懂的法律語言 / 圖片來源: Nano Banana

300 萬張罰單背後的僥倖:你的直覺,正在害死你

根據警政署統計,台灣交通違規的第一名常年是「違規停車」,一年可以開出約 300 萬張罰單 。這龐大的數字背後,藏著兩個台灣駕駛人最容易誤判的「直覺陷阱」。

陷阱 A:我在紅線違停,人還在車上,沒撞到也要負責? 許多人認為:「我人就在車上,車子也沒動,甚至是熄火狀態。結果一台機車為了閃避我,自己操作不當摔倒了,這關我什麼事?」

施律師警告,這是一個致命的陷阱。「人在車上」或「車子沒動」在法律上並不是免死金牌 。法律看重的是「因果關係」。只要你的違停行為阻礙了視線或壓縮了車道,導致後方車輛必須閃避而發生事故,你就可能必須背負民事賠償責任,甚至揹上「過失傷害」的刑責 。 

數據會說話: 台灣每年約有 700 件車禍是直接因違規停車導致的 。這 300 萬張罰單背後的僥倖心態,其巨大的代價可能是人命。

-----廣告,請繼續往下閱讀-----

陷阱 B:變換車道沒擦撞,對方自己嚇到摔車也算我的? 另一個常年霸榜的肇事原因是「變換車道不當」 。如果你切換車道時,後方騎士因為嚇到而摔車,但你感覺車身「沒震動、沒碰撞」,能不能直接開走?

答案是:絕對不行。

施律師強調,車禍不以「碰撞」為前提 。只要你的駕駛行為與對方的事故有因果關係,你若直接離開現場,在法律上就構成了「肇事逃逸」。這是一條公訴罪,後果遠比你想像的嚴重。正確的做法永遠是:停下來報警,釐清責任,並保留行車記錄器自保 。

正確的做法永遠是:停下來報警,釐清責任,並保留行車記錄器自保 。/ 圖片來源: Nano Banana

保險不夠賠?豪車時代的「超額算計」

另一個現代駕駛的惡夢,是撞到豪車。這不僅是因為修車費貴,更因為衍生出的「代步費用」驚人。

-----廣告,請繼續往下閱讀-----

施律師舉例,過去撞到車,只要把車修好就沒事。但現在如果撞到一台 BMW 320,車主可能會主張修車的 8 天期間,他需要租一台同等級的 BMW 320 來代步 。以一天租金 4000 元計算,光是代步費就多了 3 萬多塊 。這時候,一般人會發現「全險」竟然不夠用。為什麼?

因為保險公司承擔的是「合理的賠償責任」,他們有內部的數據庫,只願意賠償一般行情的修車費或代步費 。但對方車主可能不這麼想,為了拿到這筆額外的錢,對方可能會採取「以刑逼民」的策略:提告過失傷害,利用刑事訴訟的壓力(背上前科的恐懼),迫使你自掏腰包補足保險公司不願賠償的差額 。

這就是為什麼在全險之外,駕駛人仍需要懂得談判策略,或考慮尋求律師協助,在保險公司與對方的漫天喊價之間,找到一個停損點 。

談判桌的最佳姿態:「溫柔而堅定」最有效?

除了有單據的財損,車禍中最難談判的往往是「精神慰撫金」。施律師直言,這在法律上沒有公式,甚至有點像「開獎」,高度依賴法官的自由心證 。

-----廣告,請繼續往下閱讀-----

雖然保險公司內部有一套簡單的算法(例如醫療費用的 2 到 5 倍),但到了法院,法官會考量雙方的社會地位、傷勢嚴重程度 。在缺乏標準公式的情況下,正確的「態度」能幫您起到加分效果。

施律師建議,在談判桌上最好的姿態是「溫柔而堅定」。有些人會試圖「扮窮」或「裝兇」,這通常會有反效果。特別是面對看過無數案件的保險理賠員,裝兇只會讓對方心裡想著:「進了法院我保證你一毛都拿不到,準備看你笑話」。

相反地,如果你能客氣地溝通,但手中握有完整的接單紀錄、醫療單據,清楚知道自己的底線與權益,這種「堅定」反而能讓談判對手買單,甚至在證明不足的情況下(如外送員的開學期間收入),更願意採信你的主張 。

車禍不只是一場意外,它是認知、情緒、金錢與法律邏輯的總和 。

在這個交通環境日益複雜的時代,無論你是為了生計奔波的職業駕駛,還是天天上路的通勤族,光靠保險或許已經不夠。大部分的車禍其實都是小案子,可能只是賠償 2000 元的輕微擦撞,或是責任不明的糾紛。為了這點錢,要花幾萬塊請律師打官司絕對「不划算」。但當事人往往會因為資訊落差,恐懼於「會不會被告肇逃?」、「會不會留案底?」、「賠償多少才合理?」而整夜睡不著覺 。

-----廣告,請繼續往下閱讀-----

PAMO看準了這個「焦慮商機」, 推出了一種顛覆傳統的解決方案——「年費 1200 元的訂閱制法律服務 」。

這就像是「法律界的 Netflix」或「汽車強制險」的概念。PAMO 的核心邏輯不是「代打」,而是「賦能」。不同於傳統律師收費高昂,PAMO 提倡的是「大腦武裝」,當車禍發生時,線上律師團提供策略,教你怎麼做筆錄、怎麼蒐證、怎麼判斷對方開價合不合理等。

施律師表示,他們的目標是讓客戶在面對不確定的風險時,背後有個軍師,能安心地睡個好覺 。平時保留好收入證明、發生事故時懂得不亂說話、與各方談判時掌握對應策略 。

平時保留好收入證明、發生事故時懂得不亂說話、與各方談判時掌握對應策略 。 / 圖片來源: Nano Banana

從違停的陷阱到訂閱制的解方,我們正處於交通與法律的轉型期。未來,挑戰將更加嚴峻。

-----廣告,請繼續往下閱讀-----

當 AI 與自駕車(Level 4/5)真正上路,一旦發生事故,責任主體將從「駕駛人」轉向「車廠」或「演算法系統」 。屆時,誰該負責?怎麼舉證?

但在那天來臨之前,面對馬路上的豪車、零工騎士與法律陷阱,你選擇相信運氣,還是相信策略? 先「武裝好自己的大腦」,或許才是現代駕駛人最明智的保險。

PAMO車禍線上律師官網:https://pse.is/8juv6k 

-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

1
0

文字

分享

0
1
0
「全球化已死」:從美國壓制荷蘭,看台灣在地緣棋局的下一步——《造光者》
天下雜誌出版_96
・2025/09/06 ・1420字 ・閱讀時間約 2 分鐘

ASML 向來以與全世界做生意為榮。南韓客戶來訪時,接待處的荷蘭國旗旁邊就會擺上南韓國旗。中國企業來訪,則會看到中國國旗飄揚。這反映了 ASML 對所有客戶一視同仁。只可惜,如今世界的運作已不再那麼單純了。

在數以百億計的政府補助資金挹注下,中國的晶片廠如雨後春筍般崛起。2017 年,中國客戶下單的曝光機總值高達七億歐元。幾個月後,中國晶片製造商中芯國際的執行董事梁孟松在上海簽下了他們的第一台EUV曝光機訂單。

監事會立即指出風險,直言:「各位,這恐怕會出問題,美國不會放行所有的交易。」但 ASML 的管理高層毫不在意這些顧慮。他們認為 ASML 不涉政治,而且多年來一直都有供貨給中芯國際。

結果,ASML 向荷蘭申請對中國的出口許可時,美國立即展開外交行動,試圖阻止 EUV 曝光機進入中國。川普的國安顧問莫里森表示,這不是美國在對友邦施壓:「我們都知道 EUV 技術有多重要,荷蘭政府可以自行決定這件事。」當然,最好是做出美國也認同的決定。

-----廣告,請繼續往下閱讀-----

從 ASML 看中美貿易戰

荷蘭人陷入這樣的困境,其實一點也不意外。美國不想和中國真的開戰,因此試圖用其他一切手段來控制中國的科技發展。晶片有如現代經濟的石油,當你順著這條價值鏈追溯時,很快就會來到荷蘭的 ASML。

在 ASML 看來,制定規則的人並不了解「這一切」是如何運作的。「這一切」是指整個晶片產業,包括所有的全球依存關係、脆弱的供應鏈和複雜的技術。這是一個靠相互信任、長期協議、自由市場機制運轉的世界。政府不能破壞這個脆弱的生態系統:最主要是因為 ASML 從中賺取豐厚的利潤(包括在中國的收益),也在荷蘭創造了許多就業機會。

ASML 認為,美國主要是靠封鎖 EUV 技術來輔助對中國的經濟戰。這項技術可用來大量生產先進半導體。這些晶片是用在手機上,不是戰鬥機。對 ASML 來說,擔心 EUV 技術被用於軍事完全是無稽之談,武器產業使用的是已經上市多年的成熟微影技術。而且武器中使用的多數晶片都是「現成」的,跟筆記型電腦、洗衣機或汽車裡的晶片一樣,在世界各地都能輕易買到。

美國對「軍事」的定義

但美國的看法不同。美國對「軍事」的定義遠超出傳統武器的範疇。他們擔心中國的 AI 崛起、中國的超級電腦在全球排名中占主導地位,以及中國當局未來可能掌握的強大網路武器。而這些全都有一個共同需求:先進晶片。

-----廣告,請繼續往下閱讀-----

荷蘭經濟部向來對企業採取不干預的態度,讓企業能充分利用世界貿易的優勢。身為一個新自由主義的貿易國,荷蘭乘著全球化的浪潮前進了三十幾年。ASML 就體現了這種重商精神。

ASML 長期以來一直試圖避開地緣政治的舞台。但當你的機器是用來印製現代世界的基礎架構時,你不可能永遠躲在鎂光燈外。

2020 年 1 月,外交角力終於公開化。路透社報導,美國已要求荷蘭封鎖 EUV 技術的出口,ASML 頓時成為眾所矚目的焦點。川普的貿易戰、間諜案件,以及有關華為和 5G 的爭議,全都交織在一起,掀起了一場輿論風暴,ASML 登上了各大媒體的頭版。

-----廣告,請繼續往下閱讀-----

討論功能關閉中。

天下雜誌出版_96
27 篇文章 ・ 21 位粉絲
天下雜誌出版持續製作與出版國內外好書,引進新趨勢、新做法,期盼能透過閱讀與活動實做,分享創新觀點、開拓視野、促進管理、領導、職場能力、教養教育、同時促進身心靈的美好生活。

0

1
0

文字

分享

0
1
0
數智驅動未來:從信任到執行,AI 為企業創新賦能
鳥苷三磷酸 (PanSci Promo)_96
・2025/01/13 ・4938字 ・閱讀時間約 10 分鐘

本文由 鼎新數智 與 泛科學 共同規劃與製作

你有沒有想過,當 AI 根據病歷與 X 光片就能幫你診斷病症,或者決定是否批准貸款,甚至從無人機發射飛彈時,它的每一步「決策」是怎麼來的?如果我們不能知道 AI 的每一個想法步驟,對於那些 AI 輔助的診斷和判斷,要我們如何放心呢?

馬斯克與 OpenAI 的奧特曼鬧翻後,創立了新 AI 公司 xAI,並推出名為 Grok 的產品。他宣稱目標是以開源和可解釋性 AI 挑戰其他模型,而 xAI 另一個意思是 Explainable AI 也就是「可解釋性 AI」。

如今,AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?

-----廣告,請繼續往下閱讀-----
AI 已滲透生活各處,而我們對待它的方式卻像求神問卜,缺乏科學精神。如何讓 AI 具備可解釋性,成為當前關鍵問題?圖/pexels

黑盒子模型背後的隱藏秘密

無法解釋的 AI 究竟會帶來多少問題?試想,現在許多銀行和貸款機構已經使用 AI 評估借貸申請者的信用風險,但這些模型往往如同黑箱操作。有人貸款被拒,卻完全不知原因,感覺就像被分手卻不告訴理由。更嚴重的是,AI 可能擅自根據你的住所位置或社會經濟背景給出負面評價,這些與信用風險真的相關嗎?這種不透明性只會讓弱勢群體更難融入金融體系,加劇貧富差距。這種不透明性,會讓原本就已經很難融入金融體系的弱勢群體,更加難以取得貸款,讓貧富差距越來越大,雪上加霜。

AI 不僅影響貸款,還可能影響司法公正性。美國部分法院自 2016 年起使用「替代性制裁犯罪矯正管理剖析軟體」 COMPAS 這款 AI 工具來協助量刑,試圖預測嫌犯再犯風險。然而,這些工具被發現對有色人種特別不友好,往往給出偏高的再犯風險評估,導致更重的刑罰和更嚴苛的保釋條件。更令人擔憂的是,這些決策缺乏透明度,AI 做出的決策根本沒法解釋,這讓嫌犯和律師無法查明問題根源,結果司法公正性就這麼被悄悄削弱了。

此外,AI 在醫療、社交媒體、自駕車等領域的應用,也充滿類似挑戰。例如,AI 協助診斷疾病,但若原因報告無法被解釋,醫生和患者又怎能放心?同樣地,社群媒體或是 YouTube 已經大量使用 AI 自動審查,以及智慧家居或工廠中的黑盒子問題,都像是一場越來越複雜的魔術秀——我們只看到結果,卻無法理解過程。這樣的情況下,對 AI 的信任感就成為了一個巨大的挑戰。

為什麼人類設計的 AI 工具,自己卻無法理解?

原因有二。首先,深度學習模型結構複雜,擁有數百萬參數,人類要追蹤每個輸入特徵如何影響最終決策結果,難度極高。例如,ChatGPT 中的 Transformer 模型,利用注意力機制(Attention Mechanism)根據不同詞之間的重要性進行特徵加權計算,因為機制本身涉及大量的矩陣運算和加權計算,這些數學操作使得整個模型更加抽象、不好理解。

-----廣告,請繼續往下閱讀-----

其次,深度學習模型會會從資料中學習某些「特徵」,你可以當作 AI 是用畫重點的方式在學習,人類劃重點目的是幫助我們加速理解。AI 的特徵雖然也能幫助 AI 學習,但這些特徵往往對人類來說過於抽象。例如在影像辨識中,人類習慣用眼睛、嘴巴的相對位置,或是手指數量等特徵來解讀一張圖。深度學習模型卻可能會學習到一些抽象的形狀或紋理特徵,而這些特徵難以用人類語言描述。

深度學習模型通常採用分佈式表示(Distributed Representation)來編碼特徵,意思是將一個特徵表示為一個高維向量,每個維度代表特徵的不同方面。假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。對 AI 而言,這是理解世界的方式,但對人類來說,卻如同墨跡測驗般難以解讀。

假設你有一個特徵是「顏色」,在傳統的方式下,你可能用一個簡單的詞來表示這個特徵,例如「紅色」或「藍色」。但是在深度學習中,這個「顏色」特徵可能被表示為一個包含許多數字的高維向量,向量中的每個數字表示顏色的不同屬性,比如亮度、色調等多個數值。圖/unsplash

試想,AI 協助診斷疾病時,若理由是基於醫生都無法理解的邏輯,患者即使獲得正確診斷,也會感到不安。畢竟,人們更相信能被理解的東西。

打開黑盒子:可解釋 AI 如何運作?我們要如何教育 AI?

首先,可以利用熱圖(heatmap)或注意力圖這類可視化技術,讓 AI 的「思維」有跡可循。這就像行銷中分析消費者的視線停留在哪裡,來推測他們的興趣一樣。在卷積神經網絡和 Diffusion Models 中 ,當 AI 判斷這張照片裡是「貓」還是「狗」時,我需要它向我們展示在哪些地方「盯得最緊」,像是耳朵的形狀還是毛色的分布。

-----廣告,請繼續往下閱讀-----

其次是局部解釋,LIME 和 SHAP 是兩個用來發展可解釋 AI 的局部解釋技術。

SHAP 的概念來自博弈,它將每個特徵看作「玩家」,而模型的預測結果則像「收益」。SHAP 會計算每個玩家對「收益」的貢獻,讓我們可以了解各個特徵如何影響最終結果。並且,SHAP 不僅能透過「局部解釋」了解單一個結果是怎麼來的,還能透過「全局解釋」理解模型整體的運作中,哪些特徵最重要。

以實際的情景來說,SHAP 可以讓 AI 診斷出你有某種疾病風險時,指出年齡、體重等各個特徵的影響。

LIME 的運作方式則有些不同,會針對單一個案建立一個簡單的模型,來近似原始複雜模型的行為,目的是為了快速了解「局部」範圍內的操作。比如當 AI 拒絕你的貸款申請時,LIME 可以解釋是「收入不穩定」還是「信用紀錄有問題」導致拒絕。這種解釋在 Transformer 和 NLP 應用中廣泛使用,一大優勢是靈活且計算速度快,適合臨時分析不同情境下的 AI 判斷。比方說在醫療場景,LIME 可以幫助醫生理解 AI 為何推薦某種治療方案,並說明幾個主要原因,這樣醫生不僅能更快做出決策,也能增加患者的信任感。

-----廣告,請繼續往下閱讀-----

第三是反事實解釋:如果改變一點點,會怎麼樣?

如果 AI 告訴你:「這家銀行不會貸款給你」,這時你可能會想知道:是收入不夠,還是年齡因素?這時你就可以問 AI:「如果我年輕五歲,或者多一份工作,結果會怎樣?」反事實解釋會模擬這些變化對結果的影響,讓我們可以了解模型究竟是如何「權衡利弊」。

最後則是模型內部特徵的重要性排序。這種方法能顯示哪些輸入特徵對最終結果影響最大,就像揭示一道菜中,哪些調味料是味道的關鍵。例如在金融風險預測中,模型可能指出「收入」影響了 40%,「消費習慣」占了 30%,「年齡」占了 20%。不過如果要應用在像是 Transformer 模型等複雜結構時,還需要搭配前面提到的 SHAP 或 LIME 以及可視化技術,才能達到更完整的解釋效果。

講到這裡,你可能會問:我們距離能完全信任 AI 還有多遠?又或者,我們真的應該完全相信它嗎?

-----廣告,請繼續往下閱讀-----

我們終究是想解決人與 AI 的信任問題

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。因此,AI 既要「可解釋」,也要「能代理」。

當未來你和 AI 同事深度共事,你自然希望它的決策與行動能讓你認可,幫你省心省力。圖/unsplash

舉例來說,當一家公司要做一個看似「簡單」的決策時,背後的過程其實可能極為複雜。例如,快時尚品牌決定是否推出新一季服裝,不僅需要考慮過去的銷售數據,還得追蹤熱門設計趨勢、天氣預測,甚至觀察社群媒體上的流行話題。像是暖冬來臨,厚外套可能賣不動;或消費者是否因某位明星愛上一種顏色,這些細節都可能影響決策。

這些數據來自不同部門和來源,龐大的資料量與錯綜關聯使企業判斷變得困難。於是,企業常希望有個像經營大師的 AI 代理人,能吸收數據、快速分析,並在做決定時不僅給出答案,還能告訴你「為什麼要這麼做」。

傳統 AI 像個黑盒子,而可解釋 AI (XAI)則清楚解釋其判斷依據。例如,為什麼不建議推出厚外套?可能理由是:「根據天氣預測,今年暖冬概率 80%,過去三年數據顯示暖冬時厚外套銷量下降 20%。」這種透明解釋讓企業更信任 AI 的決策。

-----廣告,請繼續往下閱讀-----

但會解釋還不夠,AI 還需能真正執行。這時,就需要另一位「 AI 代理人」上場。想像這位 AI 代理人是一位「智慧產品經理」,大腦裝滿公司規則、條件與行動邏輯。當客戶要求變更產品設計時,這位產品經理不會手忙腳亂,而是按以下步驟行動:

  1. 檢查倉庫物料:庫存夠不夠?有沒有替代料可用?
  2. 評估交期影響:如果需要新物料,供應商多快能送到?
  3. 計算成本變化:用新料會不會超出成本預算?
  4. 做出最優判斷,並自動生成變更單、工單和採購單,通知各部門配合執行。

這位 AI 代理人不僅能自動處理每個環節,還會記錄每次決策結果,學習如何變得更高效。隨時間推移,這位「智慧產品經理」的判斷將更聰明、決策速度更快,幾乎不需人工干預。更重要的是,這些判斷是基於「以終為始」的原則,為企業成長目標(如 Q4 業績增長 10%)進行連續且動態地自我回饋,而非傳統系統僅月度檢核。

這兩位 AI 代理人的合作,讓企業決策流程不僅透明,還能自動執行。這正是數智驅動的核心,不僅依靠數據驅動決策,還要能解釋每一個選擇,並自動行動。這個過程可簡化為 SUPA,即「感知(Sensing)→ 理解(Understanding)→ 規劃(Planning)→ 行動(Acting)」的閉環流程,隨著數據的變化不斷進化。

偉勝乾燥工業為例,他們面臨高度客製化與訂單頻繁變更的挑戰。導入鼎新 METIS 平台後,偉勝成功將數智驅動融入業務與產品開發,專案準時率因此提升至 80%。他們更將烤箱技術與搬運機器人結合,開發出新形態智慧化設備,成功打入半導體產業,帶動業績大幅成長,創造下一個企業的增長曲線。

-----廣告,請繼續往下閱讀-----

值得一提的是,數智驅動不僅帶動業務增長,還讓員工擺脫繁瑣工作,讓工作更輕鬆高效。

數智驅動的成功不僅依賴技術,還要與企業的商業策略緊密結合。為了讓數智驅動真正發揮作用,企業首先要確保它服務於具體的業務需求,而不是為了技術而技術。

這種轉型需要有策略、文化和具體應用場景的支撐,才能讓數智驅動真正成為企業持續增長的動力。

還在猶豫數智驅動的威力?免費上手企業 AI 助理!👉 企業 AI 體驗
現在使用專屬邀請碼《 KP05 》註冊就享知:https://lihi.cc/EDUk4
訂閱泛科學獨家知識頻道,深入科技趨勢與議題內容。

👉立即免費加入

-----廣告,請繼續往下閱讀-----
鳥苷三磷酸 (PanSci Promo)_96
242 篇文章 ・ 318 位粉絲
充滿能量的泛科學品牌合作帳號!相關行銷合作請洽:contact@pansci.asia