2021 年《Science》年度十大科學突破

本文由 鼎新數智 與 泛科學 共同規劃與製作

你有沒有想過，當 AI 根據病歷與 X 光片就能幫你診斷病症，或者決定是否批准貸款，甚至從無人機發射飛彈時，它的每一步「決策」是怎麼來的？如果我們不能知道 AI 的每一個想法步驟，對於那些 AI 輔助的診斷和判斷，要我們如何放心呢？

馬斯克與 OpenAI 的奧特曼鬧翻後，創立了新 AI 公司 xAI，並推出名為 Grok 的產品。他宣稱目標是以開源和可解釋性 AI 挑戰其他模型，而 xAI 另一個意思是 Explainable AI 也就是「可解釋性 AI」。

如今，AI 已滲透生活各處，而我們對待它的方式卻像求神問卜，缺乏科學精神。如何讓 AI 具備可解釋性，成為當前關鍵問題？

黑盒子模型背後的隱藏秘密

無法解釋的 AI 究竟會帶來多少問題？試想，現在許多銀行和貸款機構已經使用 AI 評估借貸申請者的信用風險，但這些模型往往如同黑箱操作。有人貸款被拒，卻完全不知原因，感覺就像被分手卻不告訴理由。更嚴重的是，AI 可能擅自根據你的住所位置或社會經濟背景給出負面評價，這些與信用風險真的相關嗎？這種不透明性只會讓弱勢群體更難融入金融體系，加劇貧富差距。這種不透明性，會讓原本就已經很難融入金融體系的弱勢群體，更加難以取得貸款，讓貧富差距越來越大，雪上加霜。

AI 不僅影響貸款，還可能影響司法公正性。美國部分法院自 2016 年起使用「替代性制裁犯罪矯正管理剖析軟體」 COMPAS 這款 AI 工具來協助量刑，試圖預測嫌犯再犯風險。然而，這些工具被發現對有色人種特別不友好，往往給出偏高的再犯風險評估，導致更重的刑罰和更嚴苛的保釋條件。更令人擔憂的是，這些決策缺乏透明度，AI 做出的決策根本沒法解釋，這讓嫌犯和律師無法查明問題根源，結果司法公正性就這麼被悄悄削弱了。

此外，AI 在醫療、社交媒體、自駕車等領域的應用，也充滿類似挑戰。例如，AI 協助診斷疾病，但若原因報告無法被解釋，醫生和患者又怎能放心？同樣地，社群媒體或是 YouTube 已經大量使用 AI 自動審查，以及智慧家居或工廠中的黑盒子問題，都像是一場越來越複雜的魔術秀——我們只看到結果，卻無法理解過程。這樣的情況下，對 AI 的信任感就成為了一個巨大的挑戰。

為什麼人類設計的 AI 工具，自己卻無法理解？

原因有二。首先，深度學習模型結構複雜，擁有數百萬參數，人類要追蹤每個輸入特徵如何影響最終決策結果，難度極高。例如，ChatGPT 中的 Transformer 模型，利用注意力機制（Attention Mechanism）根據不同詞之間的重要性進行特徵加權計算，因為機制本身涉及大量的矩陣運算和加權計算，這些數學操作使得整個模型更加抽象、不好理解。

其次，深度學習模型會會從資料中學習某些「特徵」，你可以當作 AI 是用畫重點的方式在學習，人類劃重點目的是幫助我們加速理解。AI 的特徵雖然也能幫助 AI 學習，但這些特徵往往對人類來說過於抽象。例如在影像辨識中，人類習慣用眼睛、嘴巴的相對位置，或是手指數量等特徵來解讀一張圖。深度學習模型卻可能會學習到一些抽象的形狀或紋理特徵，而這些特徵難以用人類語言描述。

深度學習模型通常採用分佈式表示（Distributed Representation）來編碼特徵，意思是將一個特徵表示為一個高維向量，每個維度代表特徵的不同方面。假設你有一個特徵是「顏色」，在傳統的方式下，你可能用一個簡單的詞來表示這個特徵，例如「紅色」或「藍色」。但是在深度學習中，這個「顏色」特徵可能被表示為一個包含許多數字的高維向量，向量中的每個數字表示顏色的不同屬性，比如亮度、色調等多個數值。對 AI 而言，這是理解世界的方式，但對人類來說，卻如同墨跡測驗般難以解讀。

試想，AI 協助診斷疾病時，若理由是基於醫生都無法理解的邏輯，患者即使獲得正確診斷，也會感到不安。畢竟，人們更相信能被理解的東西。

打開黑盒子：可解釋 AI 如何運作？我們要如何教育 AI？

首先，可以利用熱圖（heatmap）或注意力圖這類可視化技術，讓 AI 的「思維」有跡可循。這就像行銷中分析消費者的視線停留在哪裡，來推測他們的興趣一樣。在卷積神經網絡和 Diffusion Models 中 ，當 AI 判斷這張照片裡是「貓」還是「狗」時，我需要它向我們展示在哪些地方「盯得最緊」，像是耳朵的形狀還是毛色的分布。

其次是局部解釋，LIME 和 SHAP 是兩個用來發展可解釋 AI 的局部解釋技術。

SHAP 的概念來自博弈，它將每個特徵看作「玩家」，而模型的預測結果則像「收益」。SHAP 會計算每個玩家對「收益」的貢獻，讓我們可以了解各個特徵如何影響最終結果。並且，SHAP 不僅能透過「局部解釋」了解單一個結果是怎麼來的，還能透過「全局解釋」理解模型整體的運作中，哪些特徵最重要。

以實際的情景來說，SHAP 可以讓 AI 診斷出你有某種疾病風險時，指出年齡、體重等各個特徵的影響。

LIME 的運作方式則有些不同，會針對單一個案建立一個簡單的模型，來近似原始複雜模型的行為，目的是為了快速了解「局部」範圍內的操作。比如當 AI 拒絕你的貸款申請時，LIME 可以解釋是「收入不穩定」還是「信用紀錄有問題」導致拒絕。這種解釋在 Transformer 和 NLP 應用中廣泛使用，一大優勢是靈活且計算速度快，適合臨時分析不同情境下的 AI 判斷。比方說在醫療場景，LIME 可以幫助醫生理解 AI 為何推薦某種治療方案，並說明幾個主要原因，這樣醫生不僅能更快做出決策，也能增加患者的信任感。

第三是反事實解釋：如果改變一點點，會怎麼樣？

如果 AI 告訴你：「這家銀行不會貸款給你」，這時你可能會想知道：是收入不夠，還是年齡因素？這時你就可以問 AI：「如果我年輕五歲，或者多一份工作，結果會怎樣？」反事實解釋會模擬這些變化對結果的影響，讓我們可以了解模型究竟是如何「權衡利弊」。

最後則是模型內部特徵的重要性排序。這種方法能顯示哪些輸入特徵對最終結果影響最大，就像揭示一道菜中，哪些調味料是味道的關鍵。例如在金融風險預測中，模型可能指出「收入」影響了 40%，「消費習慣」占了 30%，「年齡」占了 20%。不過如果要應用在像是 Transformer 模型等複雜結構時，還需要搭配前面提到的 SHAP 或 LIME 以及可視化技術，才能達到更完整的解釋效果。

講到這裡，你可能會問：我們距離能完全信任 AI 還有多遠？又或者，我們真的應該完全相信它嗎？

我們終究是想解決人與 AI 的信任問題

當未來你和 AI 同事深度共事，你自然希望它的決策與行動能讓你認可，幫你省心省力。因此，AI 既要「可解釋」，也要「能代理」。

舉例來說，當一家公司要做一個看似「簡單」的決策時，背後的過程其實可能極為複雜。例如，快時尚品牌決定是否推出新一季服裝，不僅需要考慮過去的銷售數據，還得追蹤熱門設計趨勢、天氣預測，甚至觀察社群媒體上的流行話題。像是暖冬來臨，厚外套可能賣不動；或消費者是否因某位明星愛上一種顏色，這些細節都可能影響決策。

這些數據來自不同部門和來源，龐大的資料量與錯綜關聯使企業判斷變得困難。於是，企業常希望有個像經營大師的 AI 代理人，能吸收數據、快速分析，並在做決定時不僅給出答案，還能告訴你「為什麼要這麼做」。

傳統 AI 像個黑盒子，而可解釋 AI （XAI）則清楚解釋其判斷依據。例如，為什麼不建議推出厚外套？可能理由是：「根據天氣預測，今年暖冬概率 80%，過去三年數據顯示暖冬時厚外套銷量下降 20%。」這種透明解釋讓企業更信任 AI 的決策。

但會解釋還不夠，AI 還需能真正執行。這時，就需要另一位「 AI 代理人」上場。想像這位 AI 代理人是一位「智慧產品經理」，大腦裝滿公司規則、條件與行動邏輯。當客戶要求變更產品設計時，這位產品經理不會手忙腳亂，而是按以下步驟行動：

1. 檢查倉庫物料：庫存夠不夠？有沒有替代料可用？
2. 評估交期影響：如果需要新物料，供應商多快能送到？
3. 計算成本變化：用新料會不會超出成本預算？
4. 做出最優判斷，並自動生成變更單、工單和採購單，通知各部門配合執行。

這位 AI 代理人不僅能自動處理每個環節，還會記錄每次決策結果，學習如何變得更高效。隨時間推移，這位「智慧產品經理」的判斷將更聰明、決策速度更快，幾乎不需人工干預。更重要的是，這些判斷是基於「以終為始」的原則，為企業成長目標（如 Q4 業績增長 10%）進行連續且動態地自我回饋，而非傳統系統僅月度檢核。

這兩位 AI 代理人的合作，讓企業決策流程不僅透明，還能自動執行。這正是數智驅動的核心，不僅依靠數據驅動決策，還要能解釋每一個選擇，並自動行動。這個過程可簡化為 SUPA，即「感知（Sensing）→ 理解（Understanding）→ 規劃（Planning）→ 行動（Acting）」的閉環流程，隨著數據的變化不斷進化。

以偉勝乾燥工業為例，他們面臨高度客製化與訂單頻繁變更的挑戰。導入鼎新 METIS 平台後，偉勝成功將數智驅動融入業務與產品開發，專案準時率因此提升至 80%。他們更將烤箱技術與搬運機器人結合，開發出新形態智慧化設備，成功打入半導體產業，帶動業績大幅成長，創造下一個企業的增長曲線。

值得一提的是，數智驅動不僅帶動業務增長，還讓員工擺脫繁瑣工作，讓工作更輕鬆高效。

數智驅動的成功不僅依賴技術，還要與企業的商業策略緊密結合。為了讓數智驅動真正發揮作用，企業首先要確保它服務於具體的業務需求，而不是為了技術而技術。

這種轉型需要有策略、文化和具體應用場景的支撐，才能讓數智驅動真正成為企業持續增長的動力。

還在猶豫數智驅動的威力？免費上手企業 AI 助理！ 企業 AI 體驗 現在使用專屬邀請碼《 KP05 》註冊就享知：https://lihi.cc/EDUk4 訂閱泛科學獨家知識頻道，深入科技趨勢與議題內容。 立即免費加入

科學家模擬的末日場景

隨著二氧化碳排放持續增加，全球的政治局勢日益緊張，世界上各國的承諾屢屢在國際會議中被辜負，戰爭的結束也似乎遙遙無期。警示世界末日的「末日鐘」越來越接近午夜，人類與地球的未來變得越來越悲觀。

這並非一種刻意的悲觀，而是基於氣候變遷和人類衝突升溫的現實。許多人或許和我一樣好奇，末日會不會真的臨近？如果會，那又會是什麼樣的場景？是氣候徹底失控的《明天過後》？還是生態浩劫後的全面沙漠化，需要武力生存的《沙丘》和《瘋狂麥斯》？或者是核戰之後，所有人生存在廢墟中的《異塵餘生》？

我們的未來走向尚未確定，但科學家已經率先模擬了不同的可能結局，讓我們可以一窺未來的模樣。這些模擬告訴我們，如果人類繼續走某些路徑，地球的結局將是如何。至於我們是否能避免這些結果，就得由全體人類共同決定。

如何模擬出整顆星球的氣候變化？

要模擬整顆星球的大氣變化是一項龐大的任務，至少需要三大要素：理論、資料、和計算資源。

首先，人類對氣候系統的物理和化學模式需要有足夠的了解，也就是大氣理論必須足夠完備。其次，需要足夠多的資料來模擬整個行星。這些資料包括地球半徑、自轉速度、海洋分布、太陽輻射、大氣成分等等，甚至是地表的狀況與地形。台灣的中央山脈就能影響到西太平洋的颱風走向，進而影響整個東亞的氣候。如果希望盡可能還原地球的真實情況，還需考量海洋的垂直溫度分布、植物分布導致的生物地球化學反應等。

最後，還需要強大的計算資源，也就是超級電腦。由於資料量龐大，每個參數的小誤差都可能引發蝴蝶效應，影響到預測結果。因此，科學家通常會微調各項參數，並對每組參數進行多次計算，這些都需要大量的運算能力。

模擬沙丘中的荒漠星球

科幻小說《沙丘》中的厄拉科斯（Arrakis）是一顆完全荒漠化的星球，英國布里斯托大學的亞歷山大·法恩沃斯等人曾對這顆星球進行了模擬。他們使用在研究地球氣候變遷時使用的氣候模型，並結合小說中的設定，如大氣中的二氧化碳濃度和臭氧含量等，模擬了 500 年後的厄拉科斯氣候。

模擬結果顯示，厄拉科斯的赤道和熱帶地區夏季高溫達 45 度，冬季不低於 15 度。而高緯度地區則更為極端，夏季高溫可達 70 度，冬季最低可達 -75 度。由於大氣濕度和雲層的存在，極地反而比赤道更溫暖。此外，儘管小說中描述厄拉科斯幾乎沒有降雨，但模擬顯示高緯度和山區仍會有少量降雨。

這些結果顯示，科學家不僅愛科幻，也樂於用科學方法來驗證科幻中的設定。這些模擬能讓我們更了解地球的氣候系統，並讓我們警惕荒漠化的危機。

核戰後的世界：核冬天的可怕景象

如果人類全面爆發核戰爭，戰後的世界會是什麼樣子？研究顯示，大規模的核武攻擊將產生大量的輻射塵和煙灰，進入大氣層並遮蔽陽光，導致「核冬天」的到來。

2019 年的一篇研究模擬了美俄之間的全面核戰爭，結果顯示，爆發後的第一年，全球氣溫將大幅下降，北半球的夏季溫度將下降 25 度，冬季氣溫則會降至零下，植物生長期縮短至僅剩 25 天。煙灰遮蔽陽光，導致全球糧食供應崩潰，第二年可能有 50 億人面臨飢餓。

這些模擬結果告訴我們，全面核戰將帶來毀滅性的後果，核冬天將使人類無法正常生活，這是真正的末日場景。

地球的未來會是如何？

地球未來的命運取決於我們今天的選擇。如果我們對氣候變遷置之不理，兩極冰帽將完全融化，海平面上升，許多沿海地區將被淹沒。雖然不至於像《水世界》中那樣極端，但低地區域的居民將面臨嚴重的生存挑戰。

如果人類選擇繼續衝突，甚至爆發毀滅性戰爭，我們的未來將如《瘋狂麥斯》或《異塵餘生》般，生存在廢墟中，面對乾旱、糧食短缺與持續的環境破壞。

歡迎訂閱 Pansci Youtube 頻道 鎖定每一個科學大事件！

即使再怎麼模仿，AI 終究無法以與生物相同的方式思考吧？畢竟電腦的電子元件和我們大腦中的神經細胞結構截然不同。再怎麼模仿，AI 終究無法以與生物相同的方式思考吧？

錯，可以。

2024 年諾貝爾物理學獎跌破所有專家的眼鏡，頒給了兩位研究機器學習的科學家——約翰·霍普菲爾德（John Hopfield）和傑佛瑞·辛頓（Geoffrey Hinton）。他們以「人工」的方法打造了類神經網路，最終模擬出生物的「智慧」，奠定了當代深度學習的基礎。

為什麼解決人工智慧發展瓶頸的，竟然會是物理學？物理要怎麼讓 AI 更像人類？

從巴甫洛夫的狗到赫布理論：理解學習的基礎

為了解答這個疑問，我們需要一些背景知識。

20 世紀初，俄羅斯心理學家巴甫洛夫發現，狗在食物還沒入口前，就會開始分泌唾液。他進行了一系列實驗，改變食物出現前的環境，比如讓狗習慣在聽到鈴聲後馬上得到食物。久而久之，狗只要聽到鈴聲，就會開始分泌唾液。

大約 50 年後，神經科學家赫布（Donald Hebb）提出了一個假說：大腦中相近的神經元，因為經常同時放電，會產生更強的連結。這種解釋稱為「赫布理論」，不僅奠定了神經心理學的發展，更成為現代深度學習的基礎。

然而，赫布理論雖然描述了鄰近神經元的關係，卻無法解釋大腦如何建構出如此複雜的聯想網路。

霍普菲爾德網路：物理學家對神經網路的貢獻

然而，赫布理論雖能描述神經元之間的關係，卻缺乏數學模型。物理學家約翰·霍普菲爾德從數學家約翰·康威（John Conway）的「生命遊戲」（Game of Life）中獲得靈感，試圖建立一個可以在電腦上運行的記憶系統。

「生命遊戲」由數學家康威（John Conway）發明，玩家開始時有一個棋盤，每個格子代表一個細胞，細胞可以是「活」或「死」的狀態。根據特定規則，細胞會根據鄰居的狀態決定下一次的生存狀態。康威的目的是展示複雜的系統不一定需要複雜的規則。

霍普菲爾德發現，這個遊戲與赫布理論有強大的關聯性。大腦中的大量神經元，在出生時處於初始狀態，經過刺激後，神經元間的連結會產生或斷裂，形成強大的記憶系統。他希望利用這些理論，創造一個能在電腦上運行的記憶系統。

然而，他面臨一個難題：赫布理論沒有明確的數學模型來決定神經元連結的規則。而在電腦上運行，必須要有明確的數學規則。

物理學的啟發：易辛模型

霍普菲爾德從物理學的研究中找到了類似的模型：易辛模型（Ising Model）。這個模型用於解釋鐵磁性物質的磁性特性。

在鐵磁性物質中，電子具有「自旋」，自旋產生磁矩。電子的自旋方向只有「向上」或「向下」，這就像生命遊戲中細胞的「生」或「死」。鄰近的電子會影響彼此的自旋方向，類似於細胞之間的互動。

易辛模型能用數學描述電子間的相互影響，並通過計算系統能量，得出自旋狀態的分佈。霍普菲爾德借用了這個概念，將神經元的互動視為電子自旋的互動。

他結合了康威生命遊戲的時間演化概念、易辛模型的能量計算，以及赫布理論的動態連結，創造了「霍普菲爾德網路」。這讓電腦能夠模擬生物大腦的學習過程。

突破瓶頸：辛頓與波茲曼機

然而，霍普菲爾德網路並非完美。它容易陷入「局部最小值」的問題，無法找到系統的全局最優解。為了解決這個問題，加拿大計算機科學家傑佛瑞·辛頓（Geoffrey Hinton）提出了「波茲曼機」（Boltzmann Machine）。

辛頓將「模擬退火」的概念引入神經網路，允許系統以一定的機率跳出局部最小值，尋找全局最優解。他還引入了「隱藏層」的概念，將神經元分為「可見層」和「隱藏層」，提高了網路的學習能力。

受限波茲曼機（Restricted Boltzmann Machine）進一步簡化了模型，成為深度學習的基礎結構之一。這些創新使得 AI 能夠更有效地模擬人類的思維和學習過程。

AI 的未來：跨學科的融合

霍普菲爾德和辛頓的工作，將物理學的概念成功應用於人工智慧。他們的研究不僅解決了 AI 發展的瓶頸，還奠定了深度學習的基礎，對現代 AI 技術產生了深遠的影響。因此，2024 年諾貝爾物理學獎頒給他們，並非意外，而是對他們在跨學科領域的重大貢獻的肯定。

AI 的發展，離不開物理學、生物學、數學等多學科的融合。霍普菲爾德和辛頓的工作，正是這種融合的典範。未來，隨著科學技術的進步，我們有理由相信，AI 將越來越接近人類的思維方式，甚至可能超越我們的想像。