還在慢慢判定菌種？讓微生物鑑定儀幫你一把！

本文由 鼎新數智 與 泛科學 共同規劃與製作

你有沒有想過，當 AI 根據病歷與 X 光片就能幫你診斷病症，或者決定是否批准貸款，甚至從無人機發射飛彈時，它的每一步「決策」是怎麼來的？如果我們不能知道 AI 的每一個想法步驟，對於那些 AI 輔助的診斷和判斷，要我們如何放心呢？

馬斯克與 OpenAI 的奧特曼鬧翻後，創立了新 AI 公司 xAI，並推出名為 Grok 的產品。他宣稱目標是以開源和可解釋性 AI 挑戰其他模型，而 xAI 另一個意思是 Explainable AI 也就是「可解釋性 AI」。

如今，AI 已滲透生活各處，而我們對待它的方式卻像求神問卜，缺乏科學精神。如何讓 AI 具備可解釋性，成為當前關鍵問題？

黑盒子模型背後的隱藏秘密

無法解釋的 AI 究竟會帶來多少問題？試想，現在許多銀行和貸款機構已經使用 AI 評估借貸申請者的信用風險，但這些模型往往如同黑箱操作。有人貸款被拒，卻完全不知原因，感覺就像被分手卻不告訴理由。更嚴重的是，AI 可能擅自根據你的住所位置或社會經濟背景給出負面評價，這些與信用風險真的相關嗎？這種不透明性只會讓弱勢群體更難融入金融體系，加劇貧富差距。這種不透明性，會讓原本就已經很難融入金融體系的弱勢群體，更加難以取得貸款，讓貧富差距越來越大，雪上加霜。

AI 不僅影響貸款，還可能影響司法公正性。美國部分法院自 2016 年起使用「替代性制裁犯罪矯正管理剖析軟體」 COMPAS 這款 AI 工具來協助量刑，試圖預測嫌犯再犯風險。然而，這些工具被發現對有色人種特別不友好，往往給出偏高的再犯風險評估，導致更重的刑罰和更嚴苛的保釋條件。更令人擔憂的是，這些決策缺乏透明度，AI 做出的決策根本沒法解釋，這讓嫌犯和律師無法查明問題根源，結果司法公正性就這麼被悄悄削弱了。

此外，AI 在醫療、社交媒體、自駕車等領域的應用，也充滿類似挑戰。例如，AI 協助診斷疾病，但若原因報告無法被解釋，醫生和患者又怎能放心？同樣地，社群媒體或是 YouTube 已經大量使用 AI 自動審查，以及智慧家居或工廠中的黑盒子問題，都像是一場越來越複雜的魔術秀——我們只看到結果，卻無法理解過程。這樣的情況下，對 AI 的信任感就成為了一個巨大的挑戰。

為什麼人類設計的 AI 工具，自己卻無法理解？

原因有二。首先，深度學習模型結構複雜，擁有數百萬參數，人類要追蹤每個輸入特徵如何影響最終決策結果，難度極高。例如，ChatGPT 中的 Transformer 模型，利用注意力機制（Attention Mechanism）根據不同詞之間的重要性進行特徵加權計算，因為機制本身涉及大量的矩陣運算和加權計算，這些數學操作使得整個模型更加抽象、不好理解。

其次，深度學習模型會會從資料中學習某些「特徵」，你可以當作 AI 是用畫重點的方式在學習，人類劃重點目的是幫助我們加速理解。AI 的特徵雖然也能幫助 AI 學習，但這些特徵往往對人類來說過於抽象。例如在影像辨識中，人類習慣用眼睛、嘴巴的相對位置，或是手指數量等特徵來解讀一張圖。深度學習模型卻可能會學習到一些抽象的形狀或紋理特徵，而這些特徵難以用人類語言描述。

深度學習模型通常採用分佈式表示（Distributed Representation）來編碼特徵，意思是將一個特徵表示為一個高維向量，每個維度代表特徵的不同方面。假設你有一個特徵是「顏色」，在傳統的方式下，你可能用一個簡單的詞來表示這個特徵，例如「紅色」或「藍色」。但是在深度學習中，這個「顏色」特徵可能被表示為一個包含許多數字的高維向量，向量中的每個數字表示顏色的不同屬性，比如亮度、色調等多個數值。對 AI 而言，這是理解世界的方式，但對人類來說，卻如同墨跡測驗般難以解讀。

試想，AI 協助診斷疾病時，若理由是基於醫生都無法理解的邏輯，患者即使獲得正確診斷，也會感到不安。畢竟，人們更相信能被理解的東西。

打開黑盒子：可解釋 AI 如何運作？我們要如何教育 AI？

首先，可以利用熱圖（heatmap）或注意力圖這類可視化技術，讓 AI 的「思維」有跡可循。這就像行銷中分析消費者的視線停留在哪裡，來推測他們的興趣一樣。在卷積神經網絡和 Diffusion Models 中 ，當 AI 判斷這張照片裡是「貓」還是「狗」時，我需要它向我們展示在哪些地方「盯得最緊」，像是耳朵的形狀還是毛色的分布。

其次是局部解釋，LIME 和 SHAP 是兩個用來發展可解釋 AI 的局部解釋技術。

SHAP 的概念來自博弈，它將每個特徵看作「玩家」，而模型的預測結果則像「收益」。SHAP 會計算每個玩家對「收益」的貢獻，讓我們可以了解各個特徵如何影響最終結果。並且，SHAP 不僅能透過「局部解釋」了解單一個結果是怎麼來的，還能透過「全局解釋」理解模型整體的運作中，哪些特徵最重要。

以實際的情景來說，SHAP 可以讓 AI 診斷出你有某種疾病風險時，指出年齡、體重等各個特徵的影響。

LIME 的運作方式則有些不同，會針對單一個案建立一個簡單的模型，來近似原始複雜模型的行為，目的是為了快速了解「局部」範圍內的操作。比如當 AI 拒絕你的貸款申請時，LIME 可以解釋是「收入不穩定」還是「信用紀錄有問題」導致拒絕。這種解釋在 Transformer 和 NLP 應用中廣泛使用，一大優勢是靈活且計算速度快，適合臨時分析不同情境下的 AI 判斷。比方說在醫療場景，LIME 可以幫助醫生理解 AI 為何推薦某種治療方案，並說明幾個主要原因，這樣醫生不僅能更快做出決策，也能增加患者的信任感。

第三是反事實解釋：如果改變一點點，會怎麼樣？

如果 AI 告訴你：「這家銀行不會貸款給你」，這時你可能會想知道：是收入不夠，還是年齡因素？這時你就可以問 AI：「如果我年輕五歲，或者多一份工作，結果會怎樣？」反事實解釋會模擬這些變化對結果的影響，讓我們可以了解模型究竟是如何「權衡利弊」。

最後則是模型內部特徵的重要性排序。這種方法能顯示哪些輸入特徵對最終結果影響最大，就像揭示一道菜中，哪些調味料是味道的關鍵。例如在金融風險預測中，模型可能指出「收入」影響了 40%，「消費習慣」占了 30%，「年齡」占了 20%。不過如果要應用在像是 Transformer 模型等複雜結構時，還需要搭配前面提到的 SHAP 或 LIME 以及可視化技術，才能達到更完整的解釋效果。

講到這裡，你可能會問：我們距離能完全信任 AI 還有多遠？又或者，我們真的應該完全相信它嗎？

我們終究是想解決人與 AI 的信任問題

當未來你和 AI 同事深度共事，你自然希望它的決策與行動能讓你認可，幫你省心省力。因此，AI 既要「可解釋」，也要「能代理」。

舉例來說，當一家公司要做一個看似「簡單」的決策時，背後的過程其實可能極為複雜。例如，快時尚品牌決定是否推出新一季服裝，不僅需要考慮過去的銷售數據，還得追蹤熱門設計趨勢、天氣預測，甚至觀察社群媒體上的流行話題。像是暖冬來臨，厚外套可能賣不動；或消費者是否因某位明星愛上一種顏色，這些細節都可能影響決策。

這些數據來自不同部門和來源，龐大的資料量與錯綜關聯使企業判斷變得困難。於是，企業常希望有個像經營大師的 AI 代理人，能吸收數據、快速分析，並在做決定時不僅給出答案，還能告訴你「為什麼要這麼做」。

傳統 AI 像個黑盒子，而可解釋 AI （XAI）則清楚解釋其判斷依據。例如，為什麼不建議推出厚外套？可能理由是：「根據天氣預測，今年暖冬概率 80%，過去三年數據顯示暖冬時厚外套銷量下降 20%。」這種透明解釋讓企業更信任 AI 的決策。

但會解釋還不夠，AI 還需能真正執行。這時，就需要另一位「 AI 代理人」上場。想像這位 AI 代理人是一位「智慧產品經理」，大腦裝滿公司規則、條件與行動邏輯。當客戶要求變更產品設計時，這位產品經理不會手忙腳亂，而是按以下步驟行動：

1. 檢查倉庫物料：庫存夠不夠？有沒有替代料可用？
2. 評估交期影響：如果需要新物料，供應商多快能送到？
3. 計算成本變化：用新料會不會超出成本預算？
4. 做出最優判斷，並自動生成變更單、工單和採購單，通知各部門配合執行。

這位 AI 代理人不僅能自動處理每個環節，還會記錄每次決策結果，學習如何變得更高效。隨時間推移，這位「智慧產品經理」的判斷將更聰明、決策速度更快，幾乎不需人工干預。更重要的是，這些判斷是基於「以終為始」的原則，為企業成長目標（如 Q4 業績增長 10%）進行連續且動態地自我回饋，而非傳統系統僅月度檢核。

這兩位 AI 代理人的合作，讓企業決策流程不僅透明，還能自動執行。這正是數智驅動的核心，不僅依靠數據驅動決策，還要能解釋每一個選擇，並自動行動。這個過程可簡化為 SUPA，即「感知（Sensing）→ 理解（Understanding）→ 規劃（Planning）→ 行動（Acting）」的閉環流程，隨著數據的變化不斷進化。

以偉勝乾燥工業為例，他們面臨高度客製化與訂單頻繁變更的挑戰。導入鼎新 METIS 平台後，偉勝成功將數智驅動融入業務與產品開發，專案準時率因此提升至 80%。他們更將烤箱技術與搬運機器人結合，開發出新形態智慧化設備，成功打入半導體產業，帶動業績大幅成長，創造下一個企業的增長曲線。

值得一提的是，數智驅動不僅帶動業務增長，還讓員工擺脫繁瑣工作，讓工作更輕鬆高效。

數智驅動的成功不僅依賴技術，還要與企業的商業策略緊密結合。為了讓數智驅動真正發揮作用，企業首先要確保它服務於具體的業務需求，而不是為了技術而技術。

這種轉型需要有策略、文化和具體應用場景的支撐，才能讓數智驅動真正成為企業持續增長的動力。

還在猶豫數智驅動的威力？免費上手企業 AI 助理！ 企業 AI 體驗 現在使用專屬邀請碼《 KP05 》註冊就享知：https://lihi.cc/EDUk4 訂閱泛科學獨家知識頻道，深入科技趨勢與議題內容。 立即免費加入

本文由 環境部 委託，泛科學企劃執行。 

政策環評是什麼，跟一般環評差在哪？

隨著公共建設的規模越來越大，傳統的環境影響評估（EIA），難以應對當今層層疊疊的環境議題。當我們評估一項重大政策時，只看「單一開發案」已經不夠，就像評估一棵樹，卻忽略了整片森林。因此，政策環境影響評估（SEA）應運而生，它看樹，也看森林，從政策的角度進行更全面的考量與評估。

與只專注於「單一開發案」的個案環評不同，政策環評更像是一場全面性的檢視，強調兩個核心重點：「整合評估」與「儘早評估」。簡單來說，這不再是逐案評估的模式，而是要求政府在制定政策時，就先全面分析可能帶來的影響，從單一行為的侷限中跳脫，轉而聚焦在整體影響的視角。無論是環境的整體變化，還是多項行為累計起來的長期影響，政策環評的目的就是讓這些潛在問題能儘早浮現、儘早解決。

除此之外，政策環評還像是一個大型的協商平台，以永續發展為最高指導原則，公開整合來自不同利益團體、民眾與各機關的意見。這裡，決策單位不再只是單純的「評分者」，而是轉為「協調者」或「仲裁者」，協調各方的意見看法在這裡得到整合，讓過程更具包容性。

政策環評並沒有所謂的「否決權」，而是側重意見的蒐集與整合，讓行政機關在政策推動時，能更全面地掌握各方意見。政策環評旨在建立系統化、彈性的決策評估程序（包含量化、特徵化等評估方式），也廣納社會面或民眾滿意度等影響因子，把正式與非正式的作法一併考量進去。再來，決策程序中能層層檢討、隨時修正，也建立了追蹤機制和成效評估標準（如環境殘餘效應、累積效應等），透過學習來強化決策品質與嚴謹度。就像一場球賽，隨時根據變化、調整策略。

這樣的制度設計，就非常適合離岸風電這類規模大、跨區域、影響層面廣泛的能源政策評估，讓我們可以在政策推動初期就想到整個工程對環境、產業發展與社會的諸多影響，也為後續政策執行奠定更穩固的基礎。

離岸風電為何需要的是政策環評？

離岸風電是能源轉型的重要策略之一，但這不是只在某塊空地上架幾個風車，而是要在廣闊的大海中進行大規模建設，牽涉的不僅是發電，還涉及海洋保育、航空交通、水下文化資產等議題，更與當地漁民的權益息息相關。

這樣的大型離岸風電工程，因海洋環境的風險和不確定性極高，很容易讓人擔心生態影響。如何在海洋生態保護和綠能發展之間找到平衡點？這就需要政策環評的把關，從多方檢視這些複雜的挑戰，確保政策推行既能穩妥，又能達成發電目標。

2016 年 3 月，經濟部自願提出「離岸風電區塊開發政策評估說明書」，是臺灣首次針對再生能源政策所進行的政策環評。根據這份評估說明書，政府將採分期公告、逐年檢討的方式，每三年開放 0.5~1 百萬瓩（GW）的電量額度鼓勵業者投入開發。當時環保署（現為環境部）歷經九個月召開 2 次意見徵詢會議，蒐集環評委員、專家學者、相關機關、民眾等意見，最終於同年 12 月的環評委員會作出徵詢意見。這些協商和檢討的過程，讓政策「名正言順」，得以充分顧及各方利益與生態平衡。

共通性環境議題與因應對策

在「離岸風電區塊開發政策評估說明書」中，環評會議盤點了開發過程中共通的環境議題。

首先，對於海洋生態保育的重點，特別是對中華白海豚的保護。環評會要求風機基座必須距離白海豚棲地1公里以上，以減少對其生態的干擾。實際上，這項規範在後續的實務執行中更為嚴格，例如，福海二期示範風場已退縮到 2.5 公里外，臺電二期風場甚至退到 4.2 公里外，顯示政策環評確實發揮了實質作用。此外，針對施工期間的聲音干擾，要求施工需有 30 分鐘以上的打樁緩啟動時間，並限制聲量不得超過 180 分貝等。

針對鳥類保育，政策環評也訂立了具體規範。其中，包括風機之間必須留設 500 公尺以上的鳥類穿行廊道，並在施工期間避開每年 11 月至隔年 3 月的候鳥過境期。同時，為確保這些措施確實生效，工程方也被要求設置「鳥類活動監測系統」，持續追蹤、評估風場對鳥類的影響。

此外，環評會也確立了「先遠後近」的開發原則，要求優先開發較單純的航道外側區塊，待累積足夠經驗及相關資料後，再進行近岸區域的開發。這項原則考量了近海生態系的複雜性，也顧到養殖漁業的漁民權益，展現出政策環評在平衡發展需求與環境保護上的價值。

新一代的審查機制：達成能源轉型及環境保護雙贏

為提升環評效率並確保審查品質，環境部參考過去離岸風電審查經驗，制定「風力發電離岸系統開發行為環境影響評估初審作業要點」，建立了全新的二階段審查機制。

這套新機制分為兩個階段。第一階段，就像「初步檢查」，由環境部依照檢核表進行初審，並由環評審查委員會執行秘書邀集 2-5 位環評委員進行初審，通過第一階段初審之業者，可取得經濟部遴選資格，其初審結果有效期為兩年，必要時可申請展延一年。接著進入「第二階段」，開發單位檢附目的事業主管機關核配的容量證明文件等資料，提供更詳細的環境影響說明書以進行實質審查。

檢核表明確規範了 15 大項審查事項、112 項檢核項目，涵蓋開發案的全生命週期。

在工程面，包含風機及海上變電站基礎設置、海域電纜路線規劃、陸域設施工程等硬體設施的規範。其中，風機基礎設置必須避開海岸保護區、河口、潮間帶等環境敏感區域，且須進行地震危害度分析。海域電纜部分，除特殊情形外，埋設深度至少須達 1.5 公尺，且不得跨越中華電信海底電纜 1 公里的範圍。

環境保護上，檢核表則對施工噪音管制訂立了明確標準。舉例來說，打樁期間警戒區 750 公尺範圍內的水下噪音不得超過 160 分貝，且必須全程採用最佳噪音防制工法。同時，每個開發案或聯席審查的風場，同一時間內只能進行一支基樁施作，而日落前一小時到日出前也不得啟動新的打樁作業。

環境監測計畫更是檢核表中的重點，分為「施工前、施工期間、營運期間」三階段，每個階段都規定了詳細的監測要求（包括海域底質監測、水下噪音監測、鯨豚目視監測等）。以鯨豚監測為例，每年需執行20趟次，四季中每季至少執行 2 趟次。此外，所有監測數據都必須上傳至環境部「環保專案成果倉儲系統」（https://epaw.moenv.gov.tw/）供各界查閱。

這套標準化的審查機制不僅解決了「同一風場可能有多家廠商重複調查或審查」的資源浪費，也透過明確的檢核項目，讓開發單位在規劃階段就能掌握更具體的環境保護要求。不僅如此，該機制亦確保了環境保護標準前後一致，避免不同案件之間標準不一。

結語

透過新的審查機制，環境部正積極推動再生能源開發案的環評審查作業，在提升行政效率之餘，也確保環境影響評估的品質，支持臺灣的離岸風電開發及國家能源轉型政策，也做好把關。藉由標準化檢核表和二階段審查制度，期待能在推動能源轉型的同時落實環境保護。

為確保制度能持續精進，環境部每半年至一年會進行制度檢討，並持續公開所有環評書件於「環評書件查詢系統」（https://eiadoc.moenv.gov.tw/eiaweb/）。此外，環評會議召開前一週，也必須在指定網站公布開會訊息，讓民眾能申請列席旁聽或發表意見。透明化措施一方面展現了政府推動永續發展的決心，另一方面也確保全民能共同參與監督離岸風電的發展過程。未來，這套制度將在各界的檢視與建議中持續完善，為臺灣的永續發展貢獻心力，發揮環評作業的最大效益。

• 作者／吳育瑋 臺北醫學大學醫學資訊研究所助理教授

這篇文章是我在讀到 Nature Methods 在 2018 年 3 月 5 日刊登的文章「Using deep learning to model the hierarchicalstructure and function of a cell」¹後，在臉書 MiTalk 社團寫下的三篇短文的整理集結。在這三篇短文中，我簡要地介紹了目前人工智慧的技術基礎「類神經網路」的概念，再將其延伸到這篇文章提及的系統生物學研究，並解釋目前類神經網路之所以被稱為「黑盒子」的原因，以及這項系統生物學研究處理黑盒子的手法。

資訊輸入和輸出，如何用「類神經網路」做出無人車？

我們先來聊聊目前機器學習中最火紅的演算法「類神經網路」究竟是什麼東西？

動物的神經元大致上都有著可以接受來自其他神經元的訊號的樹突 (dendrite)，以及可以傳送訊號給其他神經元的軸突 (axon)。類神經網路的單位神經元架構與生物的神經元類似：都有著數個可以接受其他神經元的「輸入 (Input)」，以及數個傳送訊號給其他神經元的 「輸出 (Output)」。將一大堆這樣子的神經元連結起來，就是類神經網路了。

當然，這種連結也不是亂連的。類神經網路通常會分成好幾「層」，而每一層與每一層之間的神經元都會緊密連結著 (fullyconnected)，以下我用個實際的例子來說明這所謂的「層」是怎麼回事。

在 1989 年的時候，卡內基美隆大學發明了第一台透過類神經網路控制的無人車 ALVINN ²。這台無人車的主要架構有三個：一台在車子前面隨時拍照的照相機或攝影機，一台執行類神經網路運算的電腦，以及由電腦控制的方向盤，請參考下圖：

• 第一層（最底層）：照相機照出來的 30 x 32 個 pixel 的影像，以及8 x 32 個雷射距離測定器像。總共輸入單位是 30 x 32 + 8 x 32 = 1216 個。
• 第二層（中層）：由 29 個類神經網路神經元構成的隱藏層（最初期的設計只有4 個）。
• 第三層（最上層）：45 個輸出神經元，代表著方向盤要打那個角度；每個神經元代表一個角度，例如第一個神經元代表方向盤往右打 30 度，第二個代表方向盤往右打 28 度，依此類推。

這麼簡單的類神經網路，就已經可以讓這台車在路上以 60 英哩的速度行駛了。可見得類神經網路機器學習的威力。

那麼類神經網路是怎麼訓練的呢？簡單地說，我們在訓練類神經網路時，必須要給它一組（通常是數量很多的一大組）已經知道正確答案的訓練樣本，讓類神經網路之間的神經元連結可以自動透過輸入訊號與正確答案的比對調整自身的參數。這樣的訓練會持續上數千或甚至數百萬次，直到正確率無法再提昇為止。比如說 ALVINN 無人車的訓練就是在真人開車時，將每張相機照出來的圖片與人類開車者的方向盤角度（也就是正確答案）進行連結，並持續調整參數直到答案錯誤率很低為止。

換句話說，ALVINN 這台無人車所做的事，就是模仿人類的開車行為。

除了無人車，「類神經網路」也能區分生物種類？

在上一段我們解釋了何謂類神經網路。一句話總結的話就是類神經網路就是連結在一起的人工神經元，而且可以透過無數次訓練盡量提高執行任務（比如說下棋或預測天氣）的準確率。在這一段中我將提到類神經網路與生物網路之間的關係。

類神經網路通常是由許多的「層」數以及每一層內的「神經元」數量所構成的；然而究竟需要多少層網路，或是每一層網路需要多少神經元，則沒有一定的準則。

我認為這是類神經網路最關鍵，卻也最難以決定的參數。舉例來說，先前提到過的自駕車 ALVINN 總共只有一層網路（不考慮輸入與輸出層的話），且這一層只包含 29 個神經元節點。但是現在如 Tesla 或其他品牌自駕車的類神經網路絕對比這個架構複雜許多。我們在設計類神經網路的時候，甚至需要不停地 trial-and-error 後才能決定「最佳」的網路架構，而這裡的「最佳」理所當然是由預測準確率來決定的。

那麼這和微生物或生命科學有什麼關係呢？這要先從一篇Nucleic Acids Research 論文³ 講起。在這篇論文中，卡內基美隆的研究人員試圖透過類神經網路試圖研究不同的細胞（比如說胚胎分化時期的 early-2-cell、late-2-cell、8-cell、16-cell，或不同種類的細胞如 fibroblast、BMDC、以及上皮細胞等），並查看這些細胞的基因表現是否有著明顯的差異。他們的研究標的是不同研究團隊定序出來的 single-cell RNASeq 資料。

簡單來說，他們希望將許多人體內不同種類細胞的 RNASeq 資料透過類神經網路處理後，能夠過濾雜訊，留下最清楚的基因表現訊號。其最終目的當然是透過分群演算法視覺化看出每種細胞的區別。

舉例來說，在論文的圖中，我們可以看到不同的人類細胞在經過類神經網路處理後，能夠有著最大化的分群效果；而且群與群之間大致上距離都相當遠，顯示出基因的表現量的確會隨著細胞的不同而不同。

在同一項研究中，研究人員也發現如果小心地設計類神經網路架構，並將其與生物意義結合的話，將能達到最好的效果。這裡說的與生物意義結合的意思，指的是在設計的類神經網路層級中考慮到生物網路的數量以及結構。

他們首先算出這些基因表現量資料，並將資料建成 protein-protein interaction (PPI) 與 protein-DNA interaction (PDI) 的網路系統，並找出裡面總共有 348 個彼此之間有關聯的子網路；而就在找出「348」這個神奇數字後，研究人員就將類神經網路的隱藏層設計成兩層，且各有著 348 個神經元節點，分別代表這 348 組 PPI 與PDI 子網路。他們發現這樣子的類神經網路設計將能達到最理想的分群效果。

好的。到底我之所以鋪了類神經網路和生物意義這些梗要幹嘛呢？當然最主要的目的就是要說明 2018 年 Nature Methods的論文¹ 到底在講什麼。這篇論文雖然也是走類神經網路路線，但是他們網路的設計相當極端：完全按照生物的代謝途徑 (metabolic pathway) 來設計神經元的分佈（作者群在另一篇論文⁴ 中提到他們就是受到這一篇 Nucleic AcidsResearch 的論文² 啟發而設計出這種奇妙的架構的）。

換句話說，這篇系統生物學的論文設計的類神經網路事實上已經不太有傳統的「隱藏層」的概念，而是完全按照代謝途徑連結人工神經元。透過這個方法，他們的類神經網路中總共包含了酵母菌的 2526 個子網路系統，分別代表不同的細胞代謝途徑。在經過訓練與比較後，這個經過特殊設計的網路結構可以準確地透過不同的基因表現預測酵母菌的細胞生長，並且預測的準確率比傳統數層緊密連結的類神經網路還要好上許多。

神秘的黑盒子，「類神經網路」是怎麼運作的？

在類神經網路的世界中，常常會聽到一個說法：以類神經網路為基礎架構的人工智慧預測模型是「黑盒子  (black box)」。這裡的黑盒子當然不是飛機出事後可以撿回來分析的那個，而是無法打開無法分析而且完全不曉得裡面到底在幹嘛的系統。為什麼會有這種說法呢？一切都要從類神經網路模型是如何訓練的開始講起。

在類神經網路的世界中，每一個神經元可以接收來自數十甚至數百個神經元的訊號，並且可以傳送訊號給數十到數百個其他神經元。這種連接方式讓類神經網路的參數異常地多，且輕易就可以上到百萬千萬甚至億這種等級。我再次拿 ALVINN，那台 1989 年的無人車來當例子好了。

ALVINN 的輸入層有 1216 個神經元節點，中間的隱藏層有 29 個神經元，而輸出層有 45個神經元。這個相對來說架構非常簡單的類神經網路的參數就有 1216 X 29 X 45 = 1586880 個參數要考慮了，更別提其他
更複雜的深度學習類神經網路模型了。

事實上，參數數量多還在其次，真正的關鍵在於類神經網路的訓練方式。在訓練類神經網路時，我們往往會做以下兩件事：

1. 『 隨機』初始化類神經網路中的『所有』參數
2. 隨著每個樣本的預測對錯微調所有的參數

我來用實際生活案例舉個例子好了。假設你要登一座山，目標是山頂。這座山每個地方的地型都完全不一樣。所以從 A 點上山和從不一樣的 B 點或 C 點上山的路都不盡相同。假設隨機把你放在這座山邊的某一點，要你朝著山頂為目標前進。這時候你的每一步就都會是在「那個當下」最佳的往山頂路線。所以從不同的點上山路線就有可能會差異極大，雖然最後都能到山頂就是了。

類神經網路的黑盒子，就是來自這個初始化與細微調整。因為參數太多，而且微調整的方式會隨著初始位置的不同而不同，所以一個調整好的類神經網路雖然可以達到不錯的預測成果，但是幾乎沒有人知道為什麼能夠達到這個預測效果。

• 題外話，這個議題已經受到機器學習以及人工智慧界的重視了。許多人都在想辦法解開這個「黑盒子之謎」^{5, 6, 7}

再舉個例子。每個人的大腦會隨著發育環境的不同而有著不同的發展軌跡，所以幾乎沒有兩個人的大腦神經連結方式是完全相同的。雖然每個人都知道蘋果可以吃，或者是被打會痛；但是發展出這個知識的「神經元連結」則有可能每個人都不一樣。

參數設定越明確，越能解開「黑箱作業」！

回到主題。在前一段落提到的：完全按照代謝途徑建構的類神經網路，和其他網路系統不同的是，它有著「解開黑盒子」的效果呢。

這是因為這套「酵母菌的類神經網路預測模型」是完全按照「生物的代謝途徑」來連結的，所以雖然每個參數還是會因為類神經網路訓練過程而有所不同，但是我們可以得知某個神經元的總輸入參數值，也就是這個神經元的活化 (activation；中國翻成『激活』) 程度。只要將預測過程中每個神經元被活化的程度彼此比較，就能夠得知那個神經元扮演著最重要的角色；而這個神經元也就會是整個代謝途徑中最關鍵的基因或是調控因子。

下列 a、b 兩圖中皆可在這個類神經網路中，不同的基因活化後將會趨動不同的細胞反應，如 a 圖的 PMT1 與 IRE1 兩條基因與細胞壁的組成與強度有關，而 b 圖則可見 ERV7 與 RAD57 與DNA 的修復有著密切關聯性。

回到系統生物學，這套系統之所以對系統生物學的研究很有幫助的原因，在於它是一個可模擬生物在輸入各種訊號（如食物或環境刺激）後，將整個生物代謝途徑中最關鍵的基因標示出來的系統。礙於篇幅沒辦法將所有的元件講的非常清楚（比如說類神經網路本身就有一大堆參數要設定，然後訓練時也往往要扯到方程式微分模型之類的），只是很概略地將最大方向的概念用各種例子來說明。希望各位在讀完這個系列後能夠對何謂類神經網路有著最基本的認知，也能大致理解為什麼類神經網路會被詬病為「黑盒子」的原因。

參考文獻

1. Ma et al., “Using deep learning to model the hierarchical structure and function of a cell”, Nature Methods, 15:290–298, 2018.
2.  Pomerleau D., “ALVINN: an autonomous land vehicle in a neural network”, Advances in Neural Information Processing Systems 1, pp. 305-313, 1989.
3. Lin et al., “Using neural networks for reducing the dimensions of single-cell RNA-Seq data”, Nucleic Acids Research, 45(17):e156, 2017.
4. Yu et al., “Visible Machine Learning for Biomedicine”, Cell, 173(7):1562-1565, 2018.
5. Knight W., “The Dark Secret at the Heart of AI”, MIT Technology Review,2017.
6. Wisdom D., “Deciphering The Black Box of AI”, Medium, 2018.
7. Castelvecchi D., “Can we open the black box of AI?”, Nature 538:20-23, 2016.

• 本文轉載自MiTalkzine，原文《類神經網路、人工智慧與微生物》
• 歡迎訂閱微雜誌MiTalkzine，加入 MiTalker 的行列，一起來認識這個星球上千萬種各式各樣的微生物吧！