當 AI 的「深度學習」形成偏見，法規該如何遏止傷害？

本文由 建研所 委託，泛科學企劃執行。 

當你走進一棟建築，是否能感受到它對環境的友善？或許不是每個人都意識到，但現今建築不只提供我們居住和工作的空間，更是肩負著重要的永續節能責任。

綠建築標準的誕生，正是為了應對全球氣候變遷與資源匱乏問題，確保建築設計能夠減少資源浪費、降低污染，同時提升我們的生活品質。然而，要成為綠建築並非易事，每一棟建築都需要通過層層關卡，才能獲得標章認證。

為推動環保永續的建築環境，政府自 1999 年起便陸續著手推動「綠建築標章」、「智慧建築標章」以及「綠建材標章」的相關政策。這些標章的設立，旨在透過標準化的建築評估系統，鼓勵建築設計融入生態友善、能源高效及健康安全的原則。並且政府在政策推動時，為鼓勵業界在規劃設計階段即導入綠建築手法，自 2003 年特別辦理優良綠建築作品評選活動。截至 2024 年為止，已有 130 件優良綠建築、31 件優良智慧建築得獎作品，涵蓋學校、醫療機構、公共住宅等各類型建築，不僅提升建築物的整體性能，也彰顯了政府對綠色、智慧建築的重視。

說這麼多，你可能還不明白建築要變「綠」、變「聰明」的過程，要經歷哪些標準與挑戰？

綠建築標章	智慧建築標章	綠建材標章

第一招：依循 EEWH 標準，打造綠建築典範

環境友善和高效率運用資源，是綠建築（green building）的核心理念，但這樣的概念不僅限於外觀或用材這麼簡單，而是涵蓋建築物的整個生命週期，也就是包括規劃、設計、施工、營運和維護階段在內，都要貼合綠建築的價值。

關於綠建築的標準，讓我們先回到 1990 年，當時英國建築研究機構（BRE）首次發布有關「建築研究發展環境評估工具（Building Research Establishment Environmental Assessment Method，BREEAM®）」，是世界上第一個建築永續評估方法。美國則在綠建築委員會成立後，於 1998 年推出「能源與環境設計領導認證」（Leadership in Energy and Environmental Design, LEED）這套評估系統，加速推動了全球綠建築行動。

臺灣在綠建築的制訂上不落人後。由於臺灣地處亞熱帶，氣溫高，濕度也高，得要有一套我們自己的評分規則——臺灣綠建築評估系統「EEWH」應運而生，四個英文字母分別為 Ecology（生態）、Energy saving（節能）、Waste reduction（減廢）以及 Health（健康），分成「合格、銅、銀、黃金和鑽石」共五個等級，設有九大評估指標。

我們就以「台江國家公園」為例，看它如何躍過一道道指標，成為「鑽石級」綠建築的國家公園！

位於臺南市四草大橋旁的「台江國家公園」是臺灣第8座國家公園，也是臺灣唯一的濕地型的國家公園。同時，還是南部行政機關第一座鑽石級的綠建築，其外觀採白色系列，從高空俯瞰，就像在一座小島上座落了許多白色建築群的聚落；從地面看則有臺南鹽山的意象。

因其地形與地理位置的特殊，生物多樣性的保護則成了台江國家公園的首要考量。園區利用既有的魚塭結構，設計自然護岸，保留基地既有的雜木林和灌木草原，並種植原生與誘鳥誘蟲等多樣性植物，採用複層雜生混種綠化。以石籠作為擋土護坡與卵石回填增加了多孔隙，不僅強化了環境的保護力，也提供多樣的生物棲息環境，使這裡成為動植物共生的美好棲地。

第二招：想成綠建築，必用綠建材

要成為一幢優秀好棒棒的綠建築，使用在原料取得、產品製造、應用過程和使用後的再生利用循環中，對地球環境負荷最小、對人類身體健康無害的「綠建材」非常重要。

這種建材最早是在 1988 年國際材料科學研究會上被提出，一路到今日，國際間對此一概念的共識主要包括再使用（reuse）、再循環（recycle）、廢棄物減量（reduce）和低污染（low emission materials）等特性，從而減少化學合成材料產生的生態負荷和能源消耗。同時，使用自然材料與低 VOC（Volatile Organic Compounds，揮發性有機化合物）建材，亦可避免對人體產生危害。

在綠建築標章後，內政部建築研究所也於 2004 年 7 月正式推行綠建材標章制度，以建材生命週期為主軸，提出「健康、生態、高性能、再生」四大方向。舉例來說，為確保室內環境品質，建材必須符合低逸散、低污染、低臭氣等條件；為了防溫室效應的影響，須使用本土材料以節省資源和能源；使用高性能與再生建材，不僅要經久耐用、具高度隔熱和防音等特性，也強調材料本身的再利用性。

在台江國家公園內，綠建材的應用是其獲得 EEWH 認證的重要部分。其不僅在設計結構上體現了生態理念，更在材料選擇上延續了對環境的關懷。園區步道以當地的蚵殼磚鋪設，並利用蚵殼作為建築格柵的填充材料，為鳥類和小生物營造棲息空間，讓「蚵殼磚」不再只是建材，而是與自然共生的橋樑。園區的內部裝修選用礦纖維天花板、矽酸鈣板、企口鋁板等符合綠建材標準的系統天花。牆面則粉刷乳膠漆，整體綠建材使用率為 52.8%。

在日常節能方面，台江國家公園也做了相當細緻的設計。例如，引入樓板下的水面蒸散低溫外氣，屋頂下設置通風空氣層，高處設置排風窗讓熱空氣迅速排出，廊道還配備自動控制的微噴霧系統來降溫。屋頂採用蚵殼與漂流木創造生態棲地，創造空氣層及通風窗引入水面低溫外企，如此一來就能改善事內外氣溫及熱空氣的通風對流，不僅提升了隔熱效果，減少空調需求，讓建築如同「與海共舞」，在減廢與健康方面皆表現優異，展示出綠建築在地化的無限可能。

在綠建材的部分，另外補充獲選為 2023 年優良綠建築的臺南市立九份子國民中小學新建工程，其採用生產過程中二氧化碳排放量較低的建材，比方提高高爐水泥（具高強度、耐久、緻密等特性，重點是發熱量低）的量，並使用能提高混凝土晚期抗壓性、降低混凝土成本與建物碳足跡的「爐石粉」，還用再生透水磚做人行道鋪面。

同樣入選 2023 年綠建築的還有雲林豐泰文教基金會的綠園區，首先，他們捨棄金屬建材，讓高爐水泥使用率達 100%。別具心意的是，他們也將施工開挖的土方做回填，將有高地差的荒地恢復成平坦綠地，本來還有點「工業風」的房舍告別荒蕪，無痛轉綠。

等等，這樣看來建築夠不夠綠的命運，似乎在建材選擇跟設計環節就決定了，是這樣嗎？當然不是，建築是活的，需要持續管理–有智慧的管理。

第三招：智慧管理與科技應用

我們對生態的友善性與資源運用的效率，除了從建築設計與建材的使用等角度介入，也須適度融入「智慧建築」（intelligent buildings）的概念，即運用資通訊科技來提升建築物效能、舒適度與安全性，使空間更人性化。像是透過建築物佈建感測器，用於蒐集環境資料和使用行為，並作為空調、照明等設備、設施運轉操作之重要參考。

為了推動建築與資通訊產業的整合，內政部建築研究所於 2004 年建立了「智慧建築標章」制度，為消費者提供判斷建築物是否善用資通訊感知技術的標準。評估指標經多次修訂，目前是以「基礎設施、維運管理、安全防災、節能管理、健康舒適、智慧創新」等六大項指標作為評估基準。
以節能管理指標為例，為了掌握建築物生命週期中的能耗，需透過系統設備和技術的主動控制來達成低耗與節能的目標，評估重點包含設備效率、節能技術和能源管理三大面向。在健康舒適方面，則在空間整體環境、光環境、溫熱環境、空氣品質、水資源等物理環境，以及健康管理系統和便利服務上進行評估。

樹林藝文綜合大樓在設計與施工過程中，充分展現智慧建築應用綜合佈線、資訊通信、系統整合、設施管理、安全防災、節能管理、健康舒適及智慧創新 8 大指標先進技術，來達成兼顧環保和永續發展的理念，也是利用建築資訊模型（BIM）技術打造的指標性建築，受到國際矚目。

在興建階段，為了保留基地內 4 棵原有老樹，團隊透過測量儀器對老樹外觀進行精細掃描，並將大小等比例匯入 BIM 模型中，讓建築師能清晰掌握樹木與建築物之間的距離，確保施工過程不影響樹木健康。此外，在大樓啟用後，BIM 技術被運用於「電子維護管理系統」，透過 3D 建築資訊模型，提供大樓內設備位置及履歷資料的即時讀取。系統可進行設備的監測和維護，包括保養計畫、異常修繕及耗材管理，讓整棟大樓的全生命週期狀況都能得到妥善管理。

智慧建築導入 BIM 技術的應用，從建造設計擴展至施工和日常管理，使建築生命周期的管理更加智慧化。以 FM 系統 ( Facility Management，簡稱 FM ) 為例，該系統可在雲端進行遠端控制，根據會議室的使用時段靈活調節空調風門，會議期間開啟通往會議室的風門以加強換氣，而非使用時段則可根據二氧化碳濃度調整外氣空調箱的運轉頻率，保持低頻運作，實現節能效果。透過智慧管理提升了節能效益、建築物的維護效率和公共安全管理。

總結

綠建築、綠建材與智慧建築這三大標章共同構建了邁向淨零碳排、居住健康和環境永續的基礎。綠建築標章強調設計與施工的生態友善與節能表現，從源頭減少碳足跡；綠建材標章則確保建材從生產到廢棄的全生命週期中對環境影響最小，並保障居民的健康；智慧建築標章運用科技應用，實現能源的高效管理和室內環境的精準調控，增強了居住的舒適性與安全性。這些標章的綜合應用，讓建築不僅是滿足基本居住需求，更成為實現淨零、促進健康和支持永續的具體實踐。

即使再怎麼模仿，AI 終究無法以與生物相同的方式思考吧？畢竟電腦的電子元件和我們大腦中的神經細胞結構截然不同。再怎麼模仿，AI 終究無法以與生物相同的方式思考吧？

錯，可以。

2024 年諾貝爾物理學獎跌破所有專家的眼鏡，頒給了兩位研究機器學習的科學家——約翰·霍普菲爾德（John Hopfield）和傑佛瑞·辛頓（Geoffrey Hinton）。他們以「人工」的方法打造了類神經網路，最終模擬出生物的「智慧」，奠定了當代深度學習的基礎。

為什麼解決人工智慧發展瓶頸的，竟然會是物理學？物理要怎麼讓 AI 更像人類？

從巴甫洛夫的狗到赫布理論：理解學習的基礎

為了解答這個疑問，我們需要一些背景知識。

20 世紀初，俄羅斯心理學家巴甫洛夫發現，狗在食物還沒入口前，就會開始分泌唾液。他進行了一系列實驗，改變食物出現前的環境，比如讓狗習慣在聽到鈴聲後馬上得到食物。久而久之，狗只要聽到鈴聲，就會開始分泌唾液。

大約 50 年後，神經科學家赫布（Donald Hebb）提出了一個假說：大腦中相近的神經元，因為經常同時放電，會產生更強的連結。這種解釋稱為「赫布理論」，不僅奠定了神經心理學的發展，更成為現代深度學習的基礎。

然而，赫布理論雖然描述了鄰近神經元的關係，卻無法解釋大腦如何建構出如此複雜的聯想網路。

霍普菲爾德網路：物理學家對神經網路的貢獻

然而，赫布理論雖能描述神經元之間的關係，卻缺乏數學模型。物理學家約翰·霍普菲爾德從數學家約翰·康威（John Conway）的「生命遊戲」（Game of Life）中獲得靈感，試圖建立一個可以在電腦上運行的記憶系統。

「生命遊戲」由數學家康威（John Conway）發明，玩家開始時有一個棋盤，每個格子代表一個細胞，細胞可以是「活」或「死」的狀態。根據特定規則，細胞會根據鄰居的狀態決定下一次的生存狀態。康威的目的是展示複雜的系統不一定需要複雜的規則。

霍普菲爾德發現，這個遊戲與赫布理論有強大的關聯性。大腦中的大量神經元，在出生時處於初始狀態，經過刺激後，神經元間的連結會產生或斷裂，形成強大的記憶系統。他希望利用這些理論，創造一個能在電腦上運行的記憶系統。

然而，他面臨一個難題：赫布理論沒有明確的數學模型來決定神經元連結的規則。而在電腦上運行，必須要有明確的數學規則。

物理學的啟發：易辛模型

霍普菲爾德從物理學的研究中找到了類似的模型：易辛模型（Ising Model）。這個模型用於解釋鐵磁性物質的磁性特性。

在鐵磁性物質中，電子具有「自旋」，自旋產生磁矩。電子的自旋方向只有「向上」或「向下」，這就像生命遊戲中細胞的「生」或「死」。鄰近的電子會影響彼此的自旋方向，類似於細胞之間的互動。

易辛模型能用數學描述電子間的相互影響，並通過計算系統能量，得出自旋狀態的分佈。霍普菲爾德借用了這個概念，將神經元的互動視為電子自旋的互動。

他結合了康威生命遊戲的時間演化概念、易辛模型的能量計算，以及赫布理論的動態連結，創造了「霍普菲爾德網路」。這讓電腦能夠模擬生物大腦的學習過程。

突破瓶頸：辛頓與波茲曼機

然而，霍普菲爾德網路並非完美。它容易陷入「局部最小值」的問題，無法找到系統的全局最優解。為了解決這個問題，加拿大計算機科學家傑佛瑞·辛頓（Geoffrey Hinton）提出了「波茲曼機」（Boltzmann Machine）。

辛頓將「模擬退火」的概念引入神經網路，允許系統以一定的機率跳出局部最小值，尋找全局最優解。他還引入了「隱藏層」的概念，將神經元分為「可見層」和「隱藏層」，提高了網路的學習能力。

受限波茲曼機（Restricted Boltzmann Machine）進一步簡化了模型，成為深度學習的基礎結構之一。這些創新使得 AI 能夠更有效地模擬人類的思維和學習過程。

AI 的未來：跨學科的融合

霍普菲爾德和辛頓的工作，將物理學的概念成功應用於人工智慧。他們的研究不僅解決了 AI 發展的瓶頸，還奠定了深度學習的基礎，對現代 AI 技術產生了深遠的影響。因此，2024 年諾貝爾物理學獎頒給他們，並非意外，而是對他們在跨學科領域的重大貢獻的肯定。

AI 的發展，離不開物理學、生物學、數學等多學科的融合。霍普菲爾德和辛頓的工作，正是這種融合的典範。未來，隨著科學技術的進步，我們有理由相信，AI 將越來越接近人類的思維方式，甚至可能超越我們的想像。

本文轉載自中央研究院「研之有物」，為「中研院廣告」

• 採訪撰文｜劉韋佐
• 責任編輯｜田偲妤
• 美術設計｜蔡宛潔

人工智慧將改變以人為主的法治領域？

由人工智慧擔任警察，再也不是科幻電影的情節，交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域，這樣的轉變會對我們產生什麼影響呢？中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員，他將帶我們思考：當 AI 取代人類執法時，將如何改變人們對守法的認知？

想像有一天你正在尖峰時段開車，車子停在十字路口等紅燈時，後方出現一輛急駛而來的救護車，你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險？還是承擔風險以換取他人盡速就醫？

在上述情境中，針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察，他的判斷可能是：這是情急之下不得不的行為，並非蓄意違規。

然而，如果負責執法的是「法律人工智慧系統」（Artificially legal intelligent，簡稱 ALI）情況可能截然不同。

ALI 這個詞源自 Mireille Hildebrandt 的研究，在概念上可區分為兩類：採取傳統程式碼的 IFTTT（if this then that）、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型，將法律規範轉為程式碼，藉由程式編寫來執行法律任務。後者則透過大量資料的學習，來預測行為範式，用於再犯率、判決結果預測上有較好的成果。

一般情況下，應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為，不過交通情境千變萬化，ALI 能否做出包含「道德價值的判斷」將是一大挑戰！

中研院歐美研究所陳弘儒助研究員察覺，人工智慧（AI）正在左右人們對守法的價值判斷及背後的因果結構，進而反思當我們將原本由人來判斷的事項，全權交由 AI 來執行時，可能產生哪些潛移默化的影響？

讓我們與陳弘儒展開一場從法哲學出發的對話，探索 AI 與法治價值之間的緊張關係。

怎麼會對「人工智慧」（AI）與「法律人工智慧系統」（ALI）產生研究興趣？

會對 AI 感興趣是因為我很早就對電腦有興趣，我原本大學想唸資訊工程，因為高中有些科目沒辦法唸，於是去唸文組，大學進入法律系就讀，研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書，當時 AlphaGo 的新聞造成很大的轟動，啟發我思考 AI 的應用應該有些法律課題值得探討，於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出，而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考：我們能否將法律推理過程電腦程式化，讓電腦做出跟法律人一樣的判斷？

事實上，AI 沒有在做推理，它做的是機率的演算，但法律是一種規範性的判斷，所有判斷必須奠基在法律條文的認識與解釋上，給予受審對象合理的判決理由。

這讓我好奇：如果未來廣泛應用 AI 執法，法律或受法律規範的民眾會怎麼轉變？

至於真正開始研究「法律人工智慧系統」（ALI）是受到我父親的啟發。有一陣子我經常開車南北往返，有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速，計算你在隧道裡的平均速率，如果超速就開罰。

父親就問我：「政府有什麼理由用區間測速罰我？如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯，你一定有在某個時間點超速，所以平均起來的速率才會超過速限，可是法律判斷涉及規範性，我們必須思考背後的正當性課題，不能只用邏輯解釋，這啟發我逐漸把問題勾勒出來，試圖分析執法背後的規範性意涵。

如果將執行法律任務的權限賦予 AI，可能暗藏什麼風險？

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷，判斷的過程通常會先做「區分」，例如在你面前有 A 和 B 兩個選項，在做判斷前必須先把 A 和 B 區分開來，讓選項有「可區別性」。

在資料龐大的情況下，AI 的優勢在於能協助人類快速做好區分，可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀，做判斷時通常會將要區分的選項放進這個世界觀中，最終做出符合社會或自身考量的抉擇。

當我們將判斷程序交由 AI 執行，就會涉及「判斷權限移轉」的問題，這經常在日常生活中發生，你只要發現原本自己可以執行的事情，有另外一個對象做的比你好或差不多好，你就會漸漸把判斷的工作交給它，久而久之，你大概會覺得這是很好的做法，因為可以節省大量時間。

我擔心這種判斷權限移轉會快速且廣泛的發生，因為 AI 的工作效率極高，可以大幅節省人力成本，但是哪一些權限可以放給 AI？哪一些權限人類一定要守住？我們經常沒有充足的討論，等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例，如果讓 AI 來做交管，可以節省警察人力，又可以快速精準地開罰，卻迫使民眾需額外花時間，證明闖紅燈有正當理由。如果是真人警察來判斷，警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說，會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序，如果無法順利解決，可能會訴諸民意代表或上爆料公社，並漸漸改變民眾對守法的態度。而真人警察產生的規範作用，將使民眾自主展現對法律的高度重視，雖然當下的行為牴觸法律，卻是行為人經過多方權衡後做的判斷，相信法律會支持自己出於同理心的行為。

使用 AI 執法除了看上它的高效率，也是因為和真人相比 AI 不會受私情影響，比較可以做出公正的判斷。如果從法治觀念來看，為何決策權不能全權交由 AI 執行？

我認為法治的核心價值在臺灣並沒有很好的發展，我們常想的是怎麼用處罰促成民眾守法，長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣，一旦哪天不再受法律約束，可能會失去守法的動機。

事實上，法治最根深柢固的價值為：

法律作為一種人類行為規範的展現，促使民眾守法的方式有很多種，關鍵在於尊重人的道德自主性，並向民眾陳述判決理由。

給理由非常重要，可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係，使民眾相信，國家公權力能用適當的理由來制定法律，而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利，會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」，但它的執法方式以處罰為主、缺乏理由陳述，也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性，這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的，真人警察可在執法過程中，透過拿捏不同情境的處理方式來累積經驗。

例如在交通尖峰時段應該以維持交通順暢為原則，這時警察是否具備判斷的敏感性就很重要，例如看到輕微的違規不一定要大動作開罰，可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要，我們會在跟他人相處的過程中思考：跟我溝通的對象是什麼樣的人？我在他心中是什麼模樣？然後慢慢微調表現方式，這是人類和 AI 最根本的不同。

相較於法律人工智慧，ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI，其發展可能對我們產生哪些影響？

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人，使用大量自然語言文本進行深度學習，在文本生成、問答對話等任務上都有很好的表現。因此，在與 ChatGPT 互動的過程中，我們容易產生一種錯覺，覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上，對於生成式 AI 來說，人類只是刺激它運作的外在環境，人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程，每當外在環境（人類）給 ChatGPT 下指令，系統才會開始運作並生成內容，如果我們不滿意，可以再調整指令，系統又會生成更多成果，這跟平常的人際互動方式不太一樣。

資工人員可能會用這個理由說明，生成式 AI 只是一種工具，透過學習大量資料的模式和結構，從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」（Data）的敏感性。由於在做 AI 訓練、測試與調整的過程中，都必須餵給 AI 大量資料，如果不知道資料的生產過程和內部結構，後續可能會產生爭議。

另一個關於資料的疑慮是，生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出，並往商業或使用者付費的方向發展，代表許多資料都掌握在這些私人公司手中。

資料有一種特性，它可以萃取出「資訊」（Information），誰有管道可以從一大群資料中分析出有價值的資訊，誰就有權力影響資源分配。換句話說，多數人透過輸入資料換取生成式 AI 的服務，可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

面對勢不可擋的生成式 AI 浪潮，人文社會學者可以做些什麼？

國外對於 AI 的運用開始提出很多法律規範，雖然國外關於價值課題的討論比臺灣多，但並不代表那些討論都很細緻深入，因為目前人類跟 AI 的相遇還沒有很久，大家還在探索哪些議題應該被提出，或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考：

我們需不需要訓練 AI 學會人類的價值判斷？

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢，因為 AI 的發展會朝人機互動模式邁進，唯有讓 AI 逐漸理解人類的價值為何，以及人類價值在 AI 運作中的局限，我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術，我認為這種觀點將來會出問題，強大的技術如果沒有明確的價值目標，是一件非常危險的事情。實際上，AI 的發展必定有很多價值課題涉入其中，或者在設計上有一些價值導向會隱而不顯，這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時，也等於在問我們人類：對我們來說哪一些價值是重要的？而這些重要價值的基本內容與歧異為何？

我目前的研究有幾個方向，一個是研究法律推理的計算機模型（Computational models of legal reasoning）；另一個是從規範性的層面去探討，怎麼把價值理論、政治道德（Political morality）、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知，有很多價值課題需要事先想清楚，影響將擴及工程師怎麼設計人工智慧系統？設計過程面臨哪些局限？哪些局限不應該碰，或怎麼把某些局限展現出來？我覺得這些認識都非常重要！

鐵面無私的 ALI ？人類與人工智慧執法最大的分野是什麼？

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統（ALI）的學者，他結合各種現實情境，與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算，與人類判斷過程中涉及的世界觀與敏感性思辨，有著根本上的差異；以處罰為主、缺乏理由陳述的判斷方式，也容易影響民眾對公權力的信任。因此陳弘儒認為，目前 ALI 應該以「輔助人類執法」為發展目標，讓人類保有最終的判斷權限。

至於現正快速發展的生成式 AI ，根據陳弘儒的觀察，目前仍有待各方專家探索其中的價值課題，包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告，現在連 AI 領域的權威專家也簽署公開信並呼籲：AI 具有與人類競爭的智慧，這可能給社會和人類帶來巨大風險，應該以相應的關注和資源進行規劃和管理。

在訪談過程中，有一件令人印象深刻的小插曲，陳弘儒希望我們不要稱呼他「老師」，因為他從小就畏懼老師、警察等有權威身分的人，希望以更平等的方式進行對話。

假如今天以 AI 進行採訪，整個談話過程或許能不受倫理輩分影響，但這也讓我們意識到，在 AI 的世界裡，許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會，AI 在法治領域的應用不僅是法律問題，背後更包含深刻的哲學、道德與權力課題，也讓我們更了解法治的核心價值：

法律要做的不只是規範人們的行為，而是透過理由陳述與溝通展現對每個人道德自主性的尊重。