從演算法設計到金融交易應用，數學在資料科學中無所不在－專訪東吳數學系教授吳牧恩

• 甘偵蓉｜清華大學人文社會 AI 應用與發展研究中心博士後研究學者。

當談到人工智慧（artificial intelligence, AI）、也就是 AI 時，讀者會想到什麼？是多年前由史匹柏（Steven Spielberg）導演的那部《A.I. 人工智慧》（A.I. Artificial Intelligence）中那個一直盼不到人類母愛而令人心碎的機器人小男孩？還是由史密斯（Will Smith）主演的《機械公敵》（I, Robot）裡那些沒遵守機器人三大法則的機器人或中央系統？

或許未來有一天，人類真的可以設計出如電影中那些像人一樣的 AI 系統或機器人。但目前為止，你常聽到的 AI 其實既很厲害又很不厲害，為什麼呢？厲害的是它下圍棋可贏過世界冠軍，還能夠比放射科技師更快、更準確地辨識 X 光片中疑似病變的細胞；但它不厲害的是，很會下圍棋的 AI 就只能下圍棋，別說不會打牌，連撲克牌是什麼都不知道！而且每次學新事物幾乎都是打掉重練，得不斷做好多考古題才有可能學得會，不像人類通常教幾次就會舉一反三。

不過，即使目前世界上的 AI 都是這種只具備特定功能的「弱 AI」（artificial narrow intelligence, ANI），但已經為這個世界帶來相當大的進步與便利。所以，以下要談的就是 ANI 的倫理與風險。

談到這種只具特定功能的 ANI，讀者知道目前生活周遭有哪些事物有利用 AI 技術嗎？其實 Google 上的搜尋資訊、Facebook 或 Instagram 的訊息推薦、對智慧型手機喊「Siri 現在外面有下雨嗎？」等功能，或是以掃瞄臉部解鎖手機與進入大樓、YouTube 或 Netflix 推薦觀賞影片，甚至是投履歷求職、銀行審核貸款申請等都常用到 AI 技術，它早在我們日常生活中隨處可見。

但也正是如此，讓人們這幾年在使用 AI 時，逐漸發現它可能造成的問題或傷害，以下簡單介紹常見的四種AI應用可能造成的倫理問題或風險。

演算法偏誤

第一種是演算法偏誤（algorithmic bias）。什麼是演算法偏誤？簡單來說就是 AI 在某些群體的判斷準確率或預測結果上總是很差，導致結果可能對於此群體造成系統性的不利。但為何會造成演算法偏誤？常見原因有三項。

第一項原因是，建立 AI 模型的研究資料集有偏誤，在性別、種族、社經地位等特徵上，沒有真實世界的人口分布代表性。例如數位裝置採用 AI 臉部辨識技術解鎖，原本是希望保護個人使用數位裝置的安全性，結果皮膚深的人卻常常遇到辨識失敗而無法解鎖。這通常是因為目前許多 AI 模型都是以機器學習技術設計，而機器學習的主要特性就是從過去人類留下的大量資料中學習；當初提供電腦學習臉部辨識的圖片時，如果多數都是白皮膚而非黑皮膚、多數都是男性的臉而非女性的臉，那麼電腦在學習辨識人臉的準確率上，整體而言辨識男性白人就會比辨識女性黑人要高出許多。

第二項產生演算法偏誤的原因是建立 AI 模型的研究資料集不只有偏誤，還反映現實社會中的性別、種族、社經地位等歧視；例如美國警政單位以過往犯罪資料訓練出獄後犯人再犯風險評估的 AI 模型，那些資料不意外地有色人種的犯罪紀錄遠多於白人犯罪紀錄。然而，那些紀錄也反映美國社會長久以來對於有色人種的歧視，其中包含警察對於有色人種的盤查比例遠高於白人、法院對於有色人種的定罪比例及判刑嚴重程度也遠高於白人、警力通常被派往多黑人與拉丁裔人種居住的窮困社區盤查等。所以根據過往犯罪資料所訓練出來的 AI 模型，不意外地也就會預測有色人種的再犯機率普遍來說比白人高。

第三項產生演算法偏誤的原因則是 AI 學會了連系統開發者都沒有察覺到，潛藏在資料裡的偏誤。例如科技公司人資部門本來想借助 AI 更有效率地篩選出適合來面試的履歷，所以挑選在該公司任職一定年資且曾升遷二次的員工履歷來訓練 AI 模型。問題是，高科技公司向來男多女少，所提供給 AI 學習的資料自然就男女比例相當不均。AI 也就學會了凡是出現偏向女性名字、嗜好、畢業學校系所等文字的履歷，平均所給的評分都比出現偏向男性等相關文字的履歷還低。

但目前科技公司陽盛陰衰，是受到以往鼓勵男性就讀理工、女性就讀人文科系，或男性在外工作女性在家帶小孩等性別刻板偏見所影響。所以 20～30 年來許多人做出各種努力以消除這種性別刻板偏見所帶來的不良影響，政府也努力制定各種政策來消除這種不當的性別偏見，像是求才廣告基本上不能限定性別、公司聘雇員工應該達到一定的性別比例等。因此，訓練 AI 的研究資料一旦隱藏類似前述性別比例不均的現象，訓練出來的 AI 預測結果就彷彿帶有性別歧視，讓人們過往致力消除性別不平等的各種努力都白費了！

其他 AI 應用帶來的倫理與風險

除了演算法偏誤的問題外，第二種可能帶來的倫理問題或風險是 AI 技術已經偏離原先使用目的，例如深偽技術（deepfake）原本用來解決圖片資料量不夠的問題，後來卻被利用在偽造名人性愛影片等。

第三種則是有些 AI 技術或產品本身就可能有善惡兩種用途（dual-use）。例如 AI 人臉辨識技術可用在保護數位裝置的使用者或大樓保全，但也可用來窺探或監控特定個人；無人機可以在農業上幫助農夫播種，但也可作為自動殺人武器；可用來搜尋如何產生毒性最少的藥物合成演算法，也能反過來成為搜尋如何產生毒性最強的藥物合成演算法。

最後，第四種是演算法設計不良或現有技術限制所導致的問題。在演算法設計不良方面，例如下棋機器人手臂可能因為沒有設計施力回饋或移動受阻暫停等防呆裝置，而造成誤抓人類棋手的手指且弄斷的意外。在現有技術限制方面，道路駕駛的交通標誌在現實中可能時常有老舊或髒汙的情況，儘管對於人類駕駛來說可能不影響判讀，但對於自駕車來說很可能就因此會嚴重誤判，例如無法正確辨識禁止通行標誌而繼續行駛，或是將速限 35 公里誤判成 85 公里等。但前述情況也有可能是自駕車網路、控制權限或物件辨識模型受到惡意攻擊所致。

以上介紹了 AI 常見的四種倫理問題或風險：演算法偏誤、相關技術或產品偏離原先使用目的、擁有善惡兩種用途，以及演算法設計不良或現有技術限制。但人們該如何減少這些倫理問題與風險呢？

培養AI使用倫理與風險的敏銳度

近五、六年來國際組織如聯合國教育科學及文化組織（United Nations Educational, Scientific and Cultural Organization, UNESCO）、歐盟（European Union, EU）、電機電子工程師學會（Institute of Electrical and Electronics Engineers, IEEE）或是國家、國際非營利組織皆紛紛制訂有關 AI 發展的白皮書或倫理指引（ethical guidelines），甚至逐漸朝向法律治理的方向，如歐盟的人工智慧規則草案等。儘管這些文件所提出的倫理價值、原則或行為規範，看似各有不同，但經過這些年的討論與摸索，也逐漸匯聚出一些共識。

臺灣相較於前述國際文件來說，在制訂的時間上比較晚。2019 年由當時的科技部（現改為國科會）制訂「人工智慧科研發展指引」，裡面提出的三項倫理價值以及八項行為指引，基本上涵蓋了前述各種國際 AI 發展指引文件最常提及的內容。所謂三項倫理價值包含以人為本、永續發展、多元包容，行為指引則有共榮共利、安全性、問責與溝通、自主權與控制權、透明性與可追溯性、可解釋性、個人隱私與數據治理、公平性與非歧視性共八項。

未來當讀者看到又出現哪些 AI 新技術或產品時，不妨試著評估看看是否有符合這三項價值及八項行為指引。若沒有，究竟是哪項不符合？不符合的原因是上述所介紹常見的四種倫理問題或風險的哪一種？若都不是，還有哪些倫理問題或風險過去被忽略了但值得重視？

AI 技術發展日新月進，在日常生活中的應用也愈來愈廣。但考量法律條文有強制性，在制訂時必須相當謹慎，免得動輒得咎，也很可能在不清楚狀況下反而制訂了不當阻礙創新發展的條文；再加上法律制定也必須有一定的穩定性，不能朝令夕改，否則會讓遵守法規者無所適從。因此可以想見，法令規範趕不上新興科技所帶來的問題與風險本來就是常態，而非遇到 AI 科技才有這種情況。

人們若能培養自身對於 AI 倫理問題或風險的敏銳度，便可發揮公民監督或協助政府監督的力量，評估 AI 開發或使用者有無善盡避免傷害特定個人或群體之嫌，逐漸改善 AI 開發者與大眾媒體常過度誇大 AI 功能，但對於可能帶來的倫理問題或風險卻常閃爍其詞或避而不談的不好現象。

本文感謝工業技術研究院產業科技國際策略發展所支持。

• 〈本文選自《科學月刊》2023 年 2 月號〉
• 科學月刊／在一個資訊不值錢的時代中，試圖緊握那知識餘溫外，也不忘科學事實和自由價值至上的科普雜誌。

數位世界已經改變了我們日常生活的體驗，一個人從早到晚都會接受到大量數據，受益於大量數據，也貢獻大量數據。這些數據龐大的程度，和消化資訊的方式已經太過繁多，人類心智根本無法處理。

與數位科技建立夥伴關係

所以人會本能地或潛意識地倚賴軟體來處理、組織、篩選出必要或有用的資訊，也就是根據用戶過去的偏好或目前的流行，來挑選要瀏覽的新項目、要看的電影、要播放的音樂。自動策劃的體驗很輕鬆容易，又能讓人滿足，人們只會在沒有自動化服務，例如閱讀別人臉書塗鴉牆上的貼文，或是用別人的網飛帳號看電影時，才會注意到這服務的存在。

有人工智慧協助的網路平臺加速整合，並加深了個人與數位科技間的連結。人工智慧經過設計和訓練，能直覺地解決人類的問題、掌握人類的目標，原本只有人類心智才能管理的各種選擇，現在能由網路平臺來引導、詮釋和記錄（儘管效率比較差）。

網路平臺收集資訊和體驗來完成這些任務，任何一個人的大腦在壽命期限內都不可能容納如此大量的資訊和體驗，所以網路平臺能產出看起來非常恰當的答案和建議。例如，採購員不管再怎麼投入工作，在挑選冬季長靴的時候，也不可能從全國成千上萬的類似商品、近期天氣預測、季節因素、回顧過去的搜尋記錄、調查物流模式之後，才決定最佳的採購項目，但人工智慧可以完整評估上述所有因素。

因此，由人工智慧驅動的網路平臺經常和我們每個人互動，但我們在歷史上從未和其他產品、服務或機器這樣互動過。當我們個人在和人工智慧互動的時候，人工智慧會適應個人用戶的偏好（網際網路瀏覽記錄、搜尋記錄、旅遊史、收入水準、社交連結），開始形成一種隱形的夥伴關係。

個人用戶逐漸依賴這樣的平臺來完成一串功能，但這些功能過去可能由郵政、百貨公司，或是接待禮賓、懺悔自白的人和朋友，或是企業、政府或其他人類一起來完成。

個人、網路平臺和平臺用戶之間的關係，是一種親密關係與遠距聯繫的新穎組合。人工智慧網路平臺審查大量的用戶數據，其中大部分是個人數據（如位置、聯絡資訊、朋友圈、同事圈、金融與健康資訊）；網路會把人工智慧當成嚮導，或讓人工智慧來安排個人化體驗。

人工智慧如此精準、正確，是因為人工智慧有能力可以根據數億段類似的關係，以及上兆次空間（用戶群的地理範圍）與時間（集合了過去的使用）的互動來回顧和反應。網路平臺用戶與人工智慧形成了緊密的互動，並互相學習。

網路平臺的人工智慧使用邏輯，在很多方面對人類來說都難以理解。例如，運用人工智慧的網路平臺在評估圖片、貼文或搜尋時，人類可能無法明確地理解人工智慧會在特定情境下如何運作。谷歌的工程師知道他們的搜尋功能若有人工智慧，就會有清楚的搜尋結果；若沒有人工智慧，搜尋結果就不會那麼清楚，但工程師沒辦法解釋為什麼某些結果的排序比較高。

要評鑑人工智慧的優劣，看的是結果實用不實用，不是看過程。這代表我們的輕重緩急已經和早期不一樣了，以前每個機械的步驟或思考的過程都會由人類來體驗（想法、對話、管理流程），或讓人類可以暫停、檢查、重複。

人工智慧陪伴現代人的生活

例如，在許多工業化地區，旅行的過程已經不需要「找方向」了。以前這過程需要人力，要先打電話給我們要拜訪的對象，查看紙本地圖，然後常常在加油站或便利商店停下來，確認我們的方向對不對。現在，透過手機應用程式，旅行的過程可以更有效率。

這些應用程式不但可以根據他們「所知」的交通記錄來評估可能的路線與每條路線所花費的時間，還可以考量到當天的交通事故、可能造成延誤的特殊狀況（駕駛過程中的延誤）和其他跡象（其他用戶的搜尋），來避免和別人走同一條路。

從看地圖到線上導航，這轉變如此方便，很少人會停下來想想這種變化有多大的革命性意義，又會帶來什麼後果。個人用戶、社會與網路平臺和營運商建立了新關係，並信任網路平臺與演算法可以產生準確的結果，獲得了便利，成為數據集的一部分，而這數據集又在持續進化（至少會在大家使用應用程式的時候追蹤個人的位置）。

在某種意義上，使用這種服務的人並不是獨自駕駛，而是系統的一部分。在系統內，人類和機器智慧一起協作，引導一群人透過各自的路線聚集在一起。

持續陪伴型的人工智慧會愈來愈普及，醫療保健、物流、零售、金融、通訊、媒體、運輸和娛樂等產業持續發展，我們的日常生活體驗透過網路平臺一直在變化。

當用戶找人工智慧網路平臺來協助他們完成任務的時候，因為網路平臺可以收集、提煉資訊，所以用戶得到了益處，上個世代完全沒有這種經驗。這種平臺追求新穎模式的規模、力量、功能，讓個人用戶獲得前所未有的便利和能力；同時，這些用戶進入一種前所未有的人機對話中。

運用人工智慧的網路平臺有能力可以用我們無法清楚理解，甚至無法明確定義或表示的方式來形塑人類的活動，這裡有一個很重要的問題：這種人工智慧的目標功能是什麼？由誰設計？在哪些監管參數範圍裡？

類似問題的答案會繼續塑造未來的生活與未來的社會：誰在操作？誰在定義這些流程的限制？這些人對於社會規範和制度會有什麼影響？有人可以存取人工智慧的感知嗎？有的話，這人是誰？

如果沒有人類可以完全理解或查看數據，或檢視每個步驟，也就是說假設人類的角色只負責設計、監控和設定人工智慧的參數，那麼對人工智慧的限制應該要讓我們放心？還是讓我們不安？還是既放心又不安？

——本文摘自《 AI 世代與我們的未來：人工智慧如何改變生活，甚至是世界？》，2022 年 12 月，聯經出版公司，未經同意請勿轉載。

搭配不同的任務，人工智慧的應用方式也不一樣，所以開發人員用來創造人工智慧的科技也不一樣。這是部署機器學習時最基礎的挑戰：不同的目標和功能需要不同的訓練技巧。

不過，結合不同的機器學習法，尤其是應用神經網路，就出現不同的可能性，例如發現癌症的人工智慧。

機器的 3 種學習形式

在我們撰寫本章的時候，機器學習的三種形式：受監督式學習、不受監督式學習和增強式學習，都值得注意。

受監督式學習催生了發現海利黴素的人工智慧。總結來說，麻省理工學院的研究人員想要找出有潛力的新抗生素，在資料庫裡放入二千種分子來訓練模型，輸入項目是分子結構，輸出項目是抑菌效果；研究人員把分子結構展示給人工智慧看，每一種結構都標示抗菌力，然後讓人工智慧去評估新化合物的抗菌效果。

這種技巧稱為受監督式學習，因為人工智慧開發人員利用包含了輸入範例（即分子結構）的資料集，在這裡面，每一筆數據都單獨標示研究人員想要的輸出項目或結果（即抗菌力）。

開發人員已經把受監督式學習的技巧應用於許多處，例如創造人工智慧來辨識影像。為了這項任務，人工智慧先拿已經標示好的圖像來訓練，學著把圖像和標籤，例如把貓的照片和「貓」的標籤，聯想在一起，人工智慧把圖片和標籤的關係編碼之後，就可以正確地辨識新圖片。

因此，當開發人員有一個資料集，其中每個輸入項目都有期望的輸出項目，受監督式學習就能有效地創造出模型，根據新的輸入項目來預測輸出項目。

不過，當開發人員只有大量資料，沒有建立關係的時候，他們可以透過不受監督式學習來找出可能有用的見解。因為網際網路與資料數位化，比過去更容易取得資料，現在企業、政府和研究人員都被淹沒在資料中。

行銷人員擁有更多顧客資訊、生物學家擁有更多資料、銀行家有更多金融交易記錄。當行銷人員想要找出客戶群，或詐騙分析師想要在大量交易中找到不一致的資訊，不受監督式學習就可以讓人工智慧在不確定結果的資訊中找出異常模式。

這時，訓練資料只有輸入項目，然後工程師會要求學習演算法根據相似性來設定權重，將資料分類。舉例來說，像網飛（Netflix）這樣的影音串流服務，就是利用演算法來找出哪些觀眾群有類似的觀影習慣，才好向他們推薦更多節目；但要優化、微調這樣的演算法會很複雜：因為多數人有好幾種興趣，會同時出現在很多組別裡。

經過不受監督式學習法訓練的人工智慧，可以找出人類或許會錯過的模式，因為這些模式很微妙、數據規模又龐大。因為這樣的人工智慧在訓練時沒有明定什麼結果才「適當」，所以可以產生讓人驚豔的創新見解，這其實和人類的自我教育沒什麼不同——無論是人類自學或是人工智慧，都會產生稀奇古怪、荒謬無理的結果。

不管是受監督式學習法或不受監督式學習法，人工智慧都是運用資料來執行任務，以發現新趨勢、識別影像或做出預測。在資料分析之外，研究人員想要訓練人工智慧在多變的環境裡操作，第三種機器學習法就誕生了。

增強式學習：需要理想的模擬情境與回饋機制

若用增強式學習，人工智慧就不是被動地識別資料間的關聯，而是在受控的環境裡具備「能動性」，觀察並記錄自己的行動會有什麼反應；通常這都是模擬的過程， 把複雜的真實世界給簡化了，在生產線上準確地模擬機器人比較容易，在擁擠的城市街道上模擬就困難得多了。

但即使是在模擬且簡化的環境裡，如西洋棋比賽，每一步都還是會引發一連串不同的機會與風險。因此，引導人工智慧在人造環境裡訓練自己，還不足以產生最佳表現，這訓練過程還需要回饋。

提供反饋和獎勵，可以讓人工智慧知道這個方法成功了。沒有人類可以有效勝任這個角色：人工智慧因為在數位處理器上運作，所以可以在數小時或數日之內就訓練自己幾百次、幾千次或幾十億次，人類提供的回饋相比之下根本不切實際。

軟體工程師將這種回饋功能自動化，謹慎精確地說明這些功能要如何操作，以及這些功能的本質是要模擬現實。理想情況下，模擬器會提供擬真的環境，回饋功能則會讓人工智慧做出有效的決定。

阿爾法元的模擬器就很簡單粗暴：對戰。阿爾法元為了評估自己的表現，運用獎勵功能，根據每一步創造的機會來評分。

增強式學習需要人類參與來創造人工智慧的訓練環境（儘管在訓練過程中不直接提供回饋）：人類要定義模擬情境和回饋功能，人工智慧會在這基礎上自我訓練。為產生有意義的結果，謹慎明確地定義模擬情境和回饋功能至關重要。

——本文摘自《 AI 世代與我們的未來：人工智慧如何改變生活，甚至是世界？》，2022 年 12 月，聯經出版公司，未經同意請勿轉載。