是否有密碼之盾能夠擋住量子電腦之矛？後量子密碼學的前世今生——匯智安全科技陳君明董事長專訪

本文轉載自中央研究院「研之有物」，為「中研院廣告」

• 採訪撰文／郭雅欣
• 責任編輯／簡克志
• 美術設計／蔡宛潔

臺灣量子科技的未來

量子科技腳步不遠了，臺灣甚至為此成立了「量子國家隊」。我們身處這轉變的時刻，應該先做好準備，了解量子科技究竟包含哪些部分，又會帶來哪些影響。中央研究院應用科學研究中心張文豪特聘研究員長期研究光量子技術，並擔任量子系統推動小組執行長。

在這次中研院「研之有物」的訪談中，張文豪除了帶領我們認識光量子技術裡的關鍵外，也會談談量子國家隊在忙些什麼？能否在這股量子科技發展的浪潮中，帶領臺灣站穩腳步？

量子科技即將走入你我的生活。有一天，我們將打開以量子位元建構的量子電腦，透過量子演算法進行各種計算，並把資訊用量子傳輸的方式傳遞出去。這樣的日子可能不遠了～

為了因應量子科技時代的來臨，行政院去（2022）年 3 月宣布成立「量子國家隊」，由 17 個產學研團隊組成，包含了通用量子電腦硬體技術、光量子技術、量子軟體技術與應用開發這三大領域。同時亦成立「量子系統推動小組」進行跨部會整合，協助國家隊達成目標。

通用量子電腦硬體技術，是指開發以量子位元作為運算位元的量子電腦，在概念上接近一般電腦，有一個 CPU，有控制、讀取的晶片，可以透過程式設計得到你想做的計算。中研院的陳啟東研究員與陳應誠研究員都是此領域的計畫主持人之一。

量子軟體技術與應用開發，顧名思義是軟體及演算法的開發，也包含未來量子電腦裡必須有的量子糾錯設計，以及量子計算的應用開發，如金融、製藥與材料開發等。中研院的鐘楷閔研究員是這領域的計畫主持人之一。

光量子技術，分為「光量子計算」與「量子通訊」。光量子計算是以光作為量子位元而設計的計算系統，而量子通訊則是以光的量子態來傳遞訊息。

中研院應科中心特聘研究員張文豪長期研究光量子技術，並擔任量子系統推動小組執行長。在這次「研之有物」的訪談中，張文豪深入淺出地介紹了光量子技術，也與我們分享了許多量子國家隊的願景。

• 在量子國家隊的三大領域中，您的專長在光量子計算與量子通訊。請問光量子計算與通用量子電腦有何不同？

光量子計算系統是針對特定問題而設計，當一個光量子系統設計好之後，由於光的晶片、路徑等都已經確定下來，無法中途改變，所以，它就只能對同一種問題做計算。光量子計算的困難在於光會跑，而且是用光速在跑，不會回頭。

也就是說，光子不會中途停止，一定會把整個計算做完。所以它跟一般的量子位元不一樣，一般的量子位元做完計算可以恢復原來的狀態。光子跑完就沒了，無法暫存，如果要重啟計算，要再給予新的光子。光量子計算對於一些傳統電腦難以解決問題，例如最佳化以及取樣的問題，有很大的幫助。

• 量子通訊用的也是光量子技術，它和現在以光纖傳輸資訊，有什麼不同？

過往的光通訊是用「有沒有光」來當 0 跟 1 兩種狀態，量子通訊則是用光的量子態來當 0 跟 1，把訊息全部都用量子態編碼，這就是量子通訊的基本概念。而量子通訊的好處是因為竊取的動作會干擾量子態，因此資訊不容易被竊取，或者說外人無法在不被發現的情況下竊取資訊。這種通訊方式可以透過量子的性質本身，來保護資訊安全。

• 意思是說，量子通訊的發展不是為了讓資訊傳輸得更快，而是為了更安全？

對，其實這也牽涉到量子電腦的發展。因為量子電腦的一個重點，就是可以破解現今最常使用的密碼系統 RSA（知名的非對稱加密演算法）。雖然量子電腦可能不會那麼快發展出來，可能還要再等幾十年，但仔細想想，有沒有什麼資料其實必須保密幾十年呢？

有心人士可以現在就先截取訊息，等幾十年後有了量子電腦再來進行破解。基於這個原因，量子通訊的加密技術必須走得比量子電腦更快才行。

• 量子通訊現在發展到什麼程度了？有什麼困難點？

在目前的各種量子技術中，量子通訊應該是發展最快的，它有一些難度，但沒有量子電腦那麼難。很好的量子通訊系統，要有好的單光子光源、高效率的偵測器，以及不會破壞量子態的傳輸通道。

好的單光子光源以及偵測器都不容易製作，但是因為量子通訊很重要，所以大家開始用替代的光源，比如把雷射光降到非常弱，弱到一次只會跑出一顆光子，偵測器的效率可能也只要六七成。這樣的話，儘管不是那麼完美，但還是可以得到量子通訊的好處。

傳輸通道則是另一個困難點。訊息在傳輸過程中會慢慢衰減，所以目前的光纖每隔一段距離都有放大器，但放大器卻會對量子訊號造成干擾。清華大學褚志崧副教授團隊，為量子國家隊光量子研究團隊之一，他們就在進行這方面的研究，透過推動小組協助與中華電信建立合作，接下來就要在新竹、楊梅之間找到一條沒有經過放大器的光纖進行長距離量子通訊測試。

還有一種發展趨勢，就是往天上走，以衛星或低軌衛星來做量子通訊，這也是另一個較不受干擾的做法。

單量子的重要挑戰

量子通訊光源即便有點不盡完美，但仍可接受，不過光量子計算就不行了。光量子計算必須有良好的單光子光源及高效率的偵測器，才能正確地讓光子在系統中進行運算，並準確偵測輸出的結果。因此，「如何製造出好的單光子光源？」是張文豪以及其他光量子研究團隊的重要挑戰。

單光子光源指的是「一個時間點只會放出一個光子」的光源。從原理來說，這樣的光源是一個單一的二能階系統，也就是「基態—激發態」，當一個位於基態的電子獲得能量，躍遷到激發態，然後從激發態掉回基態時，就放出一顆特定波長的光子。

在這樣的二能階系統中，只要有一顆電子躍遷到激發態，在它還沒掉回基態前，我們無法激發另一顆電子到激發態去，張文豪形容：「所以這就像捷運的閘門，前一個沒過去之前，後一個進不來。」也因為這樣的機制，每次就只能放出一顆光子。

那麼，要在哪裡找到這樣的二能階系統呢？科學家最一開始的想法是用「單一原子」，例如鈉原子。但要把單一個原子分離出來太困難了，所以到了公元 2000 年後，科學家轉而從半導體製程上，尋找製造出單光子光源的「人造系統」，而目前有兩種最主要的做法，一個是製造「量子點」，一個是製造「缺陷」。

量子點是利用半導體製程做出的一個小體積物體，通常是將兩種不同材料疊起，因為彼此間的應力而凸起成一個「島狀物」，外面再用另一種材料包覆。這個島狀物裡面會產生類似於原子的能階，所以也被稱為「人造原子」。

除此之外，在晶體中製造出某些特定的缺陷，也能達到單一光子源的效果。這類缺陷中最常見的就是鑽石裡的「NV center」，意思是在鑽石晶體結構中，其中一個碳由氮（N）取代，這個氮的隔壁又有一個碳被拿掉，出現一個空缺（Vacuum）。這樣的缺陷裡也會產生上述的二能階系統，可以如單一原子、量子點一樣，放出單光子。

• 是否可以比較量子點與材料缺陷這兩種做法，各有什麼優缺點？

目前為止做得最好的單光子光源其實是量子點，可以產生幾乎完美的單光子，但是它必須在低溫環境下才能運作。而材料缺陷則大部分可以在室溫下運作。

我們還必須考慮單光子光源所放出的光子，是否處於我們需要的波段。舉例來說，在目前的光纖裡，光波長約在 1310～1550 奈米，因為這是損耗很低的波段。而前述的鑽石 NV center 產生的光，則固定是 600 多奈米的紅光，波長還不夠貼近光纖傳輸波段。

現在有許多團隊，都在嘗試從鑽石裡製造出其他缺陷，以符合光纖傳輸的波段，也有人開始嘗試其他材料，例如被稱為第三代半導體的碳化矽。

• 單光子光源未來還會往哪個方向發展？理想的單光子光源是什麼樣子？

我們也希望單光子光源，可以用脈衝來激發，讓光子出現的時間差都是固定的。脈衝雷射激發是像機關槍一樣，一打開光子就以相同的間隔，源源不絕地出來。更理想的情況是，我們如果能把單光子光源做成電激發的元件，就可以在我想要有光子的時候，就打出一道脈衝，產生一個光子。

以目前的半導體製程，有成功做到過打一道脈衝、換一個光子的過程，但必須在低溫操作，效率也不理想。

• 您的研究團隊最近嘗試以二維材料製造單光子光源，這部分目前有什麼進展？

我們最近使用的二維材料是六方晶格的氮化硼（hBN），用來做室溫的單光子光源。氮化硼蠻有趣的，就像二維的鑽石，寬能隙又是絕緣體，不太和其他東西起作用，裡面的缺陷也會形成單光子。

我們幾年前跟台積電合作，用化學氣相沉積（CVD）做出晶圓尺寸的大面積氮化硼，並發表在《自然》（Nature）期刊上。我們未來可以透過這技術進行「缺陷工程」，也就是控制在哪裡製造出缺陷，產生單光子輻射的陣列。例如用聚焦離子束打掉其中某些位置的原子．再透過熱處理修復。先破壞再建設，才能產生缺陷。這個技術以目前來說，還是很有挑戰性。

• 二維材料最近似乎有愈來愈火紅的趨勢？

在過往的傳統半導體研究中，往往將二維材料當成垃圾，不過現在，垃圾變成黃金了。以前這種材料是被用來當固態潤滑劑，因為層與層之間很容易剝落、滑動，根本沒甚麼用處。

但自從石墨烯出現之後，大家才意識到二維材料的好處，而且何必一定要用石墨烯？有一大堆半導體材料都是這樣一層一層的，把它們拿來做電子元件不是更好？所以現在很多人都在做二維半導體材料。

抓到了！真的是單一光子！

儘管有了製造單光子光源的方法，但該如何確認放射出來的是單一光子呢？

張文豪解釋，單光子的定義是同一時間點只放出一個光子，「所以是同一時間只有一顆，並不是真的只放出一顆。」換句話說，光子其實是像機關槍一樣，源源不絕地一直從光源放射出來的，而且每個光子之間的時間間隔也並不平均。

測量是否為單光子的方法稱為「HBT 實驗裝置」，包含一個分光鏡、兩個偵測器（D1 與 D2），以及一個可以決定要啟動計時或停止計時的計時器。

當每一個光子遇到分光鏡時，會隨機前往 D1 或 D2，如果 D1 偵測到光子，計時器就會開始計時；如果 D2 偵測到光子，則會停止計時。因為光子是隨機前往 D1 或 D2，所以每一次停止計時，可能測到是兩個、三個、或四個……不等的光子出發間隔時間。

如果有兩個光子是同時出發，且它們正好分別通過 D1、D2，那麼就會測到一組間隔時間為 0 的數據。所以相反的，如果測量出的結果中，完全沒有間隔時間為０的數據，就可以確認光源是單光子光源。

張文豪指出，HBT 實驗裝置要準確，也考驗兩個偵測器的敏銳度。「目前效率最好的是用超導體來做偵測器，不過這樣的話，偵測器也得在低溫環境。」

• 除了單光子光源與偵測器外，光量子計算還需要哪些相關的技術配合？

光量子計算還是必須在光量子晶片上運作，用的是積體光學，就像積體電路一樣，只是用波導取代電線、光子取代電子。這其中的製程必須讓光能在晶片裡前進、轉彎，做一些操作。中央大學陳彥宏特聘教授的團隊，是量子國家隊光量子研究團隊之一，主要工作就是開發光量子晶片。

• 臺灣發展量子科技的前瞻性或潛力如何？我們有什麼優勢？

臺灣早期生產很多電腦，當時我們做的事情主要是零組件的開發、組裝，所以我常笑稱是一種「偽高科技組裝業」。可是臺灣現在已經不一樣了，臺灣從這個組裝業，慢慢掌握關鍵的製程，當產業供應鏈整個建構起來之後，現在變成了全世界很重要的製造中心。

如果未來量子電腦量產，臺灣絕不可能缺席，也不能缺席。為此，我們必須知道，從零到有把一臺量子電腦建構起來需要多少技術。這是一個龐大的系統工程，需要各種人才與技術。我們要知道每個技術細節，才會知道國內各研究單位、法人，以致於工研院、經濟部和產業界，各自可以扮演什麼角色。

• 成立國家隊來發展量子科技，是為了整合資源的考量？

因為我們的人力與資源都有限，所以必須透過整合的方式，各團隊做自己擅長的部分，再用系統整合把大系統建構起來。最重要的目的，是在每一個環節把技術與人才建立起來。

我們推動小組還找了中研院天文所的王明杰研究員來當總工程師，他負責連結各團隊的不同技術，橫向整合。為什麼找上天文背景的王明杰博士？這很有趣。

第一個原因在於王明杰是超導材料與偵測器的專家，因為天文觀測裡要偵測很微弱的訊號，他們必須要發展非常靈敏的偵測器。

第二個原因是，天文研究都是國際性的大團隊，例如蓋一座大型天文台，各國不同的單位個別負責開發部分技術且為了同一個目標努力，需要有總工程師來連結各團隊所開發的技術，透過系統工程變成最後的系統。做天文觀測的人比較有這樣跨團隊組大系統的經驗，所以我們就請他來協助。

• 量子科技現在還沒有發展出產業，培養出的人才怎麼辦？

量子科技並不是全新的技術，而是範圍很廣的跨領域技術，所以你學會了這些技術，仍然可以在現有的科技產業發揮所長。等到有一天公司需要投入量子科技的時候，儘管公司老闆可能沒有量子的知識和概念，但公司裡有這些背景知識的人才就可以立即參與。

所以人才是最重要的，我們必須現在就開始把量子的 DNA 植入產業界。如果等需求出現才開始培育人才，就來不及了。

• 中研院預計在南部院區建立量子研發基地，可否談談這部分的規劃？

我們預計在 2023 年下半年進駐南部院區的研究大樓 II，建置一些製程與量測的核心設施。此外，還會蓋一棟「量子實驗大樓」，主要做一些精密的量測，也包含一部分精密製程。

未來，這個量子研發基地將會是一個提供國內產學研單位進行量子科技研究的基地，所建置的核心設施也將開放給其他研究團隊進駐使用進行研發，有點類似國家同步輻射中心，透過建置一個大型的量子科技實驗場域，讓需要的國內外團隊共同使用。

這也是希望能橫向、縱向整合資源，不要重複投資。畢竟我們資源有限，應該集合大家的力量，攜手共同邁向臺灣量子新世代。

延伸閱讀

1. 量子系統推動小組網站。
2. 工程科技推展中心（2023）。〈【多功能量子通訊網路】 褚志崧副教授｜國立清華大學物理學系〉，YouTube。
3. Lodahl P., Ludwig A., & Warburton R.（2022）。〈決定性的單光子源〉（張鳳吟翻譯）， 《物理雙月刊》。
4. 王志洋、陳啟東（2021）。〈量子世代產學佈局〉，《科學人》。
5. 科技魅癮（2022）。〈量子新時代｜全國70位科學家的超強大腦，如何一起推動量子計畫〉，YouTube。
6. 陳彥宏（2021）。〈量子光電晶片將延續臺灣半導體晶片的榮耀〉，《臺灣研究亮點》。
7. 郭雅欣（2019）。〈量子電腦到底有多霸氣？即將引爆終極密碼戰？！〉，《研之有物》。
8. 林婷嫻（2017）。〈量子電子元件 hen 夯，但如何掌握像情人心難測的量子位元？〉，《研之有物》。
9. 張文豪、徐子民（2006）。〈半導體量子光學〉， 《物理雙月刊》。
10. 張文豪、徐子民（2004）。〈單量子點光譜技術的介紹與應用〉，《科儀新知》。
11. Gillis, A. S. (2022, January 28). quantum cryptography. TechTarget.
12. Shaik, A. B. D. a. J. W. I., & Palla, P. (2021). Optical quantum technologies with hexagonal boron nitride single photon sources. Scientific Reports, 11(1).
13. Ishii, S., Saiki, S., Onoda, S., Masuyama, Y., Abe, H., & Ohshima, T. (2021). Ensemble Negatively-Charged Nitrogen-Vacancy Centers in Type-Ib Diamond Created by High Fluence Electron Beam Irradiation. Quantum Beam Science, 6(1), 2.
14. Chen, T. A., Chuu, C. P., Tseng, C. C., … Chang, W. H., & Li, L. J. (2020). Wafer-scale single-crystal hexagonal boron nitride monolayers on Cu (111). Nature, 579(7798), 219–223.

永豐銀行在過年期間傳出多位卡友信用卡被盜刷，而且明明都使用 OTP 一次性密碼驗證了，卻還是難逃駭客魔爪。難道，我們已經沒有安全的交易方法了嗎？

好消息是，Google 、 Apple 、 Microsoft 都不約而同宣布導入「Passkeys」無密碼驗證技術，只要使用生物辨識，使用者不需要再創作密碼，大幅減少被破解或是被側錄盜帳號的機率。

Passkeys 用作原理

也許你會提出疑問，指紋登入不是早就有了嗎？又與二階段驗證（Two-Factor Authentication, 2FA）看上去十分類似，這套「無密碼驗證」機制，我們真的可以相信嗎？

首先，我們先來釐清Passkeys 的運作原理。在 Passkeys 的運作之中，一共有三個重要的角色：使用者 Device、平台供應商 Authenticator、應用服務 Relying Party。

在第一次申請 Passkeys 功能並使用生物驗證時，便會生成一組對應的公鑰與私鑰，公鑰存放在應用服務端（如：網路銀行）、而私鑰則保存在使用者的硬體裝置上（如：手機）；每當未來要進行 Passkeys 登入時，應用程式便會發起一個驗證請求，要求使用者利用裝置內的私鑰進行簽章，以證明自己的身分。

當然，為了確保當下持有手機的是使用者本人，手機裝置就會要求透過指紋等生物驗證機制，完成識別後，再使用裝置內的私鑰進行簽章回傳給應用服務，應用服務端則利用他們所持有的公鑰，來驗證簽章的效力。

我們可以把登入情境變成一張如下的邏輯架構：

密碼與鑰匙

更進一步討論，就得要先知道「公開金鑰密碼」（Public Key Cryptography, PKC）與「公鑰」（Public Key）、「私鑰」（Private Key）的概念。

一般所說的「加密」概念，就是希望只有對方能夠「解密」。

早期的「對稱式密碼學」，在加密和解密時均使用同一把鑰匙，如此一來便衍生了一個小問題——多了一個「額外的秘密」需要被傳遞，這樣既麻煩也不安全。

後來就出現了「非對稱密碼學」，也就是前述提到的公開金鑰密碼學。在這個理論中將用到兩把不同的鑰匙——「公鑰」及「私鑰」；私鑰僅留存給使用者，公鑰則是公開給所有人。演算法分別使用這兩把鑰匙進行加密與解密，具有單向、無法回推等特徵。

如此一來，可以達到不同的應用方式：

第一種是「傳遞秘密」，每個人都持有一把自己的私鑰、向大家公開一把成對的公鑰，任何人都可以「用公鑰加密訊息」給我、並且只有我可以「用私鑰解密訊息」看到秘密訊息的內容。

第二種常見的應用方式則是 Passkeys 架構中所用到的「數位簽章」。數位簽章的邏輯正好和傳遞秘密相反：「用私鑰加密簽章」並「用公鑰解密驗章」；如此一來，任何人都能持有的公鑰，便能用以驗證訊息是否確實由世上唯一擁有私鑰的使用者所簽名發出。

重新回來看 Passkeys 的架構，就不難理解為什麼 Passkeys 在不使用密碼的前提下，也能透過裝置上的私鑰，來向應用服務進行身分驗證。當然，Passkeys 的安全與強大之處並不只在於公鑰密碼系統，而是可以完全擺脫掉「帳號密碼」的概念，進而避免非常多的威脅。

從根本上解決問題

一般來說，在登入帳號時所使用的「密碼」，並不會直接被明文儲存在應用服務的伺服器裡，會透過編碼、雜湊、加密等各種方式進行儲存。

即便如此，太過簡單的弱密碼容易被暴力或查表破解。此外，駭客也可以透過網站釣魚（Phishing）或鍵盤側錄（KeyLogger）等方式偷取使用者的密碼，再轉手將偷來的資訊傳給應用服務進行中間人攻擊（Man-in-the-Middle Attack）；常見的簡訊驗證碼等二階段驗證方式，也可能受此攻擊的影響。

Passkeys 則從根本上解決了釣魚網站的威脅。存在使用者裝置中的 Passkeys 並不僅是一把私鑰，它連帶也儲存了應用服務網址、使用者帳號等資訊；無論釣魚網站做的與原服務有多相像，只要來源並非原本的服務網站，Passkeys 功能就不會被啟動，駭客自然就無法執行驗證或偷取到任何資訊。

而在跨裝置登入上，流程會是：使用者在筆電上開啟應用服務網站，選擇以 Passkeys 登入，網站會跳出一個 QRCode，使用者只要用存有私鑰的那隻手機掃描 QRCode，便會開啟 Passkeys 功能，讓使用者透過生物驗證完成登入。

這個過程不需要用到任何的「帳號」，因為 Passkeys 本身就儲存了使用者是誰的身分資訊，而使用 Passkeys 跨裝置登入時需要掃描 QRCode 來啟動的這一點，是為了避免駭客利用來進行中間人攻擊；Passkeys 要求這兩個裝置之間必須有藍牙連接，也就是必須在一定的物理範圍之內，裝置之間才能夠順利啟動 Passkeys 認證。

帶來的便利

對一般使用者來說，除了安全性以外，便利性也非常重要。

前述提及 Passkeys 的無密碼驗證機制，其實就等同於讓「裝置」擁有代表使用者本人的效力，那麼，若裝置不慎遺失、還能簡單地取回自己的身分嗎？答案是可以的。

使用者與提供 Passkeys 功能的平台供應商之間，原則上本來就會有相互驗證的方式，例如本來的帳號密碼登入、或者是額外的找回帳號機制，透過這些方式找回並登入帳號後，就可以進行設置，停用舊有 Passkeys 或啟用新的 Passkeys。

此外，Passkeys 提供多裝置同步私鑰的功能，以使用者對平台提供商的信任為前提，平台可能會在其雲端中儲存使用者的私鑰，以便在使用者需要的時候，可以將該私鑰輕鬆地同步到相同作業系統的其他裝置上，讓使用者也可以利用平板或電腦等裝置進行驗證登入。

另外，使用不同作業系統的裝置，一樣能用原本的私鑰登入；系統會在新的裝置上生成一組新的公私鑰繼續運作。也就是說，不管你是 Android 轉 iOS，還是 iOS 轉 Android，都不需重新設定，對使用者來說，可謂一大福音！

歡迎訂閱 Pansci Youtube 頻道 獲取更多深入淺出的科學知識！

• 甘偵蓉｜清華大學人文社會 AI 應用與發展研究中心博士後研究學者。

當談到人工智慧（artificial intelligence, AI）、也就是 AI 時，讀者會想到什麼？是多年前由史匹柏（Steven Spielberg）導演的那部《A.I. 人工智慧》（A.I. Artificial Intelligence）中那個一直盼不到人類母愛而令人心碎的機器人小男孩？還是由史密斯（Will Smith）主演的《機械公敵》（I, Robot）裡那些沒遵守機器人三大法則的機器人或中央系統？

或許未來有一天，人類真的可以設計出如電影中那些像人一樣的 AI 系統或機器人。但目前為止，你常聽到的 AI 其實既很厲害又很不厲害，為什麼呢？厲害的是它下圍棋可贏過世界冠軍，還能夠比放射科技師更快、更準確地辨識 X 光片中疑似病變的細胞；但它不厲害的是，很會下圍棋的 AI 就只能下圍棋，別說不會打牌，連撲克牌是什麼都不知道！而且每次學新事物幾乎都是打掉重練，得不斷做好多考古題才有可能學得會，不像人類通常教幾次就會舉一反三。

不過，即使目前世界上的 AI 都是這種只具備特定功能的「弱 AI」（artificial narrow intelligence, ANI），但已經為這個世界帶來相當大的進步與便利。所以，以下要談的就是 ANI 的倫理與風險。

談到這種只具特定功能的 ANI，讀者知道目前生活周遭有哪些事物有利用 AI 技術嗎？其實 Google 上的搜尋資訊、Facebook 或 Instagram 的訊息推薦、對智慧型手機喊「Siri 現在外面有下雨嗎？」等功能，或是以掃瞄臉部解鎖手機與進入大樓、YouTube 或 Netflix 推薦觀賞影片，甚至是投履歷求職、銀行審核貸款申請等都常用到 AI 技術，它早在我們日常生活中隨處可見。

但也正是如此，讓人們這幾年在使用 AI 時，逐漸發現它可能造成的問題或傷害，以下簡單介紹常見的四種AI應用可能造成的倫理問題或風險。

演算法偏誤

第一種是演算法偏誤（algorithmic bias）。什麼是演算法偏誤？簡單來說就是 AI 在某些群體的判斷準確率或預測結果上總是很差，導致結果可能對於此群體造成系統性的不利。但為何會造成演算法偏誤？常見原因有三項。

第一項原因是，建立 AI 模型的研究資料集有偏誤，在性別、種族、社經地位等特徵上，沒有真實世界的人口分布代表性。例如數位裝置採用 AI 臉部辨識技術解鎖，原本是希望保護個人使用數位裝置的安全性，結果皮膚深的人卻常常遇到辨識失敗而無法解鎖。這通常是因為目前許多 AI 模型都是以機器學習技術設計，而機器學習的主要特性就是從過去人類留下的大量資料中學習；當初提供電腦學習臉部辨識的圖片時，如果多數都是白皮膚而非黑皮膚、多數都是男性的臉而非女性的臉，那麼電腦在學習辨識人臉的準確率上，整體而言辨識男性白人就會比辨識女性黑人要高出許多。

第二項產生演算法偏誤的原因是建立 AI 模型的研究資料集不只有偏誤，還反映現實社會中的性別、種族、社經地位等歧視；例如美國警政單位以過往犯罪資料訓練出獄後犯人再犯風險評估的 AI 模型，那些資料不意外地有色人種的犯罪紀錄遠多於白人犯罪紀錄。然而，那些紀錄也反映美國社會長久以來對於有色人種的歧視，其中包含警察對於有色人種的盤查比例遠高於白人、法院對於有色人種的定罪比例及判刑嚴重程度也遠高於白人、警力通常被派往多黑人與拉丁裔人種居住的窮困社區盤查等。所以根據過往犯罪資料所訓練出來的 AI 模型，不意外地也就會預測有色人種的再犯機率普遍來說比白人高。

第三項產生演算法偏誤的原因則是 AI 學會了連系統開發者都沒有察覺到，潛藏在資料裡的偏誤。例如科技公司人資部門本來想借助 AI 更有效率地篩選出適合來面試的履歷，所以挑選在該公司任職一定年資且曾升遷二次的員工履歷來訓練 AI 模型。問題是，高科技公司向來男多女少，所提供給 AI 學習的資料自然就男女比例相當不均。AI 也就學會了凡是出現偏向女性名字、嗜好、畢業學校系所等文字的履歷，平均所給的評分都比出現偏向男性等相關文字的履歷還低。

但目前科技公司陽盛陰衰，是受到以往鼓勵男性就讀理工、女性就讀人文科系，或男性在外工作女性在家帶小孩等性別刻板偏見所影響。所以 20～30 年來許多人做出各種努力以消除這種性別刻板偏見所帶來的不良影響，政府也努力制定各種政策來消除這種不當的性別偏見，像是求才廣告基本上不能限定性別、公司聘雇員工應該達到一定的性別比例等。因此，訓練 AI 的研究資料一旦隱藏類似前述性別比例不均的現象，訓練出來的 AI 預測結果就彷彿帶有性別歧視，讓人們過往致力消除性別不平等的各種努力都白費了！

其他 AI 應用帶來的倫理與風險

除了演算法偏誤的問題外，第二種可能帶來的倫理問題或風險是 AI 技術已經偏離原先使用目的，例如深偽技術（deepfake）原本用來解決圖片資料量不夠的問題，後來卻被利用在偽造名人性愛影片等。

第三種則是有些 AI 技術或產品本身就可能有善惡兩種用途（dual-use）。例如 AI 人臉辨識技術可用在保護數位裝置的使用者或大樓保全，但也可用來窺探或監控特定個人；無人機可以在農業上幫助農夫播種，但也可作為自動殺人武器；可用來搜尋如何產生毒性最少的藥物合成演算法，也能反過來成為搜尋如何產生毒性最強的藥物合成演算法。

最後，第四種是演算法設計不良或現有技術限制所導致的問題。在演算法設計不良方面，例如下棋機器人手臂可能因為沒有設計施力回饋或移動受阻暫停等防呆裝置，而造成誤抓人類棋手的手指且弄斷的意外。在現有技術限制方面，道路駕駛的交通標誌在現實中可能時常有老舊或髒汙的情況，儘管對於人類駕駛來說可能不影響判讀，但對於自駕車來說很可能就因此會嚴重誤判，例如無法正確辨識禁止通行標誌而繼續行駛，或是將速限 35 公里誤判成 85 公里等。但前述情況也有可能是自駕車網路、控制權限或物件辨識模型受到惡意攻擊所致。

以上介紹了 AI 常見的四種倫理問題或風險：演算法偏誤、相關技術或產品偏離原先使用目的、擁有善惡兩種用途，以及演算法設計不良或現有技術限制。但人們該如何減少這些倫理問題與風險呢？

培養AI使用倫理與風險的敏銳度

近五、六年來國際組織如聯合國教育科學及文化組織（United Nations Educational, Scientific and Cultural Organization, UNESCO）、歐盟（European Union, EU）、電機電子工程師學會（Institute of Electrical and Electronics Engineers, IEEE）或是國家、國際非營利組織皆紛紛制訂有關 AI 發展的白皮書或倫理指引（ethical guidelines），甚至逐漸朝向法律治理的方向，如歐盟的人工智慧規則草案等。儘管這些文件所提出的倫理價值、原則或行為規範，看似各有不同，但經過這些年的討論與摸索，也逐漸匯聚出一些共識。

臺灣相較於前述國際文件來說，在制訂的時間上比較晚。2019 年由當時的科技部（現改為國科會）制訂「人工智慧科研發展指引」，裡面提出的三項倫理價值以及八項行為指引，基本上涵蓋了前述各種國際 AI 發展指引文件最常提及的內容。所謂三項倫理價值包含以人為本、永續發展、多元包容，行為指引則有共榮共利、安全性、問責與溝通、自主權與控制權、透明性與可追溯性、可解釋性、個人隱私與數據治理、公平性與非歧視性共八項。

未來當讀者看到又出現哪些 AI 新技術或產品時，不妨試著評估看看是否有符合這三項價值及八項行為指引。若沒有，究竟是哪項不符合？不符合的原因是上述所介紹常見的四種倫理問題或風險的哪一種？若都不是，還有哪些倫理問題或風險過去被忽略了但值得重視？

AI 技術發展日新月進，在日常生活中的應用也愈來愈廣。但考量法律條文有強制性，在制訂時必須相當謹慎，免得動輒得咎，也很可能在不清楚狀況下反而制訂了不當阻礙創新發展的條文；再加上法律制定也必須有一定的穩定性，不能朝令夕改，否則會讓遵守法規者無所適從。因此可以想見，法令規範趕不上新興科技所帶來的問題與風險本來就是常態，而非遇到 AI 科技才有這種情況。

人們若能培養自身對於 AI 倫理問題或風險的敏銳度，便可發揮公民監督或協助政府監督的力量，評估 AI 開發或使用者有無善盡避免傷害特定個人或群體之嫌，逐漸改善 AI 開發者與大眾媒體常過度誇大 AI 功能，但對於可能帶來的倫理問題或風險卻常閃爍其詞或避而不談的不好現象。

本文感謝工業技術研究院產業科技國際策略發展所支持。

• 〈本文選自《科學月刊》2023 年 2 月號〉
• 科學月刊／在一個資訊不值錢的時代中，試圖緊握那知識餘溫外，也不忘科學事實和自由價值至上的科普雜誌。