• 本文轉載自科技大觀園，原文為《人工智慧複製人類偏見，AI 與性別議題間的拉扯——高醫大性別所余貞誼專訪》
• 作者／科技大觀園特約編輯｜陳亭瑋

科技始終來自於人性，人工智慧更是如此。此時此刻，人類社會中仍隱藏許多不平等與歧視，人工智慧與這些議題將如何互動？透過社群媒體可以如何解讀性別議題？任教於高雄醫學大學性別研究所的余貞誼助理教授，研究專長包括性別社會學、資訊科技與社會。她關注的重點之一，便是科技應用對社會溝通的影響。

2018 年，亞馬遜宣布停止使用 AI (artificial intelligence) 篩選求職履歷，因為從招聘結果看來，這個 AI 居然嚴重的偏好男性。

2006 年機器學習演算法 (machine-learning algorithm) 突破瓶頸，讓人工智慧在某些情況，足以模擬人類的判斷，提供資訊解讀加速作業流程，如影像診斷、關鍵字判讀、資訊推薦、外文翻譯等。此外亦常見以演算法處理排序、挑選內容、過濾資訊等工作，經手人們的決策與信息流通。但快速便捷的同時，多數人不假思索信賴的演算法，也可能會反映強化已經存在的價值偏差，甚至夾帶嚴重的歧視偏見。

如同開頭的案例，2018 年亞馬遜的 AI 演算法以過去十年間招聘資料進行訓練，最終演算法「忠實」呈現了招聘男女不平均，由於難以確保該演算法對於性別的公平性，亞馬遜只得棄用。¹也有資料學家指出，許多商用的臉孔辨識系統擅長辨識白人男性，換個性別膚色就會失靈。²這些偏差的起因，都與訓練資料的取樣偏誤有關。如何在導入應用之前，發覺演算法失靈以避免可能的不公，將是未來科技社會發展的重要課題。³

用上人工智慧之前：用在哪？該怎麼用？

而除了前述源自訓練資料造成的不公，如人工智慧這類科技工具該用在何處，該如何設計才能稱得上妥適，也存在探討的空間。

最新的一個爭議案例，發生在印度北方邦的首府勒克瑙 (Lucknow)。當地政府規劃於今 (2021) 年在已知的 200 個性騷擾熱點設立監視錄影器，佈署 AI 人臉辨識進行監看，偵測女性出現困擾表情，即傳送警報予警察局。⁴

「第一個顧慮的點，是要如何辨認什麼是被性騷擾後不適或是驚恐的表情？」

余貞誼認為，這類科技應用的解讀魔鬼藏在細節裡，需要深刻探究背後的執行與設計邏輯。

印度率先於各國考慮採用 AI 於性騷擾事件，背景脈絡與其 AI 人才的發展息息相關。成功前例便有 2018 年 4 月印度警方使用臉部辨識軟體，根據婦女和兒童發展部 (The Ministry of Women and Child Development) 與失蹤兒童追蹤網站 (Track Child) 提供的照片，在四天之內追蹤到將近 3000 名失蹤兒童的紀錄。⁵爾後也傳出意圖打造全球最大的臉部辨識系統於刑事系統中，因此有此應用構想確實有跡可循。

但是此次應用人臉辨識系統於警方的監視錄影機，很多執行細節並未審慎考量。非政府組織網路自由基金會 (Internet Freedom Foundation) 就指出，監看臉部表情並不妥當，除了極可能失誤判斷，也形同監視路過女性的一舉一動。

余貞誼分析，透過官方演算法篩選「受威脅」的女性表情，等同認定這類的事件存在固定的「被害者」形象，除了疏於保護「不夠典型」的受害者，也可能變相為另一種受害人責怪的材料，強化助長「理想受害者」的形象。

「用這樣子的方法，會帶來的爭議比解決的問題還要多。」余貞誼指出，公權力錯誤的使用，視同將此演算法所得的結果視為「證據」，有可能導致惡性循環迴圈 (pernicious feedback loop)，從出發點即隱含了歧視觀點，並持續強化歧視觀念。政府單位使用演算法需要審慎評估其後果。

印度本次的爭議中，選擇攝影機「看向誰」本身，就已經體現了權力立場，無論是偵測哪個性別，如此的設計都存在著嚴重瑕疵。而更多的問題還包括：這類公權力涉入的演算法，被觀看、紀錄、分析的人本身，其隱私資料是否有受到足夠的哪些保護？有哪些人可以接觸到資料？收集的資料是否有足夠的保護設計？這些都是未來任何牽涉廣泛的科技方案，無論是設計者或是使用者，都必須要審慎考慮的問題。

看見科技中的性別議題：誰的設計，誰能得利？

數位科技產品推出，設計者往往難以意識自身經驗的偏差，而使用者也有可能後知後覺。該如何察覺數位產品中可能存在的偏差？余貞誼介紹了《數據女性主義》（Data feminism，暫譯）⁶ 裡提出的七個原則，由提問來檢視科技產品中的權力：是誰（或不是誰）從事相關技術工作？哪些族群的目標具有優先性？誰會從中獲利？又會有誰因此受忽略或傷害？

「要先問出『誰』，這個關鍵問題。」余貞誼認為，由此可一窺各種特權，包括了性別議題，如何融入數據產品。

舉例來說，性愛機器人 (Sex Robot) 的爭議，很明顯可以反映出優先以男性視角為中心的產品設計。最早推出的性愛機器人如美國公司 Realbotix 的 Harmony ，其設計服務的對象明顯是異性戀白人男性，除了存在固化的性別腳本，也有科學家指出可能會帶來心理與道德上的隱憂。⁷

光是決定優先推出的產品、是怎樣的樣貌，就反映了某種權力分配的議題。

設計者優先考慮自己的視角無可避免，但如此一來，蓬勃發展的 AI 產業就更值得密切關注。2018 年，世界經濟論壇 (World Economic Forum, WEF) 全球性別差距報告，指出全球的 AI 從業人員有 78％ 為男性組成，性別差距懸殊。AI 快速蔓延各領域應用的此時此刻，如果未能在密切檢視主要由男性視角出發的 AI 應用，將可能擴大既存的性別差距。

那麼，研發 AI 的時候，該如何避免複製社會上常見的不平等呢？

2018 年二十國集團女性會議 (Women 20, W20) 上，全球資訊網基金會 (World Wide Web Foundation) 提出了運作 AI 的兩個注意事項，以避免帶有性別意識或其他偏見。

首先是應注意訓練資料的平等程度，除了資料的數量，更應該注重質量，尤其檢視樣本中是否存在特定「數據匱乏」(data desert) 的情況，使 AI 缺乏資料無法解讀特定族群。不只性別資料數量應當平均，還包括應納入邊緣與少數族群的資訊。

其次，應該找出系統性的偏誤，利用開放資料與邏輯運算進行修正。透過擴大資訊的透明度、訂定相關守則並且開放其它意見的溝通與監督，才有機會避免系統性的偏誤。如前述亞馬遜的履歷 AI 所根據的資料即具備此類系統性的問題，W20 並認為可透過政府單位規範提升 AI 服務的資訊透明度，訂立準則進行監督來修正相關問題。

最後余貞誼補充，由於資料科學家常缺乏對於現場脈絡的理解，《數據女性主義》以及 Google Brain 的數據科學家莎拉‧虎克 (Sara Hooker) ，均提出研發 AI 等數據計畫，應當重視「接地氣」的知識，納入多元參與才有機會打造出更有效、更有創意的方案。

以性別議題做為試金石，避免人工智慧放大歧視的未來

除了 AI 的從業人員應當銘記在心，自身立場可能帶來的偏差，AI 使用者對於資料來源、資訊與現實間的差距，也應當有一定的體認，甚至提供回饋貢獻。舉例來說，於 2009 年發表於 Nature 風靡一時的「Google 流感趨勢預測」(Google Flu Trend)，就在後續幾年間被證實沒有預測效力。當演算法採取間接資料做出推論，使用者對於原始資料與演算法屬性應該有足夠的認識，方不至以管窺天差之千里。

討論到 AI、社群媒體或科技將如何型塑我們的未來，余貞誼主張，任何科技發展的後續效應，主要是人群、情境與科技產物互動的綜合效果，不宜輕易落入「科技決定論」。余貞誼曾以關鍵字分析批踢踢的厭女與性別挑釁，認為由於社群媒體的匿名性以及極化特性，容易聚集極端意見，加上與現實間的界線消弱同情心、倫理規範模糊，因而容易聚集呈現激烈的偏見言論。相同的科技物質基礎不見得會出現同樣結果，仍要端看人與情境的最終互動。

近年來，經諸多有識者的關注，科技設計於性別議題的敏感度逐漸增加。Google 在 2020 年 2 月公開宣告， Google Cloud Vision API 取消照片辨識「男性」「女性」性別標籤，希望以此避免對 AI 灌輸性別偏見。^8,9而史丹佛大學歷史系的隆達·希賓格 (Londa Schiebinger) 設立的「性別化創新」網站，也提供科學家與工程師可運用的性別／分析實用方法。如未來設計機器人該如何避免強化性別刻板印象，並列出六種可同時顧及社交投射需求的做法，包括挑戰既有的刻板印象、客製化設計、設計無性別或性別流動的機器人等。¹⁰

「討論性別，其實就是討論權力，那是一種很具象的『看見權力』的方式。」余貞誼說明從事性別研究的起點，權力有時候很抽象，由性別的角度能協助將之具像化，因而察覺其分佈與影響。

科技需要克服的偏見絕不止於性別，而探討科技如何受人的權力與價值觀影響，性別議題可說是個最好的試金石，讓我們一窺各種決策之下人性、情境、科技的互動。人工智慧最終發展是載是覆，就端看人類的智慧是否足以駕馭這把雙面刃了。

參考資料

1. 亞馬遜發現招聘用人工智慧系統歧視女性，決定棄用
   亞馬遜AI徵才歧視女性挨轟- 國際
2. Buolamwini, J., & Gebru, T. (2018, January). Gender shades: Intersectional accuracy disparities in commercial gender classification. In Conference on fairness, accountability and transparency (pp. 77-91). PMLR.
3. Courtland, R. (2018). Bias detectives: the researchers striving to make algorithms fair, Nature. Accessed 23 July, 2018. Available: httpa.
4. 打擊猖獗性犯罪 印度加裝AI監視器偵測女性表情
5. 印度警方使用人臉辨識技術，在4 天內發現近3000 名失蹤兒童
6. Book: “Data Feminism”
7. 暗黑的AI性與愛學者警告：性愛機器人有害- 國際
   AI性愛機器人恐危害人類心理與道德專家籲管制[影] | 國際
8. Google 圖片辨識AI 工具將不再標記男女| TechNews 科技新報
9. 高雄醫學大學性別研究所：Al 與社會—數據女性主義
10. 性別化創新

本文轉載自中央研究院研之有物，泛科學為宣傳推廣執行單位。

• 採訪撰文｜郭雅欣、簡克志
• 美術設計｜林洵安、蔡宛潔

在學術與搖滾的多重維度上行走

還記得美劇《The Big Bang Theory》嗎？劇中常常出現的物理名詞「弦論」，是描述物理世界基本結構的理論。中央研究院「研之有物」專訪院內數學研究所程之寧研究員，她正是研究弦論的科學家，也是熱愛音樂的搖滾樂團鼓手，這種跨領域身份並不衝突，兩邊都需要創造力與紀律。由於天生斜槓的性格，讓程之寧在數學和物理領域大展身手，透過數學的深入探討，她試圖將弦論更往前推進。最近程之寧更跨足到人工智慧領域，為學界提供理論物理上的貢獻。

萬有理論和難以捉摸的「月光」

世界從那裡來呢？物理世界的本質是什麼呢？回答這樣的大哉問，一直是理論物理學家所追求的目標。從牛頓力學（日常應用）、廣義相對論（探討很重的物質）到量子力學（探討很小的物質），隨著物理學不斷發展，我們似乎一步步接近答案，但至今卻還未走到終點。

舉例來說，如果有個東西很重又很小，就像「黑洞」，或是大爆炸時的宇宙，我們要怎麼用數學描述？於是科學家試圖整合廣義相對論和量子力學，找出所謂的「萬有理論」（Theory of Everything）──能完全解釋物理世界基本結構的核心理論。

程之寧研究的「弦論」就企圖發展成這樣一個萬有理論。弦論一如其名的「玄妙」，它設定宇宙所有的粒子都是由一段段「能量弦線」所組成，每一種基本粒子的振動模式不同，產生不同的粒子特性。

「人類一直以來的夢想之一就是，如果能用一句話解釋所有事情，那該有多麼美好。」中研院數學所研究員程之寧說道。

程之寧的研究牽涉到數學上的「月光猜想」（Moonshine）與弦論中 K3 曲面的連結。月光猜想是存在於模函數係數與特殊群之間的數學關聯，程之寧與其研究夥伴共發現了 23 個新的關連，並稱之為「伴影月光猜想」（Umbral Moonshine）。

基於弦論的假設，我們的世界是十維的，除了人們在日常生活中可以感知到的 3+1 維（空間＋時間），還有六維是因為尺寸太小而無法用肉眼觀察的，這些看不到的維度影響著物理世界，最終也產生了我們這個物理世界所需的各種條件與特性。

綜觀程之寧的研究，橫跨了物理與數學兩個領域，她笑稱自己「天生斜槓」。在學術上，程之寧原先喜歡文學，之後卻走上數理研究的道路；在音樂上，程之寧喜愛搖滾樂，至今仍在自己的樂團裡擔任鼓手。

她如何看待自己一路走來的各種轉折？游徜在數學與物理之間，她又對這兩個領域的連結有怎樣的體會？在與「研之有物」的訪談中，程之寧侃侃而談她的經歷、想法，以及對學術研究的熱忱所在。

• 請問您是如何對數學及物理產生興趣？從何時開始？

一開始考大學時，其實我想去念中文系（笑）。不過，因為我高中是選理組，而且只念了一兩年，對文科考試比較沒把握，加上對工程科系沒興趣，最後就選擇臺大物理系就讀。

後來發生兩個轉折，第一個是我很認真的去修了大學中文系的課，結果發現真的沒有想像中容易。第二個就是我發現物理系的課還蠻有趣的，像量子力學和相對論，讓我覺得還想再多學一點、多知道一點。

我開始覺得如果念完臺大物理系就停下來，好像有一種小說沒讀完的感覺，所以就想繼續讀碩士班。那時還沒有覺得自己會走上學術研究的路，單純抱著想把故事看完的想法。

• 後來是如何接觸到弦論？弦論是如何引起您的興趣？

後來我去荷蘭念碩士，指導教授是諾貝爾物理獎得主 Gerard ’t Hooft。他其實蠻不認同弦論，但他對於如何處理量子力學與相對論很有興趣。

當時 ’t Hooft 教授在建議我碩士題目時就說：「你也知道我不太認為弦論是一條正確的道路，不過聽說弦論最近真的在量子重力這一塊有一些成果。不如妳去讀一讀，看看是不是真的有一些東西在那裡，也可以比較一下其他量子重力理論。」

在我很認真的比較各個量子重力理論之後，就變成弦論派了（笑）。’t Hooft 教授對此也保持開放態度，他有幾個不錯的博士生後來也變成弦論學家，之後我在 Erik Verlinde 的指導下念博士時，就完全以弦論為研究主題了。

• 研究理論物理會影響您對現實世界的理解嗎？

蠻多人會問我說，妳學了量子力學，是不是就會比較了解這個世界不是非黑即白？或問我量子力學跟宗教是不是有關？可是我覺得我分得很開，我不會去做這樣的連結，我還是活在現實裡，走路時大部分都在專注於自己不要跌倒之類的。

如果真的要講，我蠻感激我們的存在，因為我所學的東西讓我知道這是沒有必然性的。我們能這樣以一種人形的很奇怪的生物的形式存在，然後在這樣一個環境過一輩子，是機率很低的事情，而且我還蠻開心我是當人，而不是奇怪的阿米巴蟲或外星生物！有些人會從這裡連結到宗教或轉世，但我不會，我就停在這裡。

• 來談談您的研究，伴影月光猜想與 K3 曲面弦論之間是什麼關係？

弦論中有很多的可能性，我們可以挑選特定的四維，然後假設這四維空間是個 K3 曲面。例如說，我們可以把兩個甜甜圈乘起來，在上面做特殊的奇異點，來製造出一個 K3 曲面。這個曲面有一些很有趣的對稱性。從弦論的角度來講，我們可以透過這個過程，找出一個解釋為何有伴影月光猜想的框架。

「把維度乘起來」這個概念很難想像，但這在數學上是成立的。我舉例一個我們能想像的「乘起來」：如果有一個空間是一條線，另一個空間是一個圓，乘起來就變成一個圓柱形，從一個方向剖面可以切出圓，另一個方向則切出線。而在數學上，不管幾維，能不能在紙上畫的出來，都可以這樣操作。

• 如何透過計算，發現捉摸不定的「月光」？

有時候這看似湊巧，一個數學上的函數正好就是弦論某個問題的答案。但其實並不是真的那麼巧，弦論看起來很有彈性，好像什麼都可以解釋，但它其實有非常多結構及限制。

當我在計算一個弦論理論時，它的內部結構可能原本就具有某些特定的性質，然後我再去觀察數學中，有這樣性質的函數可能就只有一兩個，只要再初步算一下，就能知道哪一個是答案。弦論學家日常的計算常常是這樣的，所以這是巧合嗎？是也不是。

• 您曾經發現 23 個新的伴影月光猜想，您對這類題目特別有興趣嗎？

我覺得數學有兩種，有些數學家喜歡系統性的事情，就像蓋房子一樣，在數學裡建造一個很美麗、非常有系統性的結構，可以把很多事情都放入這個結構來理解。

另一種比較少數的，就是喜歡獵奇，去收集分類奇奇怪怪的特殊東西，例如有這些性質的函數在哪裡？可能你算出來就是 5 個，你也不知道為什麼。月光猜想很明顯就屬於這一類。

兩種的樂趣感覺是不一樣的，我覺得應該都很棒，但我可能是屬於偏好獵奇的這種。

• 您的研究連結了物理上的弦論與數學上的月光猜想，您怎麼看待這兩個知識體系的互動？

弦論是一個需要很多數學理論配合的物理理論，它是一個有點繁複的框架，我們什麼都要會一些，才能看懂這個理論。當你把許多不一樣的學門的知識加起來，有時候就會在某一個學門──例如幾何──有意想不到的收穫。

弦論在數學上也扮演探索與找尋新方向的角色，讓數學家有新的發現。雖然最後數學定理的證明還是得仰賴傳統數學方法，但在這二三十年間，我們一直從弦論身上找尋數學研究的新方向或有趣的猜想，看到了弦論與數學之間的互動。

• 剛才一開始提到，您高中只念了一兩年，是因為對學校沒有興趣嗎？

其實我一直都覺得上學很無聊。我小時候臺灣教育和現在很不一樣，一班 50 幾個人，老師必須盡量軍事化管理，大家最好都一模一樣，比較好管理。我和學校一直處於互相磨合的狀況，我自認已經努力配合學校，但學校一直覺得我在反抗，這可能是一個認知上的差別。

舉例來說，我小學的時候不想睡午覺，可是老師說大家都一定要睡午覺，不睡午覺的人要罰抄課文，所以我早上到學校時就會把已經抄好的課文交給老師。我覺得我這樣做是在配合老師的規定，可是以老師的立場會覺得我在反抗，學校教育中我遇到了很多類似的情況。

還有就是不喜歡高中的升學氛圍，同學和老師好像都只有一個活著的目標，就是「考大學」。我當時無法習慣升學氛圍，感覺好像活在平行宇宙一樣。

• 高中休學後，您去唱片行工作，可否談談當時的想法？

我國中開始聽音樂，這是我除了看書之外的重要興趣，我也很快就喜歡上了搖滾樂。高中休學的時候，我唯一的謀生技能可能就是我對音樂的各類知識吧！所以我就去了唱片行，這是唯一一個我會做又有興趣的工作，還好那時候還有很多唱片行（笑）。

• 對音樂的熱忱，讓您與朋友共組了樂團，並擔任鼓手。您是否比較過樂團生活和學術研究之間的異同之處？

有些人覺得我這樣很跳 tone，但我自己覺得還好。音樂和學術都是我發自內心覺得好玩的東西，兩者也有相同之處，例如它們都需要創造性，也都有需要了解的框架。數學需要嚴謹的證明，音樂演奏也需要遵循結構，例如不能掉拍。

音樂領域還有一點和數學類似──玩樂團的圈子也是以男性為主。我們樂團則是只有一個男生，其他都是女生，可能我真的天生對框架有點遲鈍，玩團之後才發現：「怎麼大家都是男生？」

• 也就是說，目前數學學術圈仍是男性主導，在研究路上，您有因為性別而感受到一些衝擊或眼光嗎？您怎麼面對？

有。那感覺很明顯，日復一日地要去面對，尤其是年紀還比較輕、還必須每一天去證明自己的能力的時候，特別有感。

我遇到時的反應就是，在心裡暗罵一句髒話，然後繼續做我要做的事。我不會想改變別人的想法，感覺那是浪費時間，就算環境給我的阻礙是這樣，我還是繼續去做該做的事。

可是有些事情沒那麼簡單，現在我也當過老師，有時候會看到年輕女生在學術界因為性別而被欺負，或遭到不公平待遇、甚至騷擾。

對此我感到心痛，覺得為何我們學術領域還是這樣的狀況？甚至為什麼性騷擾至今還是一個議題？可以確定的是，學術界許多性別不平等問題未受到重視。

• 您現在已經有傑出的研究成果，還會因為性別而遭受質疑嗎？

我現在比較會遇到一個狀況反而是來自學生的質疑。我在荷蘭阿姆斯特丹大學教書時，有時候學生會因為我是女教授，而且我的外表在許多歐洲人眼中看起來就像小妹妹，所以比較容易去挑我的毛病。

在課堂上，下面坐的可能都是男學生，只有一兩個女學生，那個氣氛就會變得很奇怪。例如說偶爾會聽到學生評論我的身材或樣貌。

我有和其他一些在歐洲或美國的女性教授聊過這樣的問題，似乎不少人都有類似的不太愉快的經驗。感覺不是很好。

• 看到您最近的研究和人工智慧（AI）有關，為何會想往這個方向發展？

我有兩個動機。一個就是我真的想深入了解人工智慧。我也可以像普羅大眾，看看 AI 下圍棋，讚嘆「哇！好厲害！」這樣就好，可是我覺得我一定可以真的去理解它，這可能就是數學家的自大吧！

另一方面，我知道對科學研究來說，未來 AI 將會是一個非常重要的工具。這是「在職訓練」的概念，我可能會用到這個新工具，或以後我可能會需要教這樣的課，因為學生是下一代的科學家。因為這些原因，我覺得我需要去訓練自己使用新的工具。在我的領域裡，也有一些有趣的、還沒被解答的科學問題，是 AI 有可能幫得上忙的，我看到了一些潛力。

• 弦論和 AI 感覺差距很大，AI 也可以應用到弦論的研究嗎？

乍看之下，弦論的確比較抽象，也不像其他許多實驗會產生大量數據。但其實弦論有大量的可能性，我認為使用 AI 來在這些巨量的可能性當中搜尋特別有趣的理論，是一個有潛力能夠加深我們對弦論理解的新的研究方法。

而且 AI 的應用絕不僅限於巨量資料。如果是面對一些比較新的挑戰，在沒有現成的演算法可以用的情形之下，可以自己做出需要的功能嗎？這過程我覺得也非常很有趣，而且應該是會有成果的一條路。這種不是那麼顯而易見的事情，我覺得很有挑戰性，也蠻好玩的。

除了用 AI 來幫助物理跟數學的研究之外，我也試著物理研究當做靈感來源，找出新的 AI 的可能性，我覺得這也是一個很有趣的研究方向。我現在有和 AI 的學者合作，嘗試做出一些創新的演算法，真的還蠻有趣的。

• AI 對您而言是全新的領域，您如何面對跨領域遇到的門檻？

一開始會覺得真的要去碰這個新的領域嗎？其實現在也還是偶爾會有這樣的懷疑。我在弦論領域可能已經是專家，但去了一個新的領域，我學得不會比二十歲的人快，要怎麼去跟人家競爭？是不是在浪費時間？

但也會想，與其想這麼多，不如先做再說。到目前為止我做了兩年多，感覺還蠻好的，我有學到東西，也有做出小小的貢獻。

其實我還蠻感激有這樣的學習機會。對我來說當科學家最大的好處就是，去搞懂一個新的東西就是工作的一部分。當科學家雖然蠻辛苦，但就結果論來說，我還蠻開心能當一位科學家！

延伸閱讀

1. Moonshine Master Toys With String Theory | Quanta Magazine
2. Mathematicians Chase Moonshine’s Shadow | Quanta Magazine
3. 林正洪教授演講 一 怪物與月光（Monster and Moonshine），《數學傳播》