• 本文轉載自科技大觀園，原文為《人工智慧複製人類偏見，AI 與性別議題間的拉扯——高醫大性別所余貞誼專訪》
• 作者／科技大觀園特約編輯｜陳亭瑋

科技始終來自於人性，人工智慧更是如此。此時此刻，人類社會中仍隱藏許多不平等與歧視，人工智慧與這些議題將如何互動？透過社群媒體可以如何解讀性別議題？任教於高雄醫學大學性別研究所的余貞誼助理教授，研究專長包括性別社會學、資訊科技與社會。她關注的重點之一，便是科技應用對社會溝通的影響。

2018 年，亞馬遜宣布停止使用 AI (artificial intelligence) 篩選求職履歷，因為從招聘結果看來，這個 AI 居然嚴重的偏好男性。

2006 年機器學習演算法 (machine-learning algorithm) 突破瓶頸，讓人工智慧在某些情況，足以模擬人類的判斷，提供資訊解讀加速作業流程，如影像診斷、關鍵字判讀、資訊推薦、外文翻譯等。此外亦常見以演算法處理排序、挑選內容、過濾資訊等工作，經手人們的決策與信息流通。但快速便捷的同時，多數人不假思索信賴的演算法，也可能會反映強化已經存在的價值偏差，甚至夾帶嚴重的歧視偏見。

如同開頭的案例，2018 年亞馬遜的 AI 演算法以過去十年間招聘資料進行訓練，最終演算法「忠實」呈現了招聘男女不平均，由於難以確保該演算法對於性別的公平性，亞馬遜只得棄用。¹也有資料學家指出，許多商用的臉孔辨識系統擅長辨識白人男性，換個性別膚色就會失靈。²這些偏差的起因，都與訓練資料的取樣偏誤有關。如何在導入應用之前，發覺演算法失靈以避免可能的不公，將是未來科技社會發展的重要課題。³

用上人工智慧之前：用在哪？該怎麼用？

而除了前述源自訓練資料造成的不公，如人工智慧這類科技工具該用在何處，該如何設計才能稱得上妥適，也存在探討的空間。

最新的一個爭議案例，發生在印度北方邦的首府勒克瑙 (Lucknow)。當地政府規劃於今 (2021) 年在已知的 200 個性騷擾熱點設立監視錄影器，佈署 AI 人臉辨識進行監看，偵測女性出現困擾表情，即傳送警報予警察局。⁴

「第一個顧慮的點，是要如何辨認什麼是被性騷擾後不適或是驚恐的表情？」

余貞誼認為，這類科技應用的解讀魔鬼藏在細節裡，需要深刻探究背後的執行與設計邏輯。

印度率先於各國考慮採用 AI 於性騷擾事件，背景脈絡與其 AI 人才的發展息息相關。成功前例便有 2018 年 4 月印度警方使用臉部辨識軟體，根據婦女和兒童發展部 (The Ministry of Women and Child Development) 與失蹤兒童追蹤網站 (Track Child) 提供的照片，在四天之內追蹤到將近 3000 名失蹤兒童的紀錄。⁵爾後也傳出意圖打造全球最大的臉部辨識系統於刑事系統中，因此有此應用構想確實有跡可循。

但是此次應用人臉辨識系統於警方的監視錄影機，很多執行細節並未審慎考量。非政府組織網路自由基金會 (Internet Freedom Foundation) 就指出，監看臉部表情並不妥當，除了極可能失誤判斷，也形同監視路過女性的一舉一動。

余貞誼分析，透過官方演算法篩選「受威脅」的女性表情，等同認定這類的事件存在固定的「被害者」形象，除了疏於保護「不夠典型」的受害者，也可能變相為另一種受害人責怪的材料，強化助長「理想受害者」的形象。

「用這樣子的方法，會帶來的爭議比解決的問題還要多。」余貞誼指出，公權力錯誤的使用，視同將此演算法所得的結果視為「證據」，有可能導致惡性循環迴圈 (pernicious feedback loop)，從出發點即隱含了歧視觀點，並持續強化歧視觀念。政府單位使用演算法需要審慎評估其後果。

印度本次的爭議中，選擇攝影機「看向誰」本身，就已經體現了權力立場，無論是偵測哪個性別，如此的設計都存在著嚴重瑕疵。而更多的問題還包括：這類公權力涉入的演算法，被觀看、紀錄、分析的人本身，其隱私資料是否有受到足夠的哪些保護？有哪些人可以接觸到資料？收集的資料是否有足夠的保護設計？這些都是未來任何牽涉廣泛的科技方案，無論是設計者或是使用者，都必須要審慎考慮的問題。

看見科技中的性別議題：誰的設計，誰能得利？

數位科技產品推出，設計者往往難以意識自身經驗的偏差，而使用者也有可能後知後覺。該如何察覺數位產品中可能存在的偏差？余貞誼介紹了《數據女性主義》（Data feminism，暫譯）⁶ 裡提出的七個原則，由提問來檢視科技產品中的權力：是誰（或不是誰）從事相關技術工作？哪些族群的目標具有優先性？誰會從中獲利？又會有誰因此受忽略或傷害？

「要先問出『誰』，這個關鍵問題。」余貞誼認為，由此可一窺各種特權，包括了性別議題，如何融入數據產品。

舉例來說，性愛機器人 (Sex Robot) 的爭議，很明顯可以反映出優先以男性視角為中心的產品設計。最早推出的性愛機器人如美國公司 Realbotix 的 Harmony ，其設計服務的對象明顯是異性戀白人男性，除了存在固化的性別腳本，也有科學家指出可能會帶來心理與道德上的隱憂。⁷

光是決定優先推出的產品、是怎樣的樣貌，就反映了某種權力分配的議題。

設計者優先考慮自己的視角無可避免，但如此一來，蓬勃發展的 AI 產業就更值得密切關注。2018 年，世界經濟論壇 (World Economic Forum, WEF) 全球性別差距報告，指出全球的 AI 從業人員有 78％ 為男性組成，性別差距懸殊。AI 快速蔓延各領域應用的此時此刻，如果未能在密切檢視主要由男性視角出發的 AI 應用，將可能擴大既存的性別差距。

那麼，研發 AI 的時候，該如何避免複製社會上常見的不平等呢？

2018 年二十國集團女性會議 (Women 20, W20) 上，全球資訊網基金會 (World Wide Web Foundation) 提出了運作 AI 的兩個注意事項，以避免帶有性別意識或其他偏見。

首先是應注意訓練資料的平等程度，除了資料的數量，更應該注重質量，尤其檢視樣本中是否存在特定「數據匱乏」(data desert) 的情況，使 AI 缺乏資料無法解讀特定族群。不只性別資料數量應當平均，還包括應納入邊緣與少數族群的資訊。

其次，應該找出系統性的偏誤，利用開放資料與邏輯運算進行修正。透過擴大資訊的透明度、訂定相關守則並且開放其它意見的溝通與監督，才有機會避免系統性的偏誤。如前述亞馬遜的履歷 AI 所根據的資料即具備此類系統性的問題，W20 並認為可透過政府單位規範提升 AI 服務的資訊透明度，訂立準則進行監督來修正相關問題。

最後余貞誼補充，由於資料科學家常缺乏對於現場脈絡的理解，《數據女性主義》以及 Google Brain 的數據科學家莎拉‧虎克 (Sara Hooker) ，均提出研發 AI 等數據計畫，應當重視「接地氣」的知識，納入多元參與才有機會打造出更有效、更有創意的方案。

以性別議題做為試金石，避免人工智慧放大歧視的未來

除了 AI 的從業人員應當銘記在心，自身立場可能帶來的偏差，AI 使用者對於資料來源、資訊與現實間的差距，也應當有一定的體認，甚至提供回饋貢獻。舉例來說，於 2009 年發表於 Nature 風靡一時的「Google 流感趨勢預測」(Google Flu Trend)，就在後續幾年間被證實沒有預測效力。當演算法採取間接資料做出推論，使用者對於原始資料與演算法屬性應該有足夠的認識，方不至以管窺天差之千里。

討論到 AI、社群媒體或科技將如何型塑我們的未來，余貞誼主張，任何科技發展的後續效應，主要是人群、情境與科技產物互動的綜合效果，不宜輕易落入「科技決定論」。余貞誼曾以關鍵字分析批踢踢的厭女與性別挑釁，認為由於社群媒體的匿名性以及極化特性，容易聚集極端意見，加上與現實間的界線消弱同情心、倫理規範模糊，因而容易聚集呈現激烈的偏見言論。相同的科技物質基礎不見得會出現同樣結果，仍要端看人與情境的最終互動。

近年來，經諸多有識者的關注，科技設計於性別議題的敏感度逐漸增加。Google 在 2020 年 2 月公開宣告， Google Cloud Vision API 取消照片辨識「男性」「女性」性別標籤，希望以此避免對 AI 灌輸性別偏見。⁸⁹而史丹佛大學歷史系的隆達·希賓格 (Londa Schiebinger) 設立的「性別化創新」網站，也提供科學家與工程師可運用的性別／分析實用方法。如未來設計機器人該如何避免強化性別刻板印象，並列出六種可同時顧及社交投射需求的做法，包括挑戰既有的刻板印象、客製化設計、設計無性別或性別流動的機器人等。¹⁰

「討論性別，其實就是討論權力，那是一種很具象的『看見權力』的方式。」余貞誼說明從事性別研究的起點，權力有時候很抽象，由性別的角度能協助將之具像化，因而察覺其分佈與影響。

科技需要克服的偏見絕不止於性別，而探討科技如何受人的權力與價值觀影響，性別議題可說是個最好的試金石，讓我們一窺各種決策之下人性、情境、科技的互動。人工智慧最終發展是載是覆，就端看人類的智慧是否足以駕馭這把雙面刃了。

參考資料

1. 亞馬遜發現招聘用人工智慧系統歧視女性，決定棄用
   亞馬遜AI徵才歧視女性挨轟- 國際
2. Buolamwini, J., & Gebru, T. (2018, January). Gender shades: Intersectional accuracy disparities in commercial gender classification. In Conference on fairness, accountability and transparency (pp. 77-91). PMLR.
3. Courtland, R. (2018). Bias detectives: the researchers striving to make algorithms fair, Nature. Accessed 23 July, 2018. Available: httpa.
4. 打擊猖獗性犯罪 印度加裝AI監視器偵測女性表情
5. 印度警方使用人臉辨識技術，在4 天內發現近3000 名失蹤兒童
6. Book: “Data Feminism”
7. 暗黑的AI性與愛學者警告：性愛機器人有害- 國際
   AI性愛機器人恐危害人類心理與道德專家籲管制[影] | 國際
8. Google 圖片辨識AI 工具將不再標記男女| TechNews 科技新報
9. 高雄醫學大學性別研究所：Al 與社會—數據女性主義
10. http://genderedinnovations.taiwan-gist.net/case-studies/genderingsocialrobots.html#tabs-2

• 作者｜Albert Einstein, Leopold Infeld
• 譯者｜王文生

雖然沒有任何實際參與流言散布的人真的在兩個城市間旅行，來自倫敦的小道消息，很快地傳到了愛丁堡。這個過程，涉及兩種截然不同的動作，一種和流言本身有關，從倫敦到愛丁堡；另一種，則要歸咎散播流言的人。一陣風吹過麥田，帶起一道穿過整片田地的麥浪。這一次，我們還是要分清楚波的運動，以及個別植物的運動之間的差異。植物只是稍稍晃動而已。我們曾經看過，把石頭丟進池塘中，水波的圓越來越大，藉此傳播出去。

波的運動方式，和水粒子的運動方式相當不同。水粒子只是上下運動。我們觀察到波的運動，是物質的狀態變化，物質本身並不是波。

從水面上的一顆軟木塞就能清楚地見到這個現象。軟木塞上上下下的動作，和水實際上的運動類似，它的運動不是波造成的。

為了深入了解波的機制，我們再來考慮一項思想實驗。假設在一個足夠大的空間裡，均勻地被水、空氣，或其他種「介質」填滿。空間的中央處有一個球體。實驗開始時，沒有任何運動。突然，球體開始規律地「呼吸」，體積擴張，然後縮小，在此同時維持球狀的外表。介質會發生什麼變化？我們從球體開始擴張的瞬間開始分析。緊鄰球體的粒子被推開，導致周邊一層球殼狀的水，或是空氣的密度上升，高於正常值。經由類似的過程，球體縮小時，緊鄰球體介質的密度下降了（下圖）。組成介質的粒子只是微幅振動，但是，整體的運動卻是一個行進的波。基本上，我們現在正踏入全新的領域，第一次考慮物質以外的運動，也就是經由物質傳遞的能量產生的運動。

以脈衝球體為例，我們可以導入定義波的性質時相當重要的兩項普通物理觀念。首先是速度，描述波的傳遞。它和介質有關，例如，波在水和空氣的傳播速度不同。其次是波長 (Wave Length)。在海上或河流傳遞的波，它的波長是從一個波到另一個波距離，或是一個波峰到另一個波峰的距離。因此，海上的波相較於河裡的波具有較大的波長。至於脈衝球體產生的波，波長是在某個固定時間點，兩個密度最大或最小的相鄰球殼之間的距離。很明顯，這個距離不會只和介質有關，脈衝球體縮放的速度顯然對波長有不小的影響。縮放的速度越快，波長越小；縮放速度越快，波長越大。

波的觀念在物理學取得巨大的成功。

波是力學的觀念，這點無庸置疑。波的現象被簡化為粒子的運動，而且根據動力學理論，粒子由物質組成。因此，所有用到波的觀念的理論，一般來說都能視為力學理論。比方說，聲學現象的解釋，基本上建立在波的觀念。物體的振動，像是聲帶和琴弦，是聲波的來源。聲波在空氣中的傳遞模式，和脈衝球體波相同。如此一來，將所有聲學現象透過波的觀念簡化為力學是可能的。

前面已經強調過，我們得清楚地分辨粒子的運動和波的運動，後者是介質的一種狀態。兩種運動差異不小，但是，在脈衝球體的例子，兩種運動顯然發生在同一條直線上。介質粒子在一條短線段上振盪，隨著振盪運動，介質密度週期性地增加和減少。波傳遞的方向，與振盪發生的直線的方向，兩者相同。這種類型的波，稱為縱波 (Longitudinal wave)。但是，波只有這一種形態嗎？為了接下來的討論，我們必須認知到另一種類型的波存在的可能性，稱為橫波 (Transverse wave)。

我們調整一下先前的例子。現在依然有一個球體，但是它浸在一種膠狀介質裡，不是空氣，也不是水。此外，球體不再是縮放，而是朝一個方向旋轉一個小角度，再轉回來。旋轉的節奏是固定的，轉軸也不變。膠狀介質附著在球體周遭，被迫以相同的方式運動（下圖）。一部分的力作用在稍微遠一點的地方，造成該處產生相同的運動，如此一來，介質中就產生一個波。如果我們留意到介質的運動與波的運動之間的差異，會發現它們並不是發生在同一條直線上。波沿著球體的直徑方向傳播，而介質的運動則和這個方向垂直。以此方式，我們造出一個橫波。

在水的表面傳遞的波是橫波。漂浮的軟木塞上下浮動，水波則沿著水平面傳遞。另一方面，聲波則是我們最熟悉的橫波範例。

還有一點：脈衝的球體和震動的球體，在同質的均勻介質中製造的是球形波。這是因為在任意時間點，任何圍繞著球體的球殼上的任何一點，行為都是相同的。讓我們考慮位在波源遠處，以波源為球心的球殼上的一個小塊。我們考慮的小塊越小，距離波源越遠，它就越接近一個平面。若不做太嚴謹的考慮，可以說半徑夠大的球殼上的一小部分，和平面其實沒有什麼差距。我們常常把遠離波源的球形波上的一小部分，稱為平面波。如果把下圖著色的區域再向遠離球心的方向移動，兩條半徑中間的夾角就會越來越小，更接近平面波。平面波的觀念和某些物理觀念很類似，它們是虛構的，無法以完美的精確度製造出來。然而，平面波依然是相當有用的物理觀念，不一會就能派上用場。