3

31
3

文字

分享

3
31
3

是誰教機器人性別歧視?人工智慧複製人類偏見——高醫大性別所余貞誼專訪

科技大觀園_96
・2021/03/03 ・4566字 ・閱讀時間約 9 分鐘 ・SR值 605 ・十年級

科技始終來自於人性,人工智慧更是如此。此時此刻,人類社會中仍隱藏許多不平等與歧視,人工智慧與這些議題將如何互動?透過社群媒體可以如何解讀性別議題?任教於高雄醫學大學性別研究所的余貞誼助理教授,研究專長包括性別社會學、資訊科技與社會。她關注的重點之一,便是科技應用對社會溝通的影響

2018 年,亞馬遜宣布停止使用 AI (artificial intelligence) 篩選求職履歷,因為從招聘結果看來,這個 AI 居然嚴重的偏好男性

一個好好的 AI,哪裡學來性別歧視的壞毛病?從人身上阿。(設計對白)圖/Pixabay

2006 年機器學習演算法 (machine-learning algorithm) 突破瓶頸,讓人工智慧在某些情況,足以模擬人類的判斷,提供資訊解讀加速作業流程,如影像診斷、關鍵字判讀、資訊推薦、外文翻譯等。此外亦常見以演算法處理排序、挑選內容、過濾資訊等工作,經手人們的決策與信息流通。但快速便捷的同時,多數人不假思索信賴的演算法,也可能會反映強化已經存在的價值偏差,甚至夾帶嚴重的歧視偏見

如同開頭的案例,2018 年亞馬遜的 AI 演算法以過去十年間招聘資料進行訓練,最終演算法「忠實」呈現了招聘男女不平均,由於難以確保該演算法對於性別的公平性,亞馬遜只得棄用。1也有資料學家指出,許多商用的臉孔辨識系統擅長辨識白人男性,換個性別膚色就會失靈。2這些偏差的起因,都與訓練資料的取樣偏誤有關。如何在導入應用之前,發覺演算法失靈以避免可能的不公,將是未來科技社會發展的重要課題。3

用上人工智慧之前:用在哪?該怎麼用?

而除了前述源自訓練資料造成的不公,如人工智慧這類科技工具該用在何處,該如何設計才能稱得上妥適,也存在探討的空間。

-----廣告,請繼續往下閱讀-----
余貞誼認為,人臉辨識科技應用的解讀魔鬼藏在細節裡,需要深刻探究背後的執行與設計邏輯。圖/曹盛威攝

最新的一個爭議案例,發生在印度北方邦的首府勒克瑙 (Lucknow)。當地政府規劃於今 (2021) 年在已知的 200 個性騷擾熱點設立監視錄影器,佈署 AI 人臉辨識進行監看,偵測女性出現困擾表情,即傳送警報予警察局。4

「第一個顧慮的點,是要如何辨認什麼是被性騷擾後不適或是驚恐的表情?」

余貞誼認為,這類科技應用的解讀魔鬼藏在細節裡,需要深刻探究背後的執行與設計邏輯。

印度率先於各國考慮採用 AI 於性騷擾事件,背景脈絡與其 AI 人才的發展息息相關。成功前例便有 2018 年 4 月印度警方使用臉部辨識軟體,根據婦女和兒童發展部 (The Ministry of Women and Child Development) 與失蹤兒童追蹤網站 (Track Child) 提供的照片,在四天之內追蹤到將近 3000 名失蹤兒童的紀錄。5爾後也傳出意圖打造全球最大的臉部辨識系統於刑事系統中,因此有此應用構想確實有跡可循。

但是此次應用人臉辨識系統於警方的監視錄影機,很多執行細節並未審慎考量。非政府組織網路自由基金會 (Internet Freedom Foundation) 就指出,監看臉部表情並不妥當,除了極可能失誤判斷,也形同監視路過女性的一舉一動。

-----廣告,請繼續往下閱讀-----

余貞誼分析,透過官方演算法篩選「受威脅」的女性表情,等同認定這類的事件存在固定的「被害者」形象,除了疏於保護「不夠典型」的受害者,也可能變相為另一種受害人責怪的材料,強化助長「理想受害者」的形象

「用這樣子的方法,會帶來的爭議比解決的問題還要多。」余貞誼指出,公權力錯誤的使用,視同將此演算法所得的結果視為「證據」,有可能導致惡性循環迴圈 (pernicious feedback loop),從出發點即隱含了歧視觀點,並持續強化歧視觀念。政府單位使用演算法需要審慎評估其後果。

官方演算法篩選「受威脅」的女性表情,除了疏於保護「不夠典型」的受害者,也可能強化「理想受害者」的刻板印象。圖/Pexels

印度本次的爭議中,選擇攝影機「看向誰」本身,就已經體現了權力立場,無論是偵測哪個性別,如此的設計都存在著嚴重瑕疵。而更多的問題還包括:這類公權力涉入的演算法,被觀看、紀錄、分析的人本身,其隱私資料是否有受到足夠的哪些保護?有哪些人可以接觸到資料?收集的資料是否有足夠的保護設計?這些都是未來任何牽涉廣泛的科技方案,無論是設計者或是使用者,都必須要審慎考慮的問題。

看見科技中的性別議題:誰的設計,誰能得利?

數位科技產品推出,設計者往往難以意識自身經驗的偏差,而使用者也有可能後知後覺。該如何察覺數位產品中可能存在的偏差?余貞誼介紹了《數據女性主義》(Data feminism,暫譯)6 裡提出的七個原則,由提問來檢視科技產品中的權力:是誰(或不是誰)從事相關技術工作?哪些族群的目標具有優先性?誰會從中獲利?又會有誰因此受忽略或傷害?

-----廣告,請繼續往下閱讀-----

「要先問出『誰』,這個關鍵問題。」余貞誼認為,由此可一窺各種特權,包括了性別議題,如何融入數據產品。

舉例來說,性愛機器人 (Sex Robot) 的爭議,很明顯可以反映出優先以男性視角為中心的產品設計。最早推出的性愛機器人如美國公司 Realbotix 的 Harmony ,其設計服務的對象明顯是異性戀白人男性,除了存在固化的性別腳本,也有科學家指出可能會帶來心理與道德上的隱憂。7

光是決定優先推出的產品、是怎樣的樣貌,就反映了某種權力分配的議題。

設計者優先考慮自己的視角無可避免,但如此一來,蓬勃發展的 AI 產業就更值得密切關注。2018 年,世界經濟論壇 (World Economic Forum, WEF) 全球性別差距報告,指出全球的 AI 從業人員有 78% 為男性組成,性別差距懸殊。AI 快速蔓延各領域應用的此時此刻,如果未能在密切檢視主要由男性視角出發的 AI 應用,將可能擴大既存的性別差距。

-----廣告,請繼續往下閱讀-----

那麼,研發 AI 的時候,該如何避免複製社會上常見的不平等呢?

2018 年二十國集團女性會議 (Women 20, W20) 上,全球資訊網基金會 (World Wide Web Foundation) 提出了運作 AI 的兩個注意事項,以避免帶有性別意識或其他偏見。

首先是應注意訓練資料的平等程度,除了資料的數量,更應該注重質量,尤其檢視樣本中是否存在特定「數據匱乏」(data desert) 的情況,使 AI 缺乏資料無法解讀特定族群。不只性別資料數量應當平均,還包括應納入邊緣與少數族群的資訊。

運作 AI 應注意訓練資料的平等程度,除了資料的數量,更應該注重質量。圖/Pexels

其次,應該找出系統性的偏誤,利用開放資料與邏輯運算進行修正。透過擴大資訊的透明度、訂定相關守則並且開放其它意見的溝通與監督,才有機會避免系統性的偏誤。如前述亞馬遜的履歷 AI 所根據的資料即具備此類系統性的問題,W20 並認為可透過政府單位規範提升 AI 服務的資訊透明度,訂立準則進行監督來修正相關問題。

最後余貞誼補充,由於資料科學家常缺乏對於現場脈絡的理解,《數據女性主義》以及 Google Brain 的數據科學家莎拉‧虎克 (Sara Hooker) ,均提出研發 AI 等數據計畫,應當重視「接地氣」的知識,納入多元參與才有機會打造出更有效、更有創意的方案。

-----廣告,請繼續往下閱讀-----

以性別議題做為試金石,避免人工智慧放大歧視的未來

除了 AI 的從業人員應當銘記在心,自身立場可能帶來的偏差,AI 使用者對於資料來源、資訊與現實間的差距,也應當有一定的體認,甚至提供回饋貢獻。舉例來說,於 2009 年發表於 Nature 風靡一時的「Google 流感趨勢預測」(Google Flu Trend),就在後續幾年間被證實沒有預測效力。當演算法採取間接資料做出推論,使用者對於原始資料與演算法屬性應該有足夠的認識,方不至以管窺天差之千里。

討論到 AI、社群媒體或科技將如何型塑我們的未來,余貞誼主張,任何科技發展的後續效應,主要是人群、情境與科技產物互動的綜合效果,不宜輕易落入「科技決定論」。余貞誼曾以關鍵字分析批踢踢的厭女與性別挑釁,認為由於社群媒體的匿名性以及極化特性,容易聚集極端意見,加上與現實間的界線消弱同情心、倫理規範模糊,因而容易聚集呈現激烈的偏見言論。相同的科技物質基礎不見得會出現同樣結果,仍要端看人與情境的最終互動。

近年來,經諸多有識者的關注,科技設計於性別議題的敏感度逐漸增加。Google 在 2020 年 2 月公開宣告, Google Cloud Vision API 取消照片辨識「男性」「女性」性別標籤,希望以此避免對 AI 灌輸性別偏見。8,9而史丹佛大學歷史系的隆達·希賓格 (Londa Schiebinger) 設立的「性別化創新」網站,也提供科學家與工程師可運用的性別/分析實用方法。如未來設計機器人該如何避免強化性別刻板印象,並列出六種可同時顧及社交投射需求的做法,包括挑戰既有的刻板印象、客製化設計、設計無性別或性別流動的機器人等。10

未來設計機器人應該避免強化性別刻板印象。圖/Pexels

「討論性別,其實就是討論權力,那是一種很具象的『看見權力』的方式。」余貞誼說明從事性別研究的起點,權力有時候很抽象,由性別的角度能協助將之具像化,因而察覺其分佈與影響。

-----廣告,請繼續往下閱讀-----

科技需要克服的偏見絕不止於性別,而探討科技如何受人的權力與價值觀影響,性別議題可說是個最好的試金石,讓我們一窺各種決策之下人性、情境、科技的互動。人工智慧最終發展是載是覆,就端看人類的智慧是否足以駕馭這把雙面刃了。

參考資料

  1. 亞馬遜發現招聘用人工智慧系統歧視女性,決定棄用
    亞馬遜AI徵才歧視女性挨轟- 國際
  2. Buolamwini, J., & Gebru, T. (2018, January). Gender shades: Intersectional accuracy disparities in commercial gender classification. In Conference on fairness, accountability and transparency (pp. 77-91). PMLR.
  3. Courtland, R. (2018). Bias detectives: the researchers striving to make algorithms fair, Nature. Accessed 23 July, 2018. Available: httpa.
  4. 打擊猖獗性犯罪 印度加裝AI監視器偵測女性表情
  5. 印度警方使用人臉辨識技術,在4 天內發現近3000 名失蹤兒童
  6. Book: “Data Feminism”
  7. 暗黑的AI性與愛學者警告:性愛機器人有害- 國際
    AI性愛機器人恐危害人類心理與道德專家籲管制[影] | 國際
  8. Google 圖片辨識AI 工具將不再標記男女| TechNews 科技新報
  9. 高雄醫學大學性別研究所:Al 與社會—數據女性主義
  10. 性別化創新
文章難易度
所有討論 3
科技大觀園_96
82 篇文章 ・ 1124 位粉絲
為妥善保存多年來此類科普活動產出的成果,並使一般大眾能透過網際網路分享科普資源,科技部於2007年完成「科技大觀園」科普網站的建置,並於2008年1月正式上線營運。 「科技大觀園」網站為一數位整合平台,累積了大量的科普影音、科技新知、科普文章、科普演講及各類科普活動訊息,期使科學能扎根於每個人的生活與文化中。

0

4
4

文字

分享

0
4
4
除了蚯蚓、地震魚和民間達人,那些常見的臺灣地震預測謠言
鳥苷三磷酸 (PanSci Promo)_96
・2024/02/29 ・2747字 ・閱讀時間約 5 分鐘

-----廣告,請繼續往下閱讀-----

本文由 交通部中央氣象署 委託,泛科學企劃執行。

  • 文/陳儀珈

災害性大地震在臺灣留下無數淚水和難以抹滅的傷痕,921 大地震甚至直接奪走了 2,400 人的生命。既有這等末日級的災難記憶,又位處於板塊交界處的地震帶,「大地震!」三個字,總是能挑動臺灣人最脆弱又敏感的神經。

因此,當我們發現臺灣被各式各樣的地震傳說壟罩,像是地震魚、地震雲、蚯蚓警兆、下雨地震說,甚至民間地震預測達人,似乎也是合情合理的現象?

今日,我們就要來破解這些常見的地震預測謠言。

-----廣告,請繼續往下閱讀-----

漁民捕獲罕見的深海皇帶魚,恐有大地震?

說到在坊間訛傳的地震謠言,許多人第一個想到的,可能是盛行於日本、臺灣的「地震魚」傳說。

在亞熱帶海域中,漁民將「皇帶魚」暱稱為地震魚,由於皇帶魚身型較為扁平,生活於深海中,魚形特殊且捕獲量稀少,因此流傳著,是因為海底的地形改變,才驚擾了棲息在深海的皇帶魚,並因此游上淺水讓人們得以看見。

皇帶魚。圖/wikimedia

因此,民間盛傳,若漁民捕撈到這種極為稀罕的深海魚類,就是大型地震即將發生的警兆。

然而,日本科學家認真蒐集了目擊深海魚類的相關新聞和學術報告,他們想知道,這種看似異常的動物行為,究竟有沒有機會拿來當作災前的預警,抑或只是無稽之談?

-----廣告,請繼續往下閱讀-----

可惜的是,科學家認為,地震魚與地震並沒有明顯的關聯。當日本媒體報導捕撈深海魚的 10 天內,均沒有發生規模大於 6 的地震,規模 7 的地震前後,甚至完全沒有深海魚出現的紀錄!

所以,在科學家眼中,地震魚僅僅是一種流傳於民間的「迷信」(superstition)。

透過動物來推斷地震消息的風俗並不新穎,美國地質調查局(USGS)指出,早在西元前 373 年的古希臘,就有透過動物異常行為來猜測地震的紀錄!

人們普遍認為,比起遲鈍的人類,敏感的動物可以偵測到更多來自大自然的訊號,因此在大地震來臨前,會「舉家遷徙」逃離原本的棲息地。

-----廣告,請繼續往下閱讀-----

當臺灣 1999 年發生集集大地震前後,由於部分地區出現了大量蚯蚓,因此,臺灣也盛傳著「蚯蚓」是地震警訊的說法。

20101023 聯合報 B2 版 南投竹山竄出蚯蚓群爬滿路上。

新聞年年報的「蚯蚓」上街,真的是地震警訊嗎?

​當街道上出現一大群蚯蚓時,密密麻麻的畫面,不只讓人嚇一跳,也往往讓人感到困惑:為何牠們接連地湧向地表?難道,這真的是動物們在向我們預警天災嗎?動物們看似不尋常的行為,總是能引發人們的好奇與不安情緒。

如此怵目驚心的畫面,也經常成為新聞界的熱門素材,每年幾乎都會看到類似的標題:「蚯蚓大軍又出沒 網友憂:要地震了嗎」,甚至直接將蚯蚓與剛發生的地震連結起來,發布成快訊「昨突竄大量蚯蚓!台東今早地牛翻身…最大震度4級」,讓人留下蚯蚓預言成功的錯覺。

然而,這些蚯蚓大軍,真的與即將來臨的天災有直接關聯嗎?

-----廣告,請繼續往下閱讀-----

蚯蚓與地震有關的傳聞,被學者認為起源於 1999 年的 921 大地震後,在此前,臺灣少有流傳地震與蚯蚓之間的相關報導。

雖然曾有日本學者研究模擬出,與地震相關的電流有機會刺激蚯蚓離開洞穴,但在現實環境中,有太多因素都會影響蚯蚓的行為了,而造成蚯蚓大軍浮現地表的原因,往往都是氣象因素,像是溫度、濕度、日照時間、氣壓等等,都可能促使蚯蚓爬出地表。

大家不妨觀察看看,白日蚯蚓大軍的新聞,比較常出現在天氣剛轉涼的秋季。

因此,下次若再看到蚯蚓大軍湧現地表的現象,請先別慌張呀!

-----廣告,請繼續往下閱讀-----

事實上,除了地震魚和蚯蚓外,鳥類、老鼠、黃鼠狼、蛇、蜈蚣、昆蟲、貓咪到我們最熟悉的小狗,都曾經被流傳為地震預測的動物專家。

但可惜的是,會影響動物行為的因素實在是太多了,科學家仍然沒有找到動物異常行為和地震之間的關聯或機制。

遍地開花的地震預測粉專和社團

這座每天發生超過 100 次地震的小島上,擁有破萬成員的地震討論臉書社團、隨處可見的地震預測粉專或 IG 帳號,似乎並不奇怪。

國內有許多「憂國憂民」的神通大師,這些號稱能夠預測地震的奇妙人士,有些人會用身體感應,有人熱愛分析雲層畫面,有的人甚至號稱自行建製科學儀器,購買到比氣象署更精密的機械,偵測到更準確的地震。

-----廣告,請繼續往下閱讀-----

然而,若認真想一想就會發現,臺灣地震頻率極高,約 2 天多就會發生 1 次規模 4.0 至 5.0 的地震, 2 星期多就可能出現一次規模 5.0 至 6.0 的地震,若是有心想要捏造地震預言,真的不難。 

在學界,一個真正的地震預測必須包含地震三要素:明確的時間、 地點和規模,預測結果也必須來自學界認可的觀測資料。然而這些坊間貼文的預測資訊不僅空泛,也並未交代統計數據或訊號來源。

作為閱聽者,看到如此毫無科學根據的預測言論,請先冷靜下來,不要留言也不要分享,不妨先上網搜尋相關資料和事實查核。切勿輕信,更不要隨意散播,以免造成社會大眾的不安。

此外,大家也千萬不要隨意發表地震預測、觀測的資訊,若號稱有科學根據或使用相關資料,不僅違反氣象法,也有違反社會秩序之相關法令之虞唷!

-----廣告,請繼續往下閱讀-----

​地震預測行不行?還差得遠呢!

由於地底的環境太過複雜未知,即使科學家們已經致力於研究地震前兆和地震之間的關聯,目前地球科學界,仍然無法發展出成熟的地震預測技術。

與其奢望能提前 3 天知道地震的預告,不如日常就做好各種地震災害的防範,購買符合防震規範的家宅、固定好家具,做好防震防災演練。在國家級警報響起來時,熟練地執行避震保命三步驟「趴下、掩護、穩住」,才是身為臺灣人最關鍵的保命之策。

延伸閱讀

文章難易度

討論功能關閉中。

鳥苷三磷酸 (PanSci Promo)_96
196 篇文章 ・ 302 位粉絲
充滿能量的泛科學品牌合作帳號!相關行銷合作請洽:contact@pansci.asia

0

0
1

文字

分享

0
0
1
Canva 不只可以做圖,還可以做影片啦!更強大的 Magic Studio 幫你從修圖到剪片全搞定!
泛科學院_96
・2024/04/04 ・555字 ・閱讀時間約 1 分鐘

別再用非常好色跟 Word 的文字藝術師了!

去年初 Canva 推出了 Magic Design 魔術設計師,可以讓你一鍵圖片上傳、自動完成行銷圖片與海報。現在魔術系列正式成為了一個完整的「魔術工作室 Magic Studio」。

Magic Studio 已經成為我快速製作影片的首選,對,你沒有聽錯,用 Canva 做圖已經過時了,現在是 Canva 做影片的時代啦!

今天就用這支影片,快速帶你學會 Canva 的新 AI 功能吧~

-----廣告,請繼續往下閱讀-----

Canva 除了以上的 AI 功能之外,其實還支援更多更多相關的應用。你可以在應用程式選單裡面看到採用 AI 技術的分類裡面有上百種整合第三方的 AI 工具套件,比如知名的人臉 AI 圖片生成說話影片平台 D-ID 或 HeyGen,或者各種圖片編輯套件如 Catoonify 把圖片變成插畫、Colorize 把老照片重新上色等等,應有盡有。如果你有測試到什麼喜歡的套件,歡迎在影片下方留言,或者加入泛科學院的官方 Discord 社群與大家交流分享,我們不見不散。

更多、更完整的內容,歡迎上科學院的 youtube 頻道觀看完整影片,並開啟訂閱獲得更多有趣的資訊!

討論功能關閉中。

泛科學院_96
27 篇文章 ・ 37 位粉絲
我是泛科學院的AJ,有15年的軟體測試與電腦教育經驗,善於協助偏鄉NPO提升資訊能力,以Maker角度用發明解決身邊大小問題。與你分享人工智慧相關應用,每週更新兩集,讓我們帶你進入科技與創新的奇妙世界,為未來開啟無限可能!

0

1
2

文字

分享

0
1
2
查資料變簡單了?超神免費 AI 搜尋引擎——Perplexity 讓你事半功倍!
泛科學院_96
・2024/04/02 ・638字 ・閱讀時間約 1 分鐘

-----廣告,請繼續往下閱讀-----

都 AI 時代了,為什麼 Google 或者是 Bing 搜尋出來的結果,還要我們用工人智慧一個個點開連結之後進行理解查閱跟歸納整理呢?

別再浪費你的生命了,來體驗一下 Perplexity,這個針對搜尋優化過的 AI 工具,幫你把搜尋網路的結果直接整理彙整出來,快來試試看吧,用過之後,你一定會跟我一樣,轉頭跟 Google 還有微軟說:「加油好嗎!」

是說,基於對話的各種 AI 工具,快速發展的當下,很多功能都被做了出來,但有事做不代表有把事做好,希望各家的 AI 在比拼模型正確性,縮短回應速度之餘,產品端也可以好好加油,讓我們一般用戶都可以舒服快速的完成想要的工作,優化使用者體驗才是最重要的事,不然哪天被其他公司彎道超車也說不定喔……欸那個聽說今年蘋果 WWDC 開發者大會好像要大舉導入生成式 AI 技術……我們終於可以跟笨笨的 Siri 還有 Google Assistant 說拜拜了嗎……?

最後,真心建議那些不善長溝通的人,可以學學 perplexity copilot 的對話策略,聽完別人問題後,試著提出理解後的反問,就能讓人感覺到被受重視了!

-----廣告,請繼續往下閱讀-----

更多、更完整的內容,歡迎上科學院的 youtube 頻道觀看完整影片,並開啟訂閱獲得更多有趣的資訊!

討論功能關閉中。

泛科學院_96
27 篇文章 ・ 37 位粉絲
我是泛科學院的AJ,有15年的軟體測試與電腦教育經驗,善於協助偏鄉NPO提升資訊能力,以Maker角度用發明解決身邊大小問題。與你分享人工智慧相關應用,每週更新兩集,讓我們帶你進入科技與創新的奇妙世界,為未來開啟無限可能!