網站更新隱私權聲明
本網站使用 cookie 及其他相關技術分析以確保使用者獲得最佳體驗,通過我們的網站,您確認並同意本網站的隱私權政策更新,了解最新隱私權政策

0

0
0

文字

分享

0
0
0

讀我的嘴唇 Read my Lips

timd_huang
・2012/09/10 ・1810字 ・閱讀時間約 3 分鐘 ・SR值 474 ・五年級

在 1988 年美國總統大選,老布希(George Herbert Walker Bush)說出了這句名言:「Read my lips: no new taxes.」,贏得了美國總統寶座;這篇文章,雖然和我最痛恨的政治無關,可是老布希的這句話,至少前半段,卻是非常恰當,天生不材我,想不出更好的題目,只好借用人家老調,給自己臉上貼一點金,哈哈哈!

source:dinosaurusi

最近的世界最古老恐龍胚胎研究,我們順便探討了一下恐龍的牙齒,在和我們老大賴茲院士的諸多來來回回討論中,老大提到一件很有趣的事情,他說,有好多帶有肌肉恐龍復原圖所畫出來、暴露著青面獠牙恐怖恐龍頭,犯了一個很大又明顯的錯誤……我們團隊大夥人,怎麼從來不知道,也未曾好好想過,怎麼都沒看出來?總是覺得人家恐龍藝術家畫得很漂亮,讓我們很羨慕,也自嘆藝術天份不夠,雖然知道這些圖片中有很多部份是猜測的,如恐龍的皮膚顏色,但是他們很努力,也都盡量照著實際化石所提供的資料來推論,並非完全憑空想像,加上我們也都略懂一些恐龍, 如此重大的錯誤, 怎麼會有看沒有到呢?先來賣個關子,請看看右邊這張網路抓下來、典型帶肉暴龍頭的圖片。

仔細看看這張圖片,畫得栩栩如生吧!張著血盆大口的暴龍,從森林裡猛衝出頭來,張著滿大口獠牙準備吃人,好恐怖啊!難怪會被命名為暴(君恐)龍(Tyrannosaurus rex);如果你要挑剔背景的植物有現代的香蕉,說是此圖片中的錯,那你就挑錯了錯誤所在,顯花植物在白堊紀早中期就出現在地球上,所以理論上是有可能有這些顯花植物;因此,這麼美麗漂亮的畫片,到底錯在哪裡?有沒有看出來,明明就在眼前啊!

再仔細看看,也參考一下我們賴茲院士所講的那幾句話,或是閉上眼睛,想想這篇文章的標題,實際上我已經把答案告訴你了;啊哈!沒錯,這張圖片最大的錯誤,Read my lips! 就在暴龍的嘴唇上!圖片中暴龍嘴唇畫得太短小,沒有把牙齒覆蓋起來是錯誤的,而且這是個致命的錯誤;正確的畫法,恐龍的嘴唇必須完全覆蓋在諸牙齒外緣,不能讓牙齒長久暴露在空氣中,否則這頭恐龍會么壽,活不下來。

從動物口腔生理學的角度來說,動物要活下去,不僅僅是成語「唇齒相依」而已,還有一個非常重要的機制--口水,唇、齒、口水三者,相輔相成,缺一不可;也就是說,如果像這張圖所繪的,血盆大口獠牙沒有嘴唇保護,沒有口水不停地潤滑提供養份、而讓這些兩邊有鋸齒往口內彎的牙齒長久暴露在空氣中,沒有多久,恐龍牙齒最外層的琺瑯質就會乾掉碎裂,失去保護牙齒的作用,這些牙齒沒有多久就沒路用了,無牙暴龍能活得下去嗎?

我們團隊利用國家同步輻射的穿透式X光顯微鏡,拿雙脊龍的牙齒來做掃描,看到如右邊的影像;雙脊龍是早侏羅紀的肉食性暴君恐龍,牙齒雖然沒有晚白堊紀霸王暴龍那麼壯觀偉大,可是一些基本的特徵,如內彎牙齒兩邊都有鋸齒,還是相同的,畢竟「龍以食為天」,任何恐龍也逃脫不了「食色性也」,恐龍呷飯皇帝大,不吃東西,牠就活不下去,牙齒的結構出了問題,恐龍的呷飯就問題大大囉,保證就會死翹翹。

這張組合相片左下角的綠色尺標為 10µm(一張影印紙的 1/10 厚度),以此來衡量,雙脊龍的琺瑯質厚度,大約只有 13µm 而已,相對於好幾釐米 (mm) 厚的牙本質來說,根本如覆蓋的薄紗,可是,這層很薄的琺瑯質,卻得擔負一個性命交關的絕對重要任務,不能讓牙齒一口咬下去就報銷掉,因此,琺瑯質必須不停地取得口水的潤滑和養份供給,維持它的功能;而牙齒要能不停地取得口水滋潤和養份,就必須有嘴唇覆蓋在牙齒外面,不能讓這些利齒長期暴露在空氣中,如暴龍圖片所繪畫的那樣。

隨著我們更精進地研究探討令人如痴如狂著迷的世界最古老恐龍胚胎,我們學習到更多有趣的知識,如今也可利用這些新的認知,回頭看看坊間那些恐龍圖片,到底還有什麼重大的錯誤,可拿來當茶餘飯後的消遣,這也是枯燥科研中的開心果之一吧!

source:新華網

我們團隊研究世界最古老恐龍胚胎,領先世界,首先創立了「恐龍胚胎學 (Dinosaur Embryology)」,恐龍的孵育,當然是我們關切的子課題之一,探討恐龍如何孵蛋,絕對沒撈河撈過界;下面就出個考題給大家玩玩,請看看這張也是從網路上抓下來恐龍孵蛋圖片,你能看出什麼錯誤嗎?

本文原發表於作者部落格「催眠恐龍」[2012-0909]

文章難易度
timd_huang
24 篇文章 ・ 0 位粉絲
跟我玩恐龍去!


5

7
0

文字

分享

5
7
0

當 AI 的「深度學習」形成偏見,法規該如何遏止傷害?

科學月刊_96
・2022/01/03 ・3732字 ・閱讀時間約 7 分鐘
  • 文/廖英凱|非典型的不務正業者、興致使然地從事科普工作、科學教育與科技政策研究。對資訊與真相有詭異的渴望與執著,夢想能做出鋼鐵人或心理史學。

Take Home Message

  • AI 雖然能協助遏止違法或侵權的言論,但一般大眾卻無法得知其評斷的機制,已於無形中造成傷害。
  • AI 的資料庫誤差,將造成演算法對文化或族群產生偏見等;而深度學習的演算法因處理龐大的資料,常使研究者或運用 AI 的機構無法理解與回溯 AI 的決策原因。
  • 歐盟、美國、聯合國等組織已相繼研擬 AI 的規範與監管方式。
  • 臺灣仍須再制定 AI 相關的監管辦法,以因應科技的發展及變遷。

「你今天被祖了嗎?」

眾所皆知目前社群網路最大的平台臉書(Facebook),為遏阻違法或侵權的言論,會判定某些言論違反其「社群守則」而隱藏。不可否認,違法與侵權言論在社群網路上造成了嚴重的傷害,不過有時候這些隱文的原則,似乎與政治或特定議題有關。時不時也有朋友提到,一則再平凡不過的貼文或照片,卻莫名其妙地被宣告違反社群守則。於是乎在去(2021)年時,網友們開始把臉書創辦人祖克柏(Mark Zuckerber)的姓氏,變成了諷刺臉書封鎖文章標準混亂的話梗:你被「祖」了嗎?

想當然爾如臉書等社群媒體,是仰賴著演算法自動判斷一則貼文是否違規。除了針對文字與圖片的內容分析以外,其他例如被檢舉的數量、帳號的活躍程度、帳號的發文模式、商業價值等,都成為演算法評估一則貼文是否違規的依據,彷彿法官在定罪犯人時不只依據犯罪行為,也會權衡犯人及其社會狀態一樣。然而,我們看得到法官的決策過程與理由,但卻從來沒有機會搞清楚,到底演算法發生了什麼事情,才會宣告一則平凡的貼文違規。

雖然大家平常遇到這種貼文被刪的情況,通常也就是重新打篇文章貼個圖發發牢騷,就這麼過去了。但這個時不時可見的神祕隱文事件,其實就是我們生活中,人工智慧(artificial intelligence, AI)已經持續帶來隱性傷害的頻繁案例。

AI 的傷害跟以往想像的不一樣

自工業革命以降,人類其實蠻迅速地就提出對科技發展副作用的深層反思。例如人類史上第一部科幻作品,1818 年由英國作家雪萊(Mary Shelley)所著作的《科學怪人》(Frankenstein),即是以一個具有擬人思維的人造生命為主角的科幻驚悚作品。伴隨著機器的發展,1956 年達特矛斯會議(Dartmouth Summer Research Project on Artificial Intelligence)上,與會專家提出「artificial intelligence」一詞,認為機器的發展將可像人一般具有學習、理解、適應的能力。

隨著 AI 技術上的演進,人們對 AI 的樂觀與悲觀態度,也愈發分歧。對於 AI 發展所帶來社會的影響,依其態度可以分為:對科技抱持樂觀者,相信「強 AI」的問世可以使電腦與人有相同甚至超越人類的思考能力,並為人類解決大部分問題,帶來更理想的明天,在電影動畫等作品中不乏這類理想的人工智慧角色;重視科技實用者,傾向認為 AI 是以輔助人類的角色,解放人類的勞力工作而能開創更多科技應用的可能;重視科技發展脈絡者,則認為 AI 只是科技發展中的一個流行詞(buzzword),只有尚在發展中,尚未充分掌握的技術才會被視為 AI。與科技領域相對,在人文社會領域中則較常出現對 AI 發展的反思,例如研究 AI 對人類勞力取代後所創造的弱勢衝擊;或更甚者認為強 AI 的不受控發展,將會導致人類文明的毀滅。這些不同立場的觀點,均揭示了人類看待 AI 對社會影響的多元與矛盾預測。

儘管當代影視作品和學術研究,都對 AI 會造成什麼樣的傷害有興趣,但 AI 帶來的傷害早已出現多年而默默影響著人類社會。2018 年在《自然》(Nature)期刊上的一則評論,介紹了一張身披白紗的歐美傳統新娘和印度傳統新娘的組圖,而演算法在看待兩張新娘照片時,會將前者判斷為「新娘」、「洋裝」、「女人」、「婚禮」等,但將後者判斷為「表演」和「戲服」。在這個案例中,AI 或演算法設計本身其實並沒有獨鍾哪一種文化,但因為演算法的訓練來自於既有圖庫,而圖庫中的圖片來源和圖片的詮釋註記,與真實世界的樣貌出現落差,使人工智慧就如真人一般,憑藉著片面不完整的學習資料,產生了對族群與文化的偏見(偏誤),而演算法可能更無法自覺與反思自我產生的偏見(圖一)。

(圖一)由於 AI 只憑藉片面且不完整的資料進行學習,以婚紗為例,AI 只能辨識出傳統歐美的婚紗裝扮(左),卻難以辨識出不同文化的婚紗樣貌,例如印度傳統服飾(右)。(123RF)

除了資料庫的誤差而導致演算法對文化或族群的偏見以外,「深度學習」(deep learning)的演算法因處理龐大的訓練資料、分析資料,也常使研究者或使用 AI 服務的機構,無法理解與回溯 AI 決策的具體原因。例如亞馬遜公司(Amazon.com, Inc.)仰賴演算法全自動判斷大量受僱員工的工作狀態,並以此決定他們的績效與裁員與否。儘管這種做法能大幅縮減決策時間,並減少人資成本,但也因此發生數起亞馬遜員工因系統過失而被降低績效,或是員工績效良好卻被無故裁員,更申訴無門的矛盾事件。這與將 AI 應用於人資的初衷似乎有點相悖,演算法或許可以避免人為決策時,因涉及個人喜惡偏好而作出不公允的判斷,但卻也造成了另一種不公允也無從理解緣由的傷害。

誰來規範 AI?

既然 AI 的傷害已然出現,自然也應有對 AI 的監管與規範機制。例如歐盟執委會(European Commission)在 2019 年 4 月公布「值得信賴的人工智慧倫理指引」(Ethics Guidelines For Trustworthy AI),強調人工智慧應為輔助角色,尊重人類自主、避免傷害、維護公平、具有可解釋性,且能受到監管並回溯決策過程,以避免演算法的黑箱決策,作為歐盟成員國在訂定 AI 相關規範的上位依據。2019 年 5 月,經濟合作暨發展組織(Organisation for Economic Cooperation and Development, OECD),提出 AI 發展的原則應有永續精神以造福人類與地球,能尊重民主與法治、人權與多元性,兼顧透明度、課責機制等原則。美國白宮科技辦公室在 2020 年 1 月發布的「人工智慧應用的管制指引」(Guidance for Regulation of Artificial Intelligence Application),也強調衡量風險避免傷害、公平無歧視、透明度、重視科學實證、立法過程應兼顧公共參與等,作為美國政府各機關在訂定與人工智慧相關規範的指導原則。聯合國教科文組織(United Nations Educational Scientific and Cultural Organization, UNESCO)則在去年 11 月,發布《人工智慧倫理建議書》草案(Draft text of the recommendation on the ethics of artificial intelligence),作為會員國訂定 AI 相關法律與政策時,可依循的通用價值觀、原則和行動框架。

國際上重要的原則指引,也同等地體現在民意對 AI 治理的期待,臺灣師範大學教授李思賢、劉湘瑤、張瓅勻等人針對臺灣 1200 位民眾的調查發現,臺灣民眾對 AI 的應用最在意的是避免傷害,其次則是透明度與公平性,相對最不在意的是隱私。調查亦發現民眾明確偏好以公民審議和立法機關來制定嚴格傾向的規範,這反映了民眾對新興科技的擔憂與對透明治理的期待,也呼應了國際組織的指引方向(圖二)。

(圖二)AI 規範制定權則偏好。李思賢教授等人,調查國人對 AI 規範制定的偏好。發現國人無論對 AI 發展持保守態度或開放態度,均傾向以公民審議和立法機構來制定規範。

然而,國際上的重要指引與民調結果,卻也讓我國在相關規範的設計上略顯矛盾。例如調查研究顯示,雖然民眾最期待以「公民審議」和「立法機構」來訂定 AI 相關規範,但現今國內外相關規範的研擬與討論,仍是以由產官學組成的研究與應用社群為主,例如科技部自 2017 年起,開展多場 AI 倫理議題的研究計畫與論壇工作坊等,並於 2019 年 9 月提出《人工智慧科研發展指引》,明訂 AI 科研的核心價值與指引,使科研人員在學術自由與創新發展的同時,也能兼顧 AI 發展的方向。

但科技部並非產業的主責機關,所訂定的指引僅能提供科研人員更好的方向,對已產生傷害的業界應用仍然鞭長莫及。儘管 2018 年 11 月立法院曾通過初具 AI 倫理精神的《無人載具創新實驗條例》;2019 年 5 月,時任立法委員許毓仁等人也提出《人工智慧發展基本法》修法草案,作為政府兼顧人工智慧產業發展和倫理規範的法律基礎,但該草案的相關修法討論並未被積極延續,作為國家更上位看待 AI 發展的治理框架,於立法體制和公民審議機制中均尚未開展高強度的討論。

AI 對今日生活的便利已無遠弗屆,而 AI 所帶來的傷害,雖微小、難以察覺,但也已經出現,對應的倫理指引與規範在國際也蔚成趨勢,但臺灣仍在牛步,或許國家在看待 AI 發展時,必須開始將這些規範視為迫切的基礎建設。

如同歷史上所有科技進展一般,科技帶來的進步與災變往往是隱性與持續的,直到人們已慣於新興科技的進步,發現科技的受害者已經出現,才驚覺世界已經完全改觀。

延伸閱讀

  1. James Zou and Londa Schiebinger, AI can be sexist and racist — it’s time to make it fair, Nature, Vol.559, 324-326, 2018.
  2. 人工智慧之相關法規國際發展趨勢與因應,https://www.ndc.gov.tw/nc_1871_31998
  3. 《人工智慧發展基本法》草案,https://pse.is/3w9rrf
  • 〈本文選自《科學月刊》2022 年 1 月號〉
  • 科學月刊/在一個資訊不值錢的時代中,試圖緊握那知識餘溫外,也不忘科學事實和自由價值至上的科普雜誌。

所有討論 5
科學月刊_96
141 篇文章 ・ 21 位粉絲
非營利性質的《科學月刊》創刊於1970年,自創刊以來始終致力於科學普及工作;我們相信,提供一份正確而完整的科學知識,就是回饋給讀者最好的品質保證。