0

1
1

文字

分享

0
1
1

程式碼就是法律:智慧財產權法 或 機器人三大法則?

洪朝貴
・2013/03/25 ・8015字 ・閱讀時間約 16 分鐘 ・SR值 536 ・七年級

[這是一篇發表於 臺灣STS學會 2013 年年會 的學術論文。 自覺夠有趣, 所以稍稍加油添醋之後, 貼在泛科學及部落格上。 有點長。 算是 2010 年英文文章〈DRM and Other Forces Overriding the Three Laws of Robotics〉的更新版。 [English / française / español ] 也請見 簡報版; 請以方向鍵、 t、 f 等鍵播放; 完整操作方式請見 「貴哥的 sozi 簡報/心智圖」]

摘要

當主人的指令與保護智財的原則互相衝突時, 機器人會怎麼做呢?
當主人的指令與保護智財的原則互相衝突時, 機器人會怎麼做呢?

艾西摩夫在他的基地系列與機器人系列小說當中, 不斷地探討機器人面對三大法則時所做的 「心理掙扎」。 保護人類、 服從命令、 保護自己, 是小說中所有正電子頭腦所必須遵守的 「法律」。 在那個想像的未來世界當中, 就是因為在這樣的保證與前提之下, 人類才敢接受機器人控制他的家電、 照顧他的小孩、 接管他的太空船與維生設備。 艾西摩夫唯一沒料到的是後來的發展: 真實世界的機器人, 最後並不是由正電子腦, 而是由程式碼在操控。

關心資訊科技議題的法學教授 Lessig 說: 「程式碼就是法律。」 程式碼所製定的法律, 不僅比警察執行得更徹底, 也比政府更令一般人不敢質疑: 哪些網站算是不良網站? 哪些內容應該被封鎖? 你的哪些個人資料必須被定期自動上傳到雲端? 程式碼說了算; 不同公司的程式碼在用戶身上強加了不同的法律, 但都一樣令用戶全然無力抗拒。 不僅如此, 當你想知道這些法律的詳細規定時… 抱歉, 為保護程式碼智慧財產, 恕難奉告。

於是, 我們已經被 「保護智慧財產權」 的程式碼 (也就是法律) 所包圍。 於是我們看見 『Windows 7 盜版警察』 演進到 『Windows 8 開機鑰匙不在你家』; 我們看見 ISP 的 「盜版自動六振出局」 機制以及 Youtube 的 ContentID 機制。 這些程式碼都是為了保護著作權而施加在消費者身上的法律。

-----廣告,請繼續往下閱讀-----

悄悄地, 智財保護法令被寫入逐漸正在成形的機器人的各個器官當中 — 當機器人不具機器人外型, 只有發聲或是心律調整單一功能的時候, 人類就忘記他正在跟機器人的器官的雛型打交道。 如果有一天你突然發現你口袋裡這個聲音甜美、 對天文地理以及你的隱私無所不知的秘書, 其實已經演化成一個替你打點所有生活瑣事的機器人, 但她所恪遵的法律卻不是三大法則而是智慧財產權, 或是雲端那頭的程式設計師的長官所決定的任何 「法律」 的時候, 那會發生什麼事? Siri, 你可以告訴我答案嗎?

一、 機器人三大法則

電影 〈機械公敵〉 (I, Robot)、〈變人〉(Bicentennial Man) 的原著小說作者, 也是廿世紀科幻小說泰斗艾西摩夫 (Issac Asimov) 在他的機器人系列科幻小說當中, 探討人類與機器人共存的世界。 如果機器人的智能與體力將遠遠超越它的創造者, 那麼它的創造者怎敢將自己的身家性命一切交到機器人的手中? 在艾西摩夫的小說裡, 所有的機器人都必須遵守三大法則 (Three Laws of Robotics) [1]:

  1. 機器人不得傷害人類,或袖手旁觀坐視人類受到傷害;
  2. 在不違背第一法則的前提下,機器人必須服從人類的命令;
  3. 在不違背第一及第二法則的前提下,機器人必須保護自己。

在小說裡, 這三個法則內建於機器人的正電子腦當中, 當機器人的其他任務與這三條法則衝突, 或是機器人面臨其中兩條法則互相衝突的情境時, 它必須依序選擇不傷害人類、 服從命令、 保護自己的行動, 要不然它的正電子腦就會燒壞 (例如一個人命令它說謊而遭致另一個人受傷害時)。

艾西摩夫的小說並不只是炫耀科幻場景。 這三大法則之於一個大量使用機器人的社會, 就像保險絲之於電路、 安全座椅之於雲霄飛車一樣, 是一個必備的保護措施。 它保護的是整個社會的安全 — 避免電影〈鼠膽妙算〉裡面的家電大軍或是駭客任務裡面的機器叛變之類的場景。 但它顧慮的問題卻不像後二者那麼具體, 所以雲霄飛車座椅的安全設施如果出了問題, 一般人會立即有反應; 但在一個大量使用機器人卻欠缺這三大法則的社會裡, 一般人卻不太會注意到問題的嚴重性。

-----廣告,請繼續往下閱讀-----

時至今日, 艾西摩夫的遠見還是令人驚嘆。 他沒有料想到的一個重要小細節是: 後來機器人的大腦, 並不是在機器人研究室裡面開發出來的 — 如果是那樣的話, 也許會有更多人記得他的提醒, 試著把三大法則燒進機器人的正電子腦裡面去。 在真實的世界裡, 機器人的大腦, 出自程式設計師的鍵盤; 而多數的程式設計師在設計程式碼 (coding) 時, 甚至可能不知道有一天他的作品會進入機器人的大腦當中, 更不會去思考三大法則。

二、 程式碼就是法律

關心資訊科技議題的法學教授 Lessig 說: 「程式碼就是法律。」 (”Code is law.”) [2] 程式碼所製定的法律, 不僅比檢警司法系統執行得更徹底、 更沒有轉寰空間, 也比政府更令一般人不敢質疑: 誰規定表格填錯一欄就一定要整頁重填? 誰規定公務員必須使用微軟的 IE 瀏覽器處理公文? 誰規定民眾想用自然人憑證跟政府打交道就一定得用微軟的 ActiveX? 因為這些法令是程式碼而不是立法院或行政院所制定的, 所以絕少人質疑。 當你懷疑自己是程式誤判的受害者, 甚至就算很多專家已經明白指出這是技術上不符合國際規範、 法律上具有圖利廠商嫌疑的小動作, 也經常沒有申訴的管道, 或是申訴之後還是沒有下文。

更進一步, 很多時候你甚至不知道這些 「程式碼所規定的法律」 的明確管制範圍。 中國政府封鎖特定關鍵詞及網站, 這是眾所周知的事; 但是到底有哪些詞彙是禁忌呢? Google 從 2012 年中開始, 協助用戶檢查搜尋關鍵詞, 如果發現可能列在敏感封鎖詞彙當中, 至少可以提醒用戶 google 對某些搜尋查詢愛莫能助。 [3] 後來 google 默默取消這項功能, 據推測可能是因為中國政府改變防火長城的程式碼, 讓找麻煩的 google 變得更難用, 所以 google 因而讓步, 停止協助網民對抗政府網路控管; 而中國網民再度回到 「到底是哪個關鍵詞觸犯了法律, 害我被斷線幾分鐘」 的卡夫卡世界。 [4]

政府透過法律掌控公民的生活, 在許多集權國家都在發生, 大眾也比較看得見; 但軟體用戶的生活受到私人企業程式碼的監控, 就比較少人注意了。 奇虎公司的兩大產品, 在中國受到高度歡迎 — 360 安全瀏覽器的市佔率有 8%; 360 安全衛士在手機資安市場上的市佔率更高達三成。 然而網友 「獨立調查員」 發現: 360 安全瀏覽器以隱匿行蹤的方式 (包含 「將執行檔偽裝成設定檔), 每五分鐘向特定網站請求下載最新指令, 事後並銷毀證據。 [5] 後來互聯網情報威懾防禦實驗室根據獨立調查員所公開的技術資訊更進一步測試, 發現它所下載的最新指令可能包含 「應用程序行為攔截/隱藏、 創建線程、 刪除文件、 進程及進程模塊檢索、 操作註冊表及創建鉤子」 等等功能。 [6] 簡言之, 安裝了 360 安全瀏覽器, 就像是邀請奇虎公司派員進駐你的電腦一樣, 監控你在電腦上的某些活動, 例如禁止使用競爭對手的產品。

-----廣告,請繼續往下閱讀-----

有人或許會認為: 這是中國的特殊現象; 在西方民主國家, 這類入侵用戶電腦的行為, 正是保護人民的法律應該禁止的, 怎麼可以把它歸類為 「公司制定來規範用戶行為的法律」 呢? 事實上, 市佔率比 360 安全瀏覽器更高、 涵蓋國家比奇虎更多的微軟產品, 做的事情非常類似, 但卻從來不見任何國家 — 不論是集權或民主國家 — 針對其侵犯用戶自主權一事對微軟進行法律追究。 從秘密回報的 「WGA phone home」 事件、 秘密強迫升級的 「Windows stealth update」 事件、 「Vista content protection cost」 分析、 到 「Windows 7 盜版警察」 事件, 微軟視窗作業系統秘密下載的軟體量或許不及奇虎 360 安全瀏覽器, 但其歷史之長與影響範圍之大, 卻遠遠超過 360 安全瀏覽器。 (以上參考資料眾多, 請以關鍵詞搜尋。) 2011 年起, 獲得微軟 「Windows 8 認證」 的「安全開機」平板電腦禁止用戶以其他未經認證的作業系統開機, 則更說明了一件事: 微軟的程式碼所制定的法律, 不僅即將管制約束絕大多數人, 而且拒絕接受管制者, 甚至可能將面臨買不到新電腦的窘境。 [7] (有趣的是: 奇虎 360 產品跟微軟 Windows 8 認證, 都以 「安全」 之名, 行 「限制與監視」 之實。 [8])

為了安全因素, 法律禁止未滿十八歲的青少年開車; 不過如果父母帶著未成年子女在沒有人的地方練車… 第一, 可能沒有人知道, 第二, 就算警察鄰居知道了, 也未必會舉發。 為了保障微軟的壟斷, 獲得微軟 Windows 8 認證的平板電腦禁止其他作業系統開機 — 即使用戶明明知道自己所採用的作業系統完全安全無虞也不行。 沒有如果, 沒有例外, 沒有未必。 程式碼顯然是比法律更嚴格徹底執行的電腦法律。

三、 智慧財產權

或許有人會說: 「你可以不需要服從微軟的法律呀! 自己開工廠生產不經微軟 Windows 8 認證的電腦就好了啊, 畢竟這是資本主義自由競爭的社會嘛!」 事實上這個問題正好曝露了資本主義無限上綱者的另一個盲點: 如果資本主義終將造成有能力壟斷市場的跨國軟體公司透過軟體連線隨時操縱人類的生活, 終將造成機器人統治世界, 那麼我們還是堅持這世界上沒有比資本主義更重要的東西 — 例如機器人三大定律 — 嗎?

不過本文要從另一個角度回答上述的問題。 「有道者不察所召, 而察其召之者。」 在微軟一系列入侵用戶電腦動作的底下, 所燃燒的其實是智慧財產保衛聖戰的火源。 微軟所謂的 「安全開機」 — 如果暫時 (諷刺地) 放下資本主義的基本假設、 暫時排除微軟其他自私目的的可能性的話 — 其實是指: 用戶不得任意執行自行開發或網路下載的應用軟體, 這樣著作權人的智慧財產權才能夠透過數位權利管理 (Digital Rights Management) 機制得到保障。

-----廣告,請繼續往下閱讀-----

「保衛智慧財產權」 甚至將它擴大解釋到凌駕於實體財產權之上, 是近年來美國政府全力推動、 多面向具有深遠影響的重要政策。 [9] [10] 其中的禁止線上盜版法案 (Stop Online Piracy Act) 更因侵犯人權與蔑視技術現實而引發全球網友及各大網站抗議。 SOPA 推動者亟欲賦予 「封鎖網站」 正當性, 而它所採取的 「沒收網域」 (domain seizure) 方式, 在技術上卻遠不及中國金盾工程成熟有效, 只是單純地阻止 DNS 翻譯文字網址。 也就是說, 只要你知道一個被封鎖網站的數字網址, 其實這招是完全無效的。 Blockaid 以及 Dot-P2P 都是破解之道。

MPAA 與 RIAA 等等利益團體於是跨過美國政府, 直接施壓 Internet Service Provider (ISP), 迫使他們在今年二月底開始落實 Copyright Alert System (CAS), 從協助用戶上網的廠商角色, 轉變為監督用戶的盜版警察角色。 [11] ISP 透過程式碼偵測用戶用 P2P 所下載的檔案是否侵權。 若然, 便以各種方式提出警告。 五次或六次之後, 將降低用戶連線速度或封鎖某些網站作為懲處。 [12] 先前美國的 MegaUpload 抄臺事件 [13] 以及臺灣的 Now.in 抄臺事件 [14] 都因為檢警逾越法律權限、 未審先定罪、 第三方入罪等等因素而引發高度爭議; 相較之下, 省略文字版的法律, 改以程式碼版的法律來偵測、 直接懲罰盜版者, 看來變成了保護著作權最便利, 又不太引起大眾質疑的方式。

四、 程式碼被賦予法律效力的趨勢與問題

「程式碼就是法律」 已經是日常生活的現實; 但它是否具有傳統的法律效力呢?

  1. 在歐洲, 有判例顯示市售軟體的 End-user License Agreement (EULA) 並不具法律效力。 [15] 但在美國, 類似的案件卻被判定 EULA 確實具有法律效力。 [16] 各地法院判決莫衷一是; [17] 但可以確定的是: 網路上詢問 EULA 法律效力者眾, 但沒有人能給明確的答案, 而這也強化了 EULA 的實質效力。
  2. 合法採購的軟硬體商品, 將之拆解研究, 進行逆向工程 (reverse engineering) 是否合法? 爭議不斷的美國數位千禧年著作權法案 (Digital Millennium Copyright Act) — 特別是其中的反規避條款 (anti-circumvention provisions) — 以及 SOPA/ACTA/TPP 等等秘約條文外洩顯示: 智慧財產權已凌駕於實體財產權之上, 逐漸讓拆解自己財產的逆向工程研究成為非法行為。 [18] [10]
  3. 日前美國國會圖書館依據 DMCA 認定用戶依法不得解鎖手機 — 例如自行將手機所搭配的原電信業者更換掉。 這引起群眾抗議, 齊至白宮網站聯署。 白宮的回應認同聯署內容, 而國會圖書館也將重新檢視這個具有協助壟斷疑慮的規定。 [19]

這些趨勢顯示: 如果沒有輿論的反抗, 程式碼對用戶的約束力將越來越強, 甚至取得文字版法律所賦予的絕對正當性。

-----廣告,請繼續往下閱讀-----

在此同時, 執行智慧財產保護的程式碼就像其他任何程式碼一樣, 從輸入資料到程式邏輯, 每個環節都還是有可能出錯。 如果它所犯的錯誤明顯可見 — 例如 NASA 火星探測船好奇號的影片被當成是盜版影片而遭 Youtube ContentID 機制封鎖 — 那麼至少大眾還有機會反應、 要求更正。 [20]。 但如果是不明顯或甚至完全無警示的資訊封鎖, 那就只能靠細心的觀察者或靠運氣才能偶爾會發現一些奇特的誤判了 — 例如微軟將自由軟體基金會的捐款網頁判定成賭博網站、 將 BBC、 CNN、 華盛頓郵報、 維基百科、 … 等等網站判定成盜版 Windows 8 的網站、 將某些 (提及特定不知名、 合法網站的) Hotmail 郵件默默刪除等等。 [21] [22] [23]

五、 機器人就在你身邊 — 或在你身體裡面

如果機器人從一開始就具有人形, 或許大眾的警覺會高一些; 但在真實的科技發展過程當中, 機器人的各個組成部位, 以不同的形式在我們身邊 — 或在我們身體裡面 — 逐步發展, 以致絕少人察覺它已經與我們的生活 — 或是我們的身體 — 漸漸融合。

無法發聲講話的三歲小女孩 Maya 靠著 iPad 上的一個小 app 「Speak for Yourself」 跟父母及外界溝通。 但是溝通輔具大廠 Semantic Compaction Systems 跟 Prentke Romich Company 指控 SfY 侵犯專利, 要求蘋果電腦將之下架。 在沒有法院判決的情況下, 蘋果電腦照辦。 還好蘋果電腦做得並不徹底 — 至少沒有遠端遙控將已安裝的 SfY 刪除掉。 [24]

Gnome Foundation 執行長 Karen Sandler 同時具有律師及心臟病患兩個角色。 她身體裡面安裝著一顆心律調整器 (pacemaker)。 這個心律調整器會以 wifi 與外界溝通, 病患在走進看診室的同時, 不必接任何儀器, 她的心跳等等資料就可以直接顯示在醫師的電腦上。 但這個功能並非只有在看診時才打開。 她的個人隱私資訊隨時在對外界播放; 而外界也可透過 wifi 對心律調整器下指令, 電擊她的心臟。 因為智慧財產權的關係, 她無法取得程式碼, 更不可能按照自己的需求改變心律調整器的運作方式。 [25]

-----廣告,請繼續往下閱讀-----

如果我們面對的機器人是肌肉結實、 表情猙獰的魔鬼終結者, 那麼也許會有更多人理解艾西摩夫機器人三大法則的重要性。 如果我們面對的是具象、 非自身所擁有的無人小飛機 (drone), 那麼至少我們會警覺思考是否要用一般法律規範它。 但如果我們面對的是自己家中的 Kinect 遊戲機, 我們便對它失去戒心 — 即使當我們知道它服務的對象是數位內容版權擁有者 (根據收看人數提高收費標準), 有很多人也很能夠接受智慧財產權重於消費者權益與隱私的說辭。 [26] 至於跟我們形影不離的手機呢? 這已經不是接不接受的問題。 Siri 是解決我們一切疑問的秘書, 即使明明知道我們跟她的一切對話都將傳回蘋果電腦的雲端分析/儲存/加值利用, 我們還是不能沒有她 — 除非你在 IBM 工作, 公司規定不准用。 [27]

皇后娘娘評曰: 「(機器)人心難測, 越是親近溫馴就越容易不留神呐!」
皇后娘娘評曰: 「(機器)人心難測, 越是親近溫馴就越容易不留神呐!」

(甄嬛傳裡的) 皇后娘娘評曰: 「(機器)人心難測, 越是親近溫馴就越容易不留神呐!」

六、 結語

隨著 google glass、 仿生義肢、 腦機介面、 … 等等技術的開發, 到最後我們跟機器人的最親密接觸, 可能不僅僅是它在身邊照護我們的生活起居, 而是它就住在我們的身體裡面。 唯一的問題是: 在肉體上, 它與我們的親密更勝過肌膚之親; 但在精神上, 數位內容版權擁有者的指令與需求才是它服從的最後依歸。 試想幾年後, 如果:

  1. 手機像心律調整器一樣已經植入人體 — 反正人類離不開它;
  2. 手機隨時與 ISP 連線 — 因為隨時需要連上臉書、 需要詢問 siri 的意見;
  3. ISP 成為智慧財產保護警察 — 因為主流智財教育只轉播利益團體的聲音;
  4. 就像 hotmail 默默地過濾「不當」網站一樣, 這些警察也默默地根據不為外人知曉的法律 (看不見的程式碼) 在替電腦公司執法…

或者, 想像八十年後衰老的你靠著植入體內的維生系統 — 其實就是一個小小機器人 — 過著正常的生活; 但經過一次軟體升級之後, 你開始感到不舒服。 原廠 X 堅持一切正常沒問題。 於是你請另一家 Y 公司的工程師來檢查這個住在你體內、 原始碼不給看的機器人。 當 Y 公司的工程師試圖要解讀機器人的新運作規則時, 它為了保護自身的智慧財產權免遭競爭對手偷窺, 於是自我毀滅 — 同時違背第一、 第二、 第三法則。

是的, 程式碼一直都是法律 — 是真實世界的機器人, 或未來機器人的某個器官時時刻刻所服膺謹從的法律。 但當我們的世界被智慧財產權法律所包圍的時候, 要讓大眾理解智慧財產權必然危害人權都是一件高度困難的事 [28], 更難想像能有多少消費大眾會體認: 這些不具威脅外表的熱門作業系統、 熱門文書軟體、 精美手機、 嵌入體內的生物電子儀器 (bioelectronics)、 … 在不久的將來, 其實終將演變/匯流/組合, 成為遠端的超級機器人用以 「半接管」 我們神經系統的遙控內嵌觸手。 到那個時候, 機器人所有行動的最高指導原則會不會是 (如果沒有被拿來做更糟的應用的話…) 智財保護相關法律呢? 又還有多少人類會記得艾西摩夫當初為了保護未來人類所設計的機器人三大法則呢?

-----廣告,請繼續往下閱讀-----

The saddest aspect of life right now is that science gathers knowledge faster than society gathers wisdom. — Issac Asimov
(現在最遺憾的是: 科學知識進步的速度遠遠超過社會智慧提升的速度。)

參考資料

  1. 維基百科。 機器人學三大法則
  2. Lessig, Lawrence (2005). Code V2. Retrieved from http://codev2.cc/
  3. Fallow, James (2012). The Words That Scare America— and China. Retrieved from http://www.theatlantic.com/international/archive/2012/06/the-words-that-scare-america-and-china/258017/
  4. Lomas, Natasha (2013). Google Quietly Removes Censorship Warning Feature For Search Users In China. Retrieved from http://techcrunch.com/2013/01/04/google-quietly-removes-censorship-warning-feature-for-search-users-in-china/
  5. 独立调查员 (2012)。 公开举报奇虎360公司——致工信部、公安部公开信。 取自 http://i.sohu.com/p/=v2=bcdsBXalk3VpmZc3ZXZlLmNvbQ==/blog/view/243590884.htm
  6. IDF实验室 (2012)。 IDF报告全文:360安全浏览器暗藏后门。 取自 http://www.sinabz.com/html/news/xfwq/2012/1127/51871.html
  7. 洪朝貴 (2011)。 平板電腦支援 Windows 8, 作業系統開機鑰匙不在你家 (以及 「信任運算」 的真諦)
  8. 洪朝貴 (2012)。 微軟更新中英文詞語的意義: 「棄權」 就是 「安全」。 取自 http://ckhung0.blogspot.tw/2012/04/microsoft-security.html
  9. 洪朝貴 (2009)。 否定實體財產權的 DMCA: 反規避/反仿冒/反競爭條款將從 DRM 走向 PRM
  10. 洪朝貴 (2012)。 TPP 侵權更甚於 SOPA 與 ACTA; 臺灣高層卻不看條文就愛上它?
  11. Ernesto (2013). “Six Strikes” Anti-Piracy Scheme Starts, With Mystery Punishments.
  12. Masnick, Mike (2013). System Used By New Six Strikes CAS, Falsely Identifies Game Mods As NBC TV Shows. Retrieved from http://www.techdirt.com/articles/20130224/22341022086/system-used-new-six-strikes-cas-falsely-identifies-game-mods-as-nbc-tv-shows.shtml
  13. (Various). Megaupload Stories at Techdirt. Retrieved from http://www.techdirt.com/blog/?company=megaupload
  14. 洪朝貴 (2012)。 Now.in 遭檢抄臺, 為了保護強權智財。 濫傷無辜? 你活該!。 取自 http://ckhung0.blogspot.tw/2012/03/nowin.html
  15. Sterling, Jim (2012). EU court rejects EULAs, says digital games can be resold. Retrieved from http://www.destructoid.com/eu-court-rejects-eulas-says-digital-games-can-be-resold-230641.phtml
  16. Anderson, Nate (2010). No, you don’t own it: Court upholds EULAs, threatens digital resale. Retrieved from http://arstechnica.com/tech-policy/2010/09/the-end-of-used-major-ruling-upholds-tough-software-licenses/
  17. Wikipedia. End-user license agreement. Retrieved from https://en.wikipedia.org/wiki/End-user_license_agreement#Enforceability_of_EULAs_in_the_United_States
  18. Electronic Frontier Foundation. Coders’ Rights Project Reverse Engineering FAQ. Retrieved from https://www.eff.org/issues/coders/reverse-engineering-faq
  19. 洪朝貴 (2013)。 美國消費者的手機解鎖權保衛戰。 取自 http://ckhung0.blogspot.tw/2013/03/phone-unlocking.html
  20. Lee, Timothy B. (2012). As Curiosity touches down on Mars, video is taken down from YouTube. Retrieved from http://arstechnica.com/tech-policy/2012/08/as-curiosity-touches-down-on-mars-video-is-taken-down-from-youtube/
  21. Sullivan, John. (2012). Dear Microsoft: fsf.org is not a “gambling site”. Retrieved from https://www.fsf.org/blogs/community/dear-microsoft-fsf.org-is-not-a-gambling-site
  22. Ernesto (2012). Microsoft DMCA Notice ‘Mistakenly’ Targets BBC, Techcrunch, Wikipedia and U.S. Govt. Retrieved from https://torrentfreak.com/microsofts-bogus-dmca-notices-censor-bbc-cnn-wikipedia-spotify-and-more-121007/
  23. 洪朝貴 (2012)。 Hotmail 與 Yahoo! Mail 收不到信件, 這跟美國政府濫權沒收網域名稱有沒有關係?
  24. Nieder, Dana (2012). The Silencing of Maya. Retrieved from http://niederfamily.blogspot.tw/2012/06/silencing-of-maya.html
  25. Gonyer, Emily (2012). Karen Sandler’s Keynote address to Linux Australia conference. Retrieved from https://todoentiempo.wordpress.com/2012/01/26/karen-sandlers-keynote-address-to-linux-australia-conference/
  26. Hruska, Joel (2012). Microsoft’s new Kinect patent goes Big Brother, will spy on you for the MPAA. Retrieved from http://www.extremetech.com/gaming/139706-microsofts-new-kinect-patent-goes-big-brother-will-spy-on-you-for-the-mpaa
  27. McMillan, Robert (2012). IBM Outlaws Siri, Worried She Has Loose Lips. Retrieved from http://www.wired.com/wiredenterprise/2012/05/ibm-bans-siri/
  28. 洪朝貴 (2012)。 網路時代, 「著作權」 跟 「人權」 只能二選一。 取自 http://ckhung0.blogspot.com/2012/03/ip-vs-human-right.html

(本文轉載自 資訊人權貴ㄓ疑)

-----廣告,請繼續往下閱讀-----
文章難易度
洪朝貴
47 篇文章 ・ 1 位粉絲

0

1
0

文字

分享

0
1
0
從認證到實踐:以智慧綠建築三大標章邁向淨零
鳥苷三磷酸 (PanSci Promo)_96
・2024/11/15 ・4487字 ・閱讀時間約 9 分鐘

本文由 建研所 委託,泛科學企劃執行。 


當你走進一棟建築,是否能感受到它對環境的友善?或許不是每個人都意識到,但現今建築不只提供我們居住和工作的空間,更是肩負著重要的永續節能責任。

綠建築標準的誕生,正是為了應對全球氣候變遷與資源匱乏問題,確保建築設計能夠減少資源浪費、降低污染,同時提升我們的生活品質。然而,要成為綠建築並非易事,每一棟建築都需要通過層層關卡,才能獲得標章認證。

為推動環保永續的建築環境,政府自 1999 年起便陸續著手推動「綠建築標章」、「智慧建築標章」以及「綠建材標章」的相關政策。這些標章的設立,旨在透過標準化的建築評估系統,鼓勵建築設計融入生態友善、能源高效及健康安全的原則。並且政府在政策推動時,為鼓勵業界在規劃設計階段即導入綠建築手法,自 2003 年特別辦理優良綠建築作品評選活動。截至 2024 年為止,已有 130 件優良綠建築、31 件優良智慧建築得獎作品,涵蓋學校、醫療機構、公共住宅等各類型建築,不僅提升建築物的整體性能,也彰顯了政府對綠色、智慧建築的重視。

-----廣告,請繼續往下閱讀-----

說這麼多,你可能還不明白建築要變「綠」、變「聰明」的過程,要經歷哪些標準與挑戰?

綠建築標章智慧建築標章綠建材標章
來源:內政部建築研究所

第一招:依循 EEWH 標準,打造綠建築典範

環境友善和高效率運用資源,是綠建築(green building)的核心理念,但這樣的概念不僅限於外觀或用材這麼簡單,而是涵蓋建築物的整個生命週期,也就是包括規劃、設計、施工、營運和維護階段在內,都要貼合綠建築的價值。

關於綠建築的標準,讓我們先回到 1990 年,當時英國建築研究機構(BRE)首次發布有關「建築研究發展環境評估工具(Building Research Establishment Environmental Assessment Method,BREEAM®)」,是世界上第一個建築永續評估方法。美國則在綠建築委員會成立後,於 1998 年推出「能源與環境設計領導認證」(Leadership in Energy and Environmental Design, LEED)這套評估系統,加速推動了全球綠建築行動。

臺灣在綠建築的制訂上不落人後。由於臺灣地處亞熱帶,氣溫高,濕度也高,得要有一套我們自己的評分規則——臺灣綠建築評估系統「EEWH」應運而生,四個英文字母分別為 Ecology(生態)、Energy saving(節能)、Waste reduction(減廢)以及 Health(健康),分成「合格、銅、銀、黃金和鑽石」共五個等級,設有九大評估指標。

-----廣告,請繼續往下閱讀-----

我們就以「台江國家公園」為例,看它如何躍過一道道指標,成為「鑽石級」綠建築的國家公園!

位於臺南市四草大橋旁的「台江國家公園」是臺灣第8座國家公園,也是臺灣唯一的濕地型的國家公園。同時,還是南部行政機關第一座鑽石級的綠建築,其外觀採白色系列,從高空俯瞰,就像在一座小島上座落了許多白色建築群的聚落;從地面看則有臺南鹽山的意象。

因其地形與地理位置的特殊,生物多樣性的保護則成了台江國家公園的首要考量。園區利用既有的魚塭結構,設計自然護岸,保留基地既有的雜木林和灌木草原,並種植原生與誘鳥誘蟲等多樣性植物,採用複層雜生混種綠化。以石籠作為擋土護坡與卵石回填增加了多孔隙,不僅強化了環境的保護力,也提供多樣的生物棲息環境,使這裡成為動植物共生的美好棲地。

台江國家公園是南部行政機關第一座鑽石級的綠建築。圖/內政部建築研究所

第二招:想成綠建築,必用綠建材

要成為一幢優秀好棒棒的綠建築,使用在原料取得、產品製造、應用過程和使用後的再生利用循環中,對地球環境負荷最小、對人類身體健康無害的「綠建材」非常重要。

-----廣告,請繼續往下閱讀-----

這種建材最早是在 1988 年國際材料科學研究會上被提出,一路到今日,國際間對此一概念的共識主要包括再使用(reuse)、再循環(recycle)、廢棄物減量(reduce)和低污染(low emission materials)等特性,從而減少化學合成材料產生的生態負荷和能源消耗。同時,使用自然材料與低 VOC(Volatile Organic Compounds,揮發性有機化合物)建材,亦可避免對人體產生危害。

在綠建築標章後,內政部建築研究所也於 2004 年 7 月正式推行綠建材標章制度,以建材生命週期為主軸,提出「健康、生態、高性能、再生」四大方向。舉例來說,為確保室內環境品質,建材必須符合低逸散、低污染、低臭氣等條件;為了防溫室效應的影響,須使用本土材料以節省資源和能源;使用高性能與再生建材,不僅要經久耐用、具高度隔熱和防音等特性,也強調材料本身的再利用性。


在台江國家公園內,綠建材的應用是其獲得 EEWH 認證的重要部分。其不僅在設計結構上體現了生態理念,更在材料選擇上延續了對環境的關懷。園區步道以當地的蚵殼磚鋪設,並利用蚵殼作為建築格柵的填充材料,為鳥類和小生物營造棲息空間,讓「蚵殼磚」不再只是建材,而是與自然共生的橋樑。園區的內部裝修選用礦纖維天花板、矽酸鈣板、企口鋁板等符合綠建材標準的系統天花。牆面則粉刷乳膠漆,整體綠建材使用率為 52.8%。

被建築實體圍塑出的中庭廣場,牆面設計有蚵殼格柵。圖/內政部建築研究所

在日常節能方面,台江國家公園也做了相當細緻的設計。例如,引入樓板下的水面蒸散低溫外氣,屋頂下設置通風空氣層,高處設置排風窗讓熱空氣迅速排出,廊道還配備自動控制的微噴霧系統來降溫。屋頂採用蚵殼與漂流木創造生態棲地,創造空氣層及通風窗引入水面低溫外企,如此一來就能改善事內外氣溫及熱空氣的通風對流,不僅提升了隔熱效果,減少空調需求,讓建築如同「與海共舞」,在減廢與健康方面皆表現優異,展示出綠建築在地化的無限可能。

-----廣告,請繼續往下閱讀-----
島式建築群分割後所形成的巷道與水道。圖/內政部建築研究所

在綠建材的部分,另外補充獲選為 2023 年優良綠建築的臺南市立九份子國民中小學新建工程,其採用生產過程中二氧化碳排放量較低的建材,比方提高高爐水泥(具高強度、耐久、緻密等特性,重點是發熱量低)的量,並使用能提高混凝土晚期抗壓性、降低混凝土成本與建物碳足跡的「爐石粉」,還用再生透水磚做人行道鋪面。

2023 年優良綠建築的臺南市立九份子國民中小學。圖/內政部建築研究所
2023 年優良綠建築的臺南市立九份子國民中小學。圖/內政部建築研究所

同樣入選 2023 年綠建築的還有雲林豐泰文教基金會的綠園區,首先,他們捨棄金屬建材,讓高爐水泥使用率達 100%。別具心意的是,他們也將施工開挖的土方做回填,將有高地差的荒地恢復成平坦綠地,本來還有點「工業風」的房舍告別荒蕪,無痛轉綠。

雲林豐泰文教基金會的綠園區。圖/內政部建築研究所

等等,這樣看來建築夠不夠綠的命運,似乎在建材選擇跟設計環節就決定了,是這樣嗎?當然不是,建築是活的,需要持續管理–有智慧的管理。

第三招:智慧管理與科技應用

我們對生態的友善性與資源運用的效率,除了從建築設計與建材的使用等角度介入,也須適度融入「智慧建築」(intelligent buildings)的概念,即運用資通訊科技來提升建築物效能、舒適度與安全性,使空間更人性化。像是透過建築物佈建感測器,用於蒐集環境資料和使用行為,並作為空調、照明等設備、設施運轉操作之重要參考。

-----廣告,請繼續往下閱讀-----

為了推動建築與資通訊產業的整合,內政部建築研究所於 2004 年建立了「智慧建築標章」制度,為消費者提供判斷建築物是否善用資通訊感知技術的標準。評估指標經多次修訂,目前是以「基礎設施、維運管理、安全防災、節能管理、健康舒適、智慧創新」等六大項指標作為評估基準。
以節能管理指標為例,為了掌握建築物生命週期中的能耗,需透過系統設備和技術的主動控制來達成低耗與節能的目標,評估重點包含設備效率、節能技術和能源管理三大面向。在健康舒適方面,則在空間整體環境、光環境、溫熱環境、空氣品質、水資源等物理環境,以及健康管理系統和便利服務上進行評估。

樹林藝文綜合大樓在設計與施工過程中,充分展現智慧建築應用綜合佈線、資訊通信、系統整合、設施管理、安全防災、節能管理、健康舒適及智慧創新 8 大指標先進技術,來達成兼顧環保和永續發展的理念,也是利用建築資訊模型(BIM)技術打造的指標性建築,受到國際矚目。

樹林藝文綜合大樓。圖/內政部建築研究所「111年優良智慧建築專輯」(新北市政府提供)

在興建階段,為了保留基地內 4 棵原有老樹,團隊透過測量儀器對老樹外觀進行精細掃描,並將大小等比例匯入 BIM 模型中,讓建築師能清晰掌握樹木與建築物之間的距離,確保施工過程不影響樹木健康。此外,在大樓啟用後,BIM 技術被運用於「電子維護管理系統」,透過 3D 建築資訊模型,提供大樓內設備位置及履歷資料的即時讀取。系統可進行設備的監測和維護,包括保養計畫、異常修繕及耗材管理,讓整棟大樓的全生命週期狀況都能得到妥善管理。

智慧建築導入 BIM 技術的應用,從建造設計擴展至施工和日常管理,使建築生命周期的管理更加智慧化。以 FM 系統 ( Facility Management,簡稱 FM ) 為例,該系統可在雲端進行遠端控制,根據會議室的使用時段靈活調節空調風門,會議期間開啟通往會議室的風門以加強換氣,而非使用時段則可根據二氧化碳濃度調整外氣空調箱的運轉頻率,保持低頻運作,實現節能效果。透過智慧管理提升了節能效益、建築物的維護效率和公共安全管理。

-----廣告,請繼續往下閱讀-----

總結

綠建築、綠建材與智慧建築這三大標章共同構建了邁向淨零碳排、居住健康和環境永續的基礎。綠建築標章強調設計與施工的生態友善與節能表現,從源頭減少碳足跡;綠建材標章則確保建材從生產到廢棄的全生命週期中對環境影響最小,並保障居民的健康;智慧建築標章運用科技應用,實現能源的高效管理和室內環境的精準調控,增強了居住的舒適性與安全性。這些標章的綜合應用,讓建築不僅是滿足基本居住需求,更成為實現淨零、促進健康和支持永續的具體實踐。

建築物於魚塭之上,採高腳屋的構造形式,尊重自然地貌。圖/內政部建築研究所

-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

鳥苷三磷酸 (PanSci Promo)_96
211 篇文章 ・ 312 位粉絲
充滿能量的泛科學品牌合作帳號!相關行銷合作請洽:contact@pansci.asia

1

1
1

文字

分享

1
1
1
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

-----廣告,請繼續往下閱讀-----
所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3620 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

4
1

文字

分享

0
4
1
快速通道與無盡地界:科幻作品裡的黑洞——《超次元.聖戰.多重宇宙》
2046出版
・2024/02/08 ・4430字 ・閱讀時間約 9 分鐘

星際捷徑

一個無底深淵怎能成為星際飛行的捷徑呢?原來按照愛因斯坦的理論,黑洞是一個時空曲率趨於無限大——也就是說,時空本身已「閉合」起來的區域。但往後的計算顯示,若收縮的星體質量足夠大的話,時空在閉合到某一程度之後,會有重新開敞的可能,而被吸入的物體,將可以重現於宇宙之中。只是,這個「宇宙」已不再是我們原先出發的宇宙,而是另一個宇宙、另一個時空(姑毋論這是甚麼意思)。按照這一推論,黑洞的存在,可能形成一條時空的甬道(稱為「愛因斯坦-羅森橋接」),將兩個本來互不相干的宇宙連接起來。

這種匪夷所思的推論固然可以成為極佳的科幻素材,但對於克服在我們這個宇宙中的星際距離,則似乎幫助不大。然而,一些科學家指出,愛因斯坦所謂的另一個宇宙,很可能只是這一宇宙之內的別的區域。如果是的話,太空船便可由太空的某處飛進一個黑洞之內,然後在遠處的一個「白洞」(white hole)那兒走出來,其間無須經歷遙遠的星際距離。把黑洞和白洞連結起來的時空甬道,人們形象地稱之為「蛆洞」、「蛀洞」或「蟲洞」(wormhole)。

科幻作品裡常以穿越蟲洞作為星際旅行的快速通道。圖/envato

「蛆洞」是否標誌著未來星際旅行的「捷徑」呢?不少科幻創作正以此為題材。其中最著名的,是《星艦奇航記》第三輯《太空站深空 9 號》(Deep Space Nine, 1993-1999),在劇集裡,人類發現了一個遠古外星文明遺留下來的「蛆洞」,於是在旁邊建起了一個龐大的星際補給站,成為了星際航運的聚散地,而眾多精彩的故事便在這個太空站內展開。

我方才說「最著名」,其實只限於《星艦》迷而言。對於普羅大眾,對於「蛆洞」作為星際航行手段的認識,大多數來自二○一四年的電影《星際效應》(Interstellar,港譯:《星際啟示錄》),其間人類不但透過蛆洞去到宇宙深處尋找「地球 2.0」(因為地球環境已大幅崩壞),男主角更穿越時空回到過去,目睹多年前與年幼女兒生離死別的一幕。電影中既有大膽的科學想像,也有感人的父女之情,打動了不少觀眾。大家可能有所不知的是,導演基斯杜化.諾蘭(Christopher Nolan, 1970-)邀請了知名的黑洞物理學基普.索恩(Kip Thorne, 1940-)作顧問,所以其中所展示的壯觀黑洞景象,可不是憑空杜撰而是有科學根據的呢!

-----廣告,請繼續往下閱讀-----
星際效應裡的黑洞景象。圖/wikimedia

那麼蛆洞是否就是人類進行星際探險的寄託所在呢?

然而事情並非這麼簡單。我們不要忘記,黑洞的周圍是一個十分強大的引力場,而且越接近黑洞,引力的強度越大,以至任何物體在靠近它時,較為接近黑洞的一端所感受到的引力,與較為遠離黑洞的一端所感受到的,將有很大的差別。這種引力的差別形成了一股強大之極的「潮汐張力」(tidal strain),足以把最堅固的太空船(不要說在內的船員)也撕得粉碎。

潮汐張力的危險不獨限於黑洞,方才提及的中子星,其附近亦有很強的潮汐力。 拉瑞.尼文(Larry Niven, 1938-,港譯:拉利.尼雲)於一九六六年所寫的短篇〈中子星〉(Neutron Star),正以這一危險作為故事的題材。

尤有甚者,即使太空船能抵受極大的潮汐力,在黑洞的中央是一個時空曲率趨於無限,因此引力也趨於無限的時空「奇點」(singularity)。太空船未從白洞重現於正常的時空,必已在「奇點」之上撞得粉碎,星際旅程於是變了死亡旅程。

然而,往後的研究顯示,以上的描述只適用於一個靜止的、沒有旋轉的黑洞,亦即「史瓦西解」所描述的黑洞。可是在宇宙的眾多天體中,絕大部分都具有自轉。按此推論,一般黑洞也應具有旋轉運動才是。要照顧到黑洞自旋的「場方程解」,可比單是描述靜止黑洞的史瓦西解複雜得多。直至一九六三年,透過了紐西蘭數學家羅伊・卡爾(Roy Kerr, 1934-)的突破性工作,人類才首次得以窺探一個旋轉黑洞周圍的時空幾何特性。

-----廣告,請繼續往下閱讀-----
圖/envato

旋轉的黑洞

科學家對「卡爾解」(The Kerr solution)的研究越深入,發現令人驚異的時空特性也越多。其中一點最重要的是:黑洞中的奇點不是一個點,而是一個環狀的區域。即只要我們避免從赤道的平面進入黑洞,理論上我們可以毋須遇上無限大的時空曲率,便可穿越黑洞而從它的「另一端」走出來。

不用說,旋轉黑洞(也就是說,自然界中大部分的黑洞)立即成為科幻小說作家的最新寵兒。

一九七五年,喬.哈德曼(Joe Haldeman,1943-)在他的得獎作品《永無休止的戰爭》(The Forever War, 1974)之中,正利用了快速旋轉的黑洞(在書中稱為「塌陷體」——collapsar)作用星際飛行——以及星際戰爭得以體現的途徑。

由於黑洞在宇宙中的分佈未必最方便於人類的星際探險計劃,一位科學作家阿德里安.倍里(Adrian Berry,1937-2016)更突發奇想,在他那充滿想像的科普著作《鐵的太陽》(The Iron Sun, 1977)之中,提出了由人工製造黑洞以作為星際轉運站的大膽構思。

-----廣告,請繼續往下閱讀-----

要特別提出的一點是,飛越旋轉黑洞雖可避免在奇點上撞得粉碎,卻並不表示太空船及船上的人無須抵受極強大的潮汐力。如何能確保船及船員在黑洞之旅中安然無恙,是大部分作家都只有輕輕略過的一項難題。

此外,按照理論顯示,即使太空船能安然穿越黑洞,出來後所處的宇宙,將不是我們原先出發的那個宇宙;而就算是同一個宇宙,也很可能處於遙遠的過去或未來的某一刻。要使這種旅程成為可靠的星際飛行手段,科幻作家唯有假設人類未來對黑洞的認識甚至駕馭,必已達到一個我們今天無法想像的水平。

然而,除了作為星際飛行途徑,黑洞本身也是一個怪異得可以的地方,因此也是一個很好的科幻素材。黑洞周圍最奇妙的一個時空特徵,就是任何事物——包括光線——都會「一進不返」的一道分界線,科學家稱之為「事件穹界」(event horizon)。這個穹界(實則是一個立體的界面),正是由當年史瓦西計算出來的「史瓦西半徑」(Schwarzschild radius)所決定。例如太陽的穹界半徑是三公里,也就是說,假若一天太陽能收縮成一個半徑小於三公里的天體,它將成為一個黑洞而在宇宙中消失。「穹界」的意思就是時空到了這一界面便有如到了盡頭,凝頓不變了。

圖/envato

簡單地說,穹界半徑就是物體在落入黑洞時的速度已達於光速,而相對論性的「時間延長效應」(time dilation effect)則達到無限大。對太空船上的人來說,穿越界面的時間只是極短的頃刻,但對於一個遠離黑洞的觀測者,他所看到的卻是:太空船越接近界面,船上的時間變得越慢。

-----廣告,請繼續往下閱讀-----

而在太空船抵達界面時,時間已完全停頓下來。換句話說,相對於外界的人而言,太空船穿越界面將需要無限長的時間!

無限延長的痛苦

了解到這一點,我們便可領略波爾.安德遜(Poul Anderson, 1926-2001)的短篇〈凱利〉(Kyrie, 1968)背後的意念。故事描述一艘太空船不慎掉進一個黑洞,船上的人自是全部罹難。但對於另一艘船上擁有心靈感應能力的一個外星人來說,情況卻有所不同。理由是她有一個同樣擁有心靈感應能力的妹妹在船上,而遇難前兩人一直保持心靈溝通。由於黑洞的特性令遇難的一剎(太空船穿越穹界的一剎)等於外間的永恆,所以這個生還的外星人,畢生仍可在腦海中聽到她妹妹遇難時的慘叫聲。

安德遜這個故事寫於一九六八年,可說是以黑洞為創作題材的一個最早嘗試。

短篇〈凱利〉便是利用黑洞的特性——遇難的一剎等於外間的永恆——使生還者感受無盡的痛苦。圖/envato

太空船在穹界因時間停頓而變得靜止不動這一情況在阿爾迪斯一九七六年寫的《夜裡的黑暗靈魂》(The Dark Soul of the Night)中,亦有頗為形象的描寫。恆星的引力崩塌,在羅伯特.史弗堡(Robert Silverberg)的《前往黑暗之星》(To the Dark Star, 1968)之中卻帶來另一種(雖然是假想的)危險。故事中的主人翁透過遙感裝置「親身」體驗一顆恆星引力塌陷的過程,卻發覺時空的扭曲原來可以使人的精神陷於瘋狂甚至崩潰的境地。

-----廣告,請繼續往下閱讀-----

以穹界的時間延長效應為題材的長篇小說,首推弗雷德里克.波爾(Frederik Pohl, 1919-2013)的得獎作品《通道》(Gateway, 1977),故事描述人類在小行星帶發現了由一族科技極高超的外星人遺留下來的探星基地。基地內有很多完全自動導航的太空船,人類可以乘坐這些太空船穿越「時空甬道」抵達其他的基地,並在這些基地帶回很多珍貴的,因此也可以令發現者致富的超級科技發明。

故事的男主角正是追尋這些寶藏的冒險者之一。他和愛人和好友共乘一艘外星人的太空船出發尋寶,卻不慎誤闖一顆黑洞的範圍。後來他雖逃脫,愛人和好友卻掉進黑洞之中。但由於黑洞穹界的時間延長效應,對於男主角來說,他的愛人和好友永遠也在受著死亡那一刻的痛苦,而他也不歇地受著內疚與自責的煎熬。

故事的內容由男主角接受心理治療時逐步帶出。而特別之處,在於進行心理治療的醫生不是一個人,而是一副擁有接近人類智慧的電腦。全書雖是一幕幕的人機對話,描寫卻是細膩真摯、深刻感人,實在是一部令人難以忘懷的佳作。

圖/envato

由於這篇小說的成功,波氏繼後還寫了兩本續集:《藍色事件穹界以外》(Beyond the Blue Event Horizon, 1980)及《希徹會晤》(Heechee Rendezvous, 1984)。而且兩本都能保持很高的水準。

-----廣告,請繼續往下閱讀-----

時間延長效應並非一定帶來悲劇。在先前提及的《永無休止的戰爭》的結尾,女主角正是以近光速飛行(而不是飛近黑洞)的時間延長效應,等候她的愛侶遠征歸來,為全書帶來了令人驚喜而又感人的大團圓結局。

七○年代末的黑洞熱潮,令迪士尼(Walt Disney)的第一部科幻電影製作亦以此為題材。在一九七九年攝製的電影《黑洞》(The Black Hole)之中,太空船「帕魯明諾號」在一次意外中迷航,卻無意中發現了失蹤已久的「天鵝號」太空船。由於「天鵝號」環繞著一個黑洞運行,船上的人因時間延長效應而衰老得很慢。這艘船的船長是一個憤世疾俗的怪人,他的失蹤其實是故意遠離塵世。最後,他情願把船撞向黑洞也不願重返文明。

比起史提芬.史匹堡(Steven Spielberg, 1946-)的科幻電影,這部《黑洞》雖然投資浩大,拍來卻是平淡乏味,成績頗為令人失望。除了電影外,科幻作家艾倫.迪安.霍斯特(Alan Dean Foster, 1946-)亦根據劇本寫成的一本同名的小說。

這張圖片的 alt 屬性值為空,它的檔案名稱為 ___72dpi.jpeg

——本文摘自《超次元.聖戰.多重宇宙》,2023 年 11 月,二○四六出版,未經同意請勿轉載。

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----

討論功能關閉中。