0

1
0

文字

分享

0
1
0

讓智財權凌駕實體財產權的「科技保護措施」

洪朝貴
・2014/05/14 ・2701字 ・閱讀時間約 5 分鐘 ・SR值 514 ・六年級

禁止列印槍枝的3D印表機
禁止列印槍枝的3D印表機

黑箱密約 TPP 裡面有個名詞:科技保護措施 (Technological Protection Measure)。 美國主張: 為了保護 “正版”、 打擊 (被混為一談的) 盜版/山寨/仿冒, 如果廠商販售給你的商品上面有一些電路/機關禁止你用這項商品來做某一些事, 那麼身為消費者的你, 就必須遵守(侵犯人權的)法律。你已購回的商品上面如果有廠商預先安置的枷鎖,而你企圖「斷開魂結、斷開鎖鏈、把枷鎖燒毀!」 那麼你就犯法了。你可以把它理解為實體物品版的遙控數位枷鎖 DRM。一旦這種(必然被破解的)技術受到法律的保護,智慧財產權將凌駕實體財產權之上,而知識分享的言論自由也將受到拑制。Princeton 電腦教授 Ed Felten 早在 2006 年就已經預言 DRM 思維會走向這條路。 (我 2009 年曾摘要)

  1. Keurig 的咖啡機, 防止對手降價搶生意, 內建認證機制, 必須是 Keurig 自家的咖啡膠囊才能泡。
  2. 雷諾新款的 Zoe 電動汽車, 車賣給你但是電池用租的, 要是沒有定時繳租金, 雷諾公司就 遙控 「喀嚓」 斷電 讓你沒辦法開車。
  3. 森精機公司所生產的高檔 CNC 車床內建 GPS 與陀螺儀。 只要一被用戶移動過位置, 就自動關機
  4. 德國公司 Armatrix 設計的 “智慧手槍” 搭配一枝手錶。 兩者都內建 RFID; 手槍必須距離手錶 10 吋以內才能發射
  5. 為了避免用戶 “不小心” 列印槍技, 有公司開發了一款 3D 印表機, 偵測到槍技零件就拒絕列印
  6. 為了避免 “盜版”, 有公司開發了一款 3D 印表機, 下載授權圖檔之後只准印一次

咖啡機跟電動汽車的例子很容易理解。這跟印表機公司不希望讓你自由填充便宜的墨水意思一樣:耗材才是長遠的賺錢之道 — 至於這類計劃報廢的設計所造成的不必要額外垃圾, 則不是廠商所關心的問題。

禁止移動的 CNC 車床完全莫名奇妙。它會不會是擴張解釋極具爭議的 geographical indications 的第一步?(原本用來保護 「臺南擔仔麵」、「新竹米粉」之類商標的機制)總之這種「功能」絕對不是從提升消費者享受/權益的思考角度出發的。

槍枝的例子,也許有些讀者會因為安全考量而認同上述兩種管制方式。但我看到的,卻是它跟電腦開機鑰匙管制、手機管制的相似性。

-----廣告,請繼續往下閱讀-----

今年二月初加州參議員表示:為了應付日益嚴重的手機竊案,未來將要求手機出廠時必須預設一個功能,以便手機被搶被偷之後,執法單位可以遙控毀機。(詳見我為科學月刊四月號所寫的文章:被中國媒體畫錯重點的邪惡美國政府)從資訊安全的角度來看,這種設計完全沒有任何說服力。如果失竊的問題真的很重要,那麼手機加密(整個儲存資料的檔案系統, 不是只有開機畫面)才是真正的終極安全保護措施。最值得政府做的,根本不是立法,而是通識類型的「認識加解密」資訊安全教育, 以及鼓勵廠商推出全面加密的商品。

那麼加州參議員為何要推動 「遙控毀機」 機制呢? 把手機的終極掌控權從你手中奪取過來, 才是真實的目的。 這跟 「手機不要 root 比較安全」 的迷思、 臺灣行政院先前的 「行動裝置資通安全注意事項」 謊言 或是微軟宣稱的 「放棄開機自主權比較安全」 都一樣, 企圖誘騙消費者相信 「你棄權, 就會比較安全」。 從資訊安全的角度來看, 以上一切謊言至為明顯。 真實的目的, 其實就是不希望消費者對於他手中的實體財產握有最終主控權。

回到手槍, 這也是為什麼資安專家會跳出來 解釋 這種 “智慧” 技術對安全可能弄巧成拙、 利小於弊 (Z<B)。 此外, 手槍事件又跟上述手機/電腦案例一樣, 美國一些州正在 推動立法, 要求新手槍必須配有這種 「智慧技術」。 一旦所有的槍枝都配備這種遙控枷鎖, 以後再遇到類似 美國內華達民兵起義 的事件, 政府就可以遙控讓民兵的槍枝暫時失去功能, 那麼結果就大不相同了。 順便一提, 我個人並不支持讓 「公開使用槍枝」 的行為合法化 (但是到了 3D 列印年代, 私下把玩槍枝的行為是不可能禁止的 — 除非剝奪所有人的隱私權)。 這裡要談的不是支持槍枝合法化, 而是政府可以如何透過扭曲解釋 「安全」 的法律, 在某些爭議場合下奪取公民的實體財產控制權。 於是, 一兩家廠商試圖推出這樣的產品之後, 當然立刻引發美國槍枝俱樂部的強烈抗議, 最後只能趕快 道歉下市

但就算以上無法說服你支持 「私下列印手槍」 的自由, 你也應該關心 3D 印表機普遍被 TPM 限制之後的深遠影響。 對大多數人而言, 未來最可能遭遇到的問題, 不是印表機拒印手槍零件, 而是它拒印 「受到版權保護」 的模型檔。 如果我們的世界想要享受 3D 印表技術的好處, 就必須避免它死於一個充斥著侵權訴訟律師的環境。

-----廣告,請繼續往下閱讀-----

不論你對上述個別案例有何看法, 以上所談的所有 「科技保護措施」, 都還有三大共同的問題。 第一, 這些用以保護廠商壟斷權的枷鎖, 最終都將被破解。 這跟 見不得人的 DRM 演算法必然會被破解 的道理一樣: 東西在消費者的手上。 其中 3D 印表機的例子還有另一個面向跟 DRM 很像: analog hole 類比漏洞 不可能完封 — 消費者總是可以用 3D 掃描器把 3D 模型掃成未受保護的模型檔, 那麼 3D 印表機就無從檢查模型是否為 「盜版」。 如果我們認同 Maker Faire (5/24,25 華山文化園區!) 這樣鼓勵大眾動手拆解與創作的文化, 那就不可能接受 「禁止消費者拆解研究自己實體財產」 那樣的法律。 第二, 支持 TPM, 就必須支持某類言論管制 (即使這些文章的作者樂意分享其 「智慧財產」)。 因為只要有少數的人破解一種 TPM, 這項知識就會廣為人知。 如果不管制這類知識的流通, 那麼 TPM 就是玩假的。 第三, 為了禁止 「破解 TPM 知識」 的傳遞, 也就必須禁止私密通訊的自由。 這個道理我已在 「避免網路管制走向拆信檢查私密通訊」 以及 「著作權跟人權只能二選一」 這兩篇文章的幾個段落當中重複提過。

上面所提的這些例子, 目前都還沒有被拿來用 TPM 法令強制執行, 但如果我是意圖遙控售後產品、 意圖壟斷市場的廠商, 那麼將會對 TPM 所賦予我的權力 (yes, I mean power, not right) 寄予厚望。 對於 TPM 的這些問題, 我們的政府會研究與回應嗎? 或者, 只要是美國老大哥在 TPP 裡面所提出的要求, 就算它 侵權甚於 SOPA 幫助財團侵犯公民權利、 甚或讓智慧財產權凌駕於實體財產權之上, 我們的政府依舊要睜眼說瞎話地告訴我們 「Z>B, 簽下去才有競爭力」 呢?

文章難易度
洪朝貴
47 篇文章 ・ 1 位粉絲

0

3
3

文字

分享

0
3
3
圖形處理單元與人工智慧
賴昭正_96
・2024/06/24 ・6944字 ・閱讀時間約 14 分鐘

-----廣告,請繼續往下閱讀-----

  • 作者/賴昭正|前清大化學系教授、系主任、所長;合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒,那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬.霍金(Stephen Hawking) 英國理論物理學家

大約在八十年前,當第一台數位計算機出現時,一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧;但七十年後,還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」(Artificial Intelligent,簡稱 AI)的能力最近十年突然起飛,在許多(所有?)領域的測試中擊敗了人類,正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元(graphic process unit,簡稱 GPU)是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia(英偉達)股票從每股不到 $5,上升到今天(5 月 24 日)每股超過 $1000(註一)的全世界第三大公司,其創辦人(之一)兼首席執行官、出生於台南的黃仁勳(Jenson Huang)也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人!可是多少人了解圖形處理單元是什麼嗎?到底是時勢造英雄,還是英雄造時勢?

黃仁勳出席2016年台北國際電腦展
Nvidia 的崛起究竟是時勢造英雄,還是英雄造時勢?圖/wikimedia

在回答這問題之前,筆者得先聲明筆者不是學電腦的,因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事,不是我們外行人需要了解的;但作為一位現在的知識分子或公民,了解基本原理則是必備的條件:例如了解「能量不滅定律」就可以不用仔細分析,即可判斷永動機是騙人的;又如現在可攜帶型冷氣機充斥市面上,它們不用往室外排廢熱氣,就可以提供屋內冷氣,讀者買嗎?

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」(central process unit,簡稱 CPU)。CPU 是電腦的「腦」,其電子電路負責處理所有軟體正確運作所需的所有任務,如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作;但為了簡單化,我們在這裡所談的工作將只是執行算術和邏輯運算的工作(arithmetic and logic unit,簡稱 ALU),如將兩個數加在一起。在這一簡化的定義下,CPU 在任何一個時刻均只能執行一件工作而已。

-----廣告,請繼續往下閱讀-----

在個人電腦剛出現只能用於一般事物的處理時,CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後,CPU 開始顯示心有餘而力不足:例如電玩動畫需要應用程式處理數以萬計的像素(pixel),每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年,英偉達將其一「具有集成變換、照明、三角形設定/裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」(註二)定位為「世界上第一款 GPU」,「GPU」這一名詞於焉誕生。不像 CPU,GPU 可以在同一個時刻執行許多算術和邏輯運算的工作,快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢?因每一時刻只能做一件事,所以其步驟為:

  • 計算 7×5;
  • 計算 6/3;
  • 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢?很多工作便可以同時(平行)進行:

-----廣告,請繼續往下閱讀-----
  • 同時計算 7×5 及 6/3;
  • 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間,但如果我們有 16 對 a×b 要相加呢?單獨的 CPU 需要 31 個運算的時間(16 個 × 的運算時間及 15 個 + 的運算時間),而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間(1 個 × 的運算時間及 4 個 + 的運算時間)!

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了,如何將它擺正成右圖呢? 一句話:「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點(座標 x, y)組成的,所以這句簡單的話可讓 CPU 忙得不亦樂乎了:每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

-----廣告,請繼續往下閱讀-----

即每一點均需要做四個 × 及兩個 + 的運算!如果每一運算需要 10-6 秒,那麼讓《我愛科學》一書做個簡單的角度旋轉,便需要 6 秒,這豈是電動玩具畫面變化所能接受的?

圖形處理的例子

人類的許多發明都是基於需要的關係,因此電腦硬件設計家便開始思考:這些點轉換都是獨立的,為什麼我們不讓它們同時進行(平行運算,parallel processing)呢?於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 106 運算,那上圖的轉換只需 10-6 秒鐘!

GPU 的興起

GPU 可分成兩種:

  • 整合式圖形「卡」(integrated graphics)是內建於 CPU 中的 GPU,所以不是插卡,它與 CPU 共享系統記憶體,沒有單獨的記憶體組來儲存圖形/視訊,主要用於大部分的個人電腦及筆記型電腦上;早期英特爾(Intel)因為不讓插卡 GPU 侵蝕主機的地盤,在這方面的研發佔領先的地位,約佔 68% 的市場。
  • 獨立顯示卡(discrete graphics)有不與 CPU 共享的自己專用內存;由於與處理器晶片分離,它會消耗更多電量並產生大量熱量;然而,也正是因為有自己的記憶體來源和電源,它可以比整合式顯示卡提供更高的效能。

2007 年,英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後,科學家發現獨立 GPU 不但能夠快速處理圖形變化,在需要大量計算才能實現特定結果的任務上也非常有效,因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理,不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化,也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬(註三)等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分,正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲,遠遠落在英偉達(80%)及超微半導體公司(Advance Micro Devices Inc.,19%,註四)之後,大約只有 1% 的市場。

-----廣告,請繼續往下閱讀-----
典型的CPU與GPU架構

事實上現在的中央處理單元也不再是真正的「單元」,而是如圖二可含有多個可以同時處理運算的核心(core)單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心,因此其核心功能不如 CPU 核心強大,但它們能同時高速執行大量相同的指令,在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心;GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書,不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等,也知道它擺斜了。這種「平行運作」的能力不僅限於視覺,它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是:嘴巴在講,腦筋思考已經不知往前跑了多少公里,常常為了追趕而越講越快,將不少學生拋到腦後!這不表示筆者聰明,因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技,因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣(matrix)的讀者應該知道,如果用矩陣和向量(vector)表達,上面所談到之座標轉換將是非常簡潔的(註五)。而矩陣和向量計算正是機器學習(machine learning)演算法的基礎!也正是獨立圖形處理單元最強大的功能所在!因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石:它們的架構就是充分利用並行處理,來快速執行多個操作,進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」(deep learning)。

黃仁勳在 5 月 22 日的發布業績新聞上謂:「下一次工業革命已經開始了:企業界和各國正與英偉達合作,將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升,幫助企業降低成本和提高能源效率,同時擴大收入機會。」

附錄

人工智慧的實用例子:下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後,讀者是不是認為筆者該退休了?

-----廣告,請繼續往下閱讀-----

GPU(圖形處理單元)和 AI(人工智慧)之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力,特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步,使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率,使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐,而且使其更具成本效益,因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展,GPU 的角色可能會變得更加不可或缺,推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標,這些神經元網路可以獨立但有凝聚力地工作,使我們能夠執行複雜的任務,例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外,研究表明,與非人類動物相比,人類大腦具有更多平行通路,這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上,一邊聽音樂一邊做飯,或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技,因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵:透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

(註一)當讀者看到此篇文章時,其股票已一股換十股,現在每一股約在 $100 左右。

(註二)組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」(GeForce 256)插卡吧?

(註三)筆者於 1984 年離開清華大學到 IBM 時,就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士(fellow)」Enrico Clementi 的團隊:因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層,我們只能自己寫軟體將 8 台中型電腦(非 IBM 品牌!)與一大型電腦連接來做平行運算,進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

-----廣告,請繼續往下閱讀-----

(註四)補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商:英偉達及 ATI(Array Technology Inc.)。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立,2006 年被超微半導體公司收購,品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐(Lisa Tzwu-Fang Su)博士為執行長後,股票從每股 $4 左右,上升到今天每股超過 $160,其市值已經是英特爾的兩倍,完全擺脫了在後者陰影下求生存的小眾玩家角色,正在挑戰英偉達的 GPU 市場。順便一題:超微半導體公司現任總裁(兼 AI 策略負責人)為出生於台北的彭明博(Victor Peng);與黃仁勳及蘇姿豐一樣,也是小時候就隨父母親移居到美國。

(註五)

延伸閱讀

  • 熱力學與能源利用」,《科學月刊》,1982 年 3 月號;收集於《我愛科學》(華騰文化有限公司,2017 年 12 月出版),轉載於「嘉義市政府全球資訊網」。
  • 網路安全技術與比特幣」,《科學月刊》,2020 年 11 月號;轉載於「善科教育基金會」的《科技大補帖》專欄。
文章難易度

討論功能關閉中。

賴昭正_96
43 篇文章 ・ 56 位粉絲
成功大學化學工程系學士,芝加哥大學化學物理博士。在芝大時與一群留學生合創「科學月刊」。一直想回國貢獻所學,因此畢業後不久即回清大化學系任教。自認平易近人,但教學嚴謹,因此穫有「賴大刀」之惡名!於1982年時當選爲 清大化學系新一代的年青首任系主任兼所長;但壯志難酬,兩年後即辭職到美留浪。晚期曾回台蓋工廠及創業,均應「水土不服」而鎩羽而歸。正式退休後,除了開始又爲科學月刊寫文章外,全職帶小孫女(半歲起);現已成七歲之小孫女的BFF(2015)。首先接觸到泛科學是因爲科學月刊將我的一篇文章「愛因斯坦的最大的錯誤一宇宙論常數」推薦到泛科學重登。

2

1
1

文字

分享

2
1
1
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

所有討論 2
研之有物│中央研究院_96
296 篇文章 ・ 3568 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

3

6
1

文字

分享

3
6
1
如何 3D 列印不會崩壞的蛋糕?
胡中行_96
・2023/03/30 ・1892字 ・閱讀時間約 3 分鐘

-----廣告,請繼續往下閱讀-----

「那無疑是我從沒嚐過的味道」,論文的第一兼通訊作者 Jonathan David Blutinger 回想起初期的失敗,委婉地承認:「其實不難吃,只是與眾不同。我們畢竟不是米其林大廚。」[1]所幸皇天不負苦心人,在多次修正後,美國哥倫比亞大學的團隊,終於做出原料一樣,但是不再坍塌的蛋糕,並於 2023 年 3 月的《npj 食品科學》(npj Science of Food)期刊上分享食譜。[2]

3D列 印蛋糕的失敗百態。圖/參考資料 2,Supplementary Figure 1(CC BY 4.0)

3D 列印蛋糕的食譜

研究團隊的終極目標,是希望將來任何人均能用簡單的軟體烹飪,3D 列印再雷射加熱,創造經濟、健康且美味的餐點。他們選擇的食材相當普遍,全部都從美國紐約的 Appletree Market 超商購買。[2]

材料

Skippy 花生醬、J.M. Smucker 草莓果醬、Nutella 榛果巧克力醬、Betty Crocker 糖霜、Krasdale櫻桃淋醬、拿叉子搗爛的香蕉泥;以及用食物調理機攪 2 分鐘製成的全麥餅乾糊(8 塊全麥餅乾、2 湯匙的牛油和 4 茶匙的水)。[2]

步驟

(1)冷藏材料,使其變得濃稠,以穩定結構。[2]

-----廣告,請繼續往下閱讀-----

(2)把各種材料灌入分別的 7 支針筒(30ml;14 gauge)。[2]

(圖/參考資料 2,Supplementary Figure 3(CC BY 4.0))

(3)將針筒裝進特製的 3D 食物印表機。[2]

(圖/參考資料 2,Supplementary Figure 2(CC BY 4.0))

(4)把壓克力餐盤擺在 3D 印表機下,盛接針筒擠出的條狀物。其直徑約 1.5 毫米,會逐漸累積出蛋糕的半成品。[2]

(5)論文有寫到運用藍光和紅外線,為蛋糕加熱。不過,實驗方法的段落,僅提及 3D 印表機附設的藍光雷射二極體(blue laser diode),也就是下圖中黑色的長方體。[2]

-----廣告,請繼續往下閱讀-----
圖/參考資料 2,Supplementary Figure 4(Left;CC BY 4.0)
3D 列印蛋糕從失敗到成功的各個版本。影/參考資料 2,Supplementary Video 1(CC BY 4.0)

從上面的影片,可見早期幾個版本的蛋糕,非常容易崩垮。[2]研究團隊於是依據物質受力變形時,展現的黏性和彈性特質,即黏彈性(viscoelasticity),將食材分為「結構」與「填料」兩類,並在軟體中改變設計:[2, 3]用結構性強的全麥餅乾糊,作為蛋糕各層的形狀基礎,又以花生醬和榛果巧克力醬輔助支撐,再填入其他相對柔軟的原料。最後,他們調整 3D 印表機的針筒高度,並減緩列印的速度。如此擠出來的流體,尾端便不會蜷曲。能避免繩捲效應(coiling effect或rope-coil effect),破壞蛋糕表面的平整。要不然有時會出現本文開頭的圖組中,最末一塊蛋糕那種毛躁的外貌。[2]

a. 列印成功的蛋糕;b. 切開看內餡;c. 蛋糕設計;d. (1)全麥餅乾糊、(2)花生醬、(3)草莓果醬、(4)榛果巧克力醬、(5)香蕉泥、(6)櫻桃淋醬和(7)糖霜。圖/參考資料 2,Figure 1(CC BY 4.0)

3D 列印食品的推廣

目前 3D 列印食物尚未普及,此蛋糕的成形有如曇花一現。這一方面是基於科技新穎,懂得操作的人還少;另方面則因為這種印表機索價不菲,不是誰都玩得起。如果要商業化,研究團隊認為得採取 Gillette 刮鬍刀和 Nespresso 咖啡機的經營模式:壓低主要產品本身的價格,後續再從耗材獲利。換句話說,廠商賣出廉價的 3D 食物印表機,之後消費者就會以零買或長期訂購的模式,購買列印用的食譜和食物匣。食物匣的內容物,發展空間多元。除了碎肉和花生醬等泥狀物;也能推出醬油、橄欖油等液體;食鹽與胡椒之類的顆粒;還有百里香或香芹這類碎片等,任何可食用的東西。[2]

此外,在薄利多銷和產品開發的同時,也要提升大眾的接受度。偏好天然食材,或是不信任食品產業,都是對 3D 食物列印存有疑慮的原因。研究團隊提出的解方,是宣傳它的好處,例如:精準調配營養,不浪費材料;降低能源耗損;以及客製化的食譜等。[2]當然,似乎也就避而不談犧牲纖維質,以求列印順暢等問題。[1]總之,他們描繪出科技烹飪的美好願景,並且排除萬難,要讓飲食邁向全新時代。倘若有天上述的市場成熟,產品賣相比論文中的蛋糕誘人,您會願意品嚐嗎?

  

-----廣告,請繼續往下閱讀-----

致謝

特別感謝許凱勝先生協助確認技術細節。

參考資料

  1. Sample I. (22 MAR 2023) ‘Have your cake and print it: the 3D culinary revolution is coming’. The Guardian.
  2. Blutinger, J.D., Cooper, C.C., Karthik, S. et al. (2023) ‘The future of software-controlled cooking’. npj Science of Food, 7, 6.
  3. Gan H, LAM Y. (2008). ‘Viscoelasticity’. In: Li, D. (eds) Encyclopedia of Microfluidics and Nanofluidics. Springer, Boston, MA.
所有討論 3
胡中行_96
169 篇文章 ・ 65 位粉絲
曾任澳洲臨床試驗研究護理師,以及臺、澳劇場工作者。 西澳大學護理碩士、國立台北藝術大學戲劇學士(主修編劇)。邀稿請洽臉書「荒誕遊牧」,謝謝。