0

5
0

文字

分享

0
5
0

「封鎖境外侵權網站」 可以保護著作權? 貴哥向背書此政策的資訊教授下戰帖

洪朝貴
・2013/05/22 ・2798字 ・閱讀時間約 5 分鐘 ・SR值 551 ・八年級

-----廣告,請繼續往下閱讀-----

騎士大戰惡龍

媒體報導: 「網上看院線片 境外侵權網站擬封鎖」。 小格已經有太多文章解釋為何意圖透過管制網路達到保護智財是不可行的 — 最終, 著作權跟人權只能二選一。 但是主流媒體及大學(!) 長期協助利益團體 『智財洗腦』 (請搜尋) 以致許多人看不見網路管制對於人權與言論自由的危害。 本文針對 「封鎖 ip」 一事, 從背景、 時間點、 可行性的角度摘要連結一些中英文文章, 希望將來智財局舉行公聽會時, 有朋友可以提出來; 同時也向那些 (有人嗎?) 敢替此項政策背書的資訊教授下戰帖。

首先, 有網友表示: 「先抓台灣境內的盜版才對吧?」 這當然不是政府的首要工作。 大家要先認清一個 (政府單位及大學不會承認的) 事實: 臺灣的智財法律/檢警體系/教育系統所發生的智財保護政策或重大案件, 從來就是由美國的利益團體在主導的, 從來就不是在服務國內的著作權人。 還記得 Now.in 抄臺事件 嗎? 主導者是 國際著作權權利組織 IFPI。 傷害無辜的獨立創作者不說, 就連正在談權利金的 國內著作權權利組織 MUST 的利益都受到傷害。 請告訴我這個行動保護了國內哪一位創作者的權利? 更早以前, 2009 年莫名奇妙通過的 盜版三振法案 以及 2007 年 微軟拒絕簽署 「反對非法拷貝聯合聲明」 (而教育部跟法務部不敢出席) 的事件都一再地說明: 「保護智財」 這個說辭, 從來就不是從國人自身的利益出發。 教育部每學期發給各大學的 智財宣導公文, 直到現在還是對合法免費的替代方案隻字不提, 請告訴我這符合了國人哪些自身利益?

為什麼美國會選在這個時間點對我國政府提出這樣的要求? 可能有很多原因; 不過臺菲衝突 ( 我的建議: 送 GPS 行船記錄器給其他鄰國) 很可能正好成為美國對雙方施以小惠的談判籌碼。 另外, 「管制 DNS 與 IP」 這項舉動正好符合美國大力推動的 智財無限上綱侵權密約 TPP 想做的事。 ( 請協助補充維基百科條目的 「爭議」 一節。)

再來談到管制方式本身的爭議。 「以 IP 位址或 DNS」 的方式封鎖侵權網站, 這個封鎖黑名單不能公開, 因為一公開就更加替這些網站廣告。 這個清單會一直改變, 因為被封鎖的網站會搬來搬去。 具有這種特性的黑箱作業封鎖清單, 正是獨裁政府最喜歡的言論管制工具。 「智慧局強調, 國際上對境外重大侵權網站採取封鎖措施者所在多有…」 但這些是什麼樣的國家? 小格讀者及我的噗友都知道: 美國早已不是民主國家追殺資訊自由化推手 維安劇場生物專利帝國主義 蘋果與美國情治單位、 … 也請搜尋 「collateral murder」、 「taping police」、 「jefferson dance police」、 …); 英國我比較少報導 不過請見英文維基頁面: 英國言論管制 並在該頁搜尋 「201」 — 最近三幾年特別明顯。 哦對了, 還有 南韓言論管制 馬來西亞言論管制 頁面。 黑箱作業的封鎖清單造成無辜網站被封鎖的案例, 澳洲阻絕色情 是一個借鏡: 巴士公司﹑ 牙醫﹑ 旅行社﹑ 維基百科的某些頁面﹑ google 與 yahoo 群組都不知為什麼被封鎖了。

-----廣告,請繼續往下閱讀-----

如果不是 wikileaks 揭露, 沒有人會知道管理清單的人會暗中動什麼手腳, 自行把一些他不喜歡的網站列入封鎖清單。 Google 被 DMCA 智財惡法逼迫必須撤下某些搜尋結果, 但至少公佈透明報告, 在這樣的背景之下, 電影產業竟然還是敢 謊稱自己是 TPB:AFK 影片的著作權人, 用 DMCA 進行言論管制、 要求撤片。 這種行為叫做 「著作權詐騙」 copyfraud — TPB:AFK 根本是獨立創作家拍的海盜灣紀錄片, 原創者以創用 CC 方式分享大眾拷貝。 為什麼電影產業不只想封鎖海盜灣, 還想封鎖談論它的記錄片? 因為他們不想讓大眾知道: 盜版並非海盜灣的唯一功用, 它還是 維護人權/自由/隱私 力挺遭受騷擾九歲小女孩 傳承學術論文 的重要網站。 過去的這些案例 — 特別是利益團體一再重複的侵犯人權行為 — 不斷地提醒我們: 如果讓這樣的法案通過, 小格這類揭發利益團體醜惡真相的網站有一天被列為侵權網站 (或是恐怖份子網站 — 這個藉口也很常被拿來用) 而默默地消失, 這也是不無可能的事。

最後談技術問題。 我有一個建議: 請智財局找幾位資訊教授具名挺身幫這個腦殘的封鎖 「技術」 背書, 公開對大眾說明它能有效防止侵權。 我很樂意跟他們公開辯論。 沒有資訊教授敢公開說謊葬送自己的專業信譽啦。 只需要設定改用 BlockAid 作為你的 DNS, 連軟體都不必下載, 就可以繞過 DNS 封鎖。 至於數字 IP 位址遭到封鎖, 就必須翻牆。 如果政府真的開始封鎖, 那麼我很有興趣到處演講, 教大家翻牆。

老實說, 我並非頂尖的翻牆高手, 只是有足夠的基本概念、 懂得搜尋 參考資料, 大約足以見招拆招而已。 我之所以公開聲明想要開班授課, 是想說明一件事: 如果檢警沒有阻止我, 那麼封鎖 IP 就是無效的; 如果檢警阻止我, 那麼就是向世界宣告 (我會寫一帖英文文章): 在臺灣, 「教授某些資訊技術」 被排除在言論自由保護之外; 如果我國政府默默地學習北京政府 封鎖 VPN, 讓企業 — 任何產業的企業 — 無法保護自身商業機密, 那就等著準備面對國際企業出走潮。 最好是商業公司而不是大學來邀請我去開課, 而且請在網路上公開廣告招生。 我要靠 「教授翻牆」 光明正大地營利賺錢 :-) 我要捍衛的, 是完整的言論自由, 而不是僅限於 「非商業使用的學術自由」。 當然, 如果上述 「敢具名背書封鎖 IP 可以有效保護智財」 的教授所屬的學校邀請我去開課教授翻牆, 我也很有興趣把這些技術與他和他的同事們分享 :-)

我們的網際網路有兩個演化的方向: 駭客任務版中央集權的監控網路, 或是潘朵拉星版的民主網路。 保護智財、 阻絕色情等等封鎖資訊的大旗, 經常成為一個好用的藉口, 方便政府推動網路集權化 — 最終握有控制權的甚至也將不會是我們所以為的自己選出來的政府, 而會是一個 中美聯合防火長城共同模範省 的傀儡政府。 請網友張開眼睛、 請資訊教授發揮學術良知和 職業道德, 把真相傳遞給更多人知道。 最後, 如果在欠缺資訊教授背書的情況下, 智財局仍舊執意推行, 那麼就將再次證明小格一再指出的: (1) 關於智慧財產權議題, 我們的政府服務的對象並非國人, 而是外國的利益團體。 (2) 其實他們並不在乎能否有效保護智慧財產, 只在乎能否強化網路管制或是能否協助美國利益團體、 貫徹其管制網路的意志。

-----廣告,請繼續往下閱讀-----

[5/27 更新] 網友在 Hackpad 上成立了這個專頁: 「Against the Master Switch 挑戰總開關」, 整理了爭議點、 技術、 國際相關立法、 網友評論文章、 … 等等各種清單。 也在 google groups 成立了通訊論譠。

(本文轉載自 資訊人權貴ㄓ疑)

文章難易度
洪朝貴
47 篇文章 ・ 1 位粉絲

0

2
2

文字

分享

0
2
2
圖形處理單元與人工智慧
賴昭正_96
・2024/06/24 ・6944字 ・閱讀時間約 14 分鐘

  • 作者/賴昭正|前清大化學系教授、系主任、所長;合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒,那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬.霍金(Stephen Hawking) 英國理論物理學家

大約在八十年前,當第一台數位計算機出現時,一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧;但七十年後,還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」(Artificial Intelligent,簡稱 AI)的能力最近十年突然起飛,在許多(所有?)領域的測試中擊敗了人類,正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元(graphic process unit,簡稱 GPU)是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia(英偉達)股票從每股不到 $5,上升到今天(5 月 24 日)每股超過 $1000(註一)的全世界第三大公司,其創辦人(之一)兼首席執行官、出生於台南的黃仁勳(Jenson Huang)也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人!可是多少人了解圖形處理單元是什麼嗎?到底是時勢造英雄,還是英雄造時勢?

黃仁勳出席2016年台北國際電腦展
Nvidia 的崛起究竟是時勢造英雄,還是英雄造時勢?圖/wikimedia

在回答這問題之前,筆者得先聲明筆者不是學電腦的,因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事,不是我們外行人需要了解的;但作為一位現在的知識分子或公民,了解基本原理則是必備的條件:例如了解「能量不滅定律」就可以不用仔細分析,即可判斷永動機是騙人的;又如現在可攜帶型冷氣機充斥市面上,它們不用往室外排廢熱氣,就可以提供屋內冷氣,讀者買嗎?

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」(central process unit,簡稱 CPU)。CPU 是電腦的「腦」,其電子電路負責處理所有軟體正確運作所需的所有任務,如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作;但為了簡單化,我們在這裡所談的工作將只是執行算術和邏輯運算的工作(arithmetic and logic unit,簡稱 ALU),如將兩個數加在一起。在這一簡化的定義下,CPU 在任何一個時刻均只能執行一件工作而已。

-----廣告,請繼續往下閱讀-----

在個人電腦剛出現只能用於一般事物的處理時,CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後,CPU 開始顯示心有餘而力不足:例如電玩動畫需要應用程式處理數以萬計的像素(pixel),每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年,英偉達將其一「具有集成變換、照明、三角形設定/裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」(註二)定位為「世界上第一款 GPU」,「GPU」這一名詞於焉誕生。不像 CPU,GPU 可以在同一個時刻執行許多算術和邏輯運算的工作,快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢?因每一時刻只能做一件事,所以其步驟為:

  • 計算 7×5;
  • 計算 6/3;
  • 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢?很多工作便可以同時(平行)進行:

-----廣告,請繼續往下閱讀-----
  • 同時計算 7×5 及 6/3;
  • 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間,但如果我們有 16 對 a×b 要相加呢?單獨的 CPU 需要 31 個運算的時間(16 個 × 的運算時間及 15 個 + 的運算時間),而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間(1 個 × 的運算時間及 4 個 + 的運算時間)!

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了,如何將它擺正成右圖呢? 一句話:「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點(座標 x, y)組成的,所以這句簡單的話可讓 CPU 忙得不亦樂乎了:每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

-----廣告,請繼續往下閱讀-----

即每一點均需要做四個 × 及兩個 + 的運算!如果每一運算需要 10-6 秒,那麼讓《我愛科學》一書做個簡單的角度旋轉,便需要 6 秒,這豈是電動玩具畫面變化所能接受的?

圖形處理的例子

人類的許多發明都是基於需要的關係,因此電腦硬件設計家便開始思考:這些點轉換都是獨立的,為什麼我們不讓它們同時進行(平行運算,parallel processing)呢?於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 106 運算,那上圖的轉換只需 10-6 秒鐘!

GPU 的興起

GPU 可分成兩種:

  • 整合式圖形「卡」(integrated graphics)是內建於 CPU 中的 GPU,所以不是插卡,它與 CPU 共享系統記憶體,沒有單獨的記憶體組來儲存圖形/視訊,主要用於大部分的個人電腦及筆記型電腦上;早期英特爾(Intel)因為不讓插卡 GPU 侵蝕主機的地盤,在這方面的研發佔領先的地位,約佔 68% 的市場。
  • 獨立顯示卡(discrete graphics)有不與 CPU 共享的自己專用內存;由於與處理器晶片分離,它會消耗更多電量並產生大量熱量;然而,也正是因為有自己的記憶體來源和電源,它可以比整合式顯示卡提供更高的效能。

2007 年,英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後,科學家發現獨立 GPU 不但能夠快速處理圖形變化,在需要大量計算才能實現特定結果的任務上也非常有效,因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理,不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化,也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬(註三)等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分,正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲,遠遠落在英偉達(80%)及超微半導體公司(Advance Micro Devices Inc.,19%,註四)之後,大約只有 1% 的市場。

-----廣告,請繼續往下閱讀-----
典型的CPU與GPU架構

事實上現在的中央處理單元也不再是真正的「單元」,而是如圖二可含有多個可以同時處理運算的核心(core)單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心,因此其核心功能不如 CPU 核心強大,但它們能同時高速執行大量相同的指令,在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心;GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書,不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等,也知道它擺斜了。這種「平行運作」的能力不僅限於視覺,它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是:嘴巴在講,腦筋思考已經不知往前跑了多少公里,常常為了追趕而越講越快,將不少學生拋到腦後!這不表示筆者聰明,因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技,因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣(matrix)的讀者應該知道,如果用矩陣和向量(vector)表達,上面所談到之座標轉換將是非常簡潔的(註五)。而矩陣和向量計算正是機器學習(machine learning)演算法的基礎!也正是獨立圖形處理單元最強大的功能所在!因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石:它們的架構就是充分利用並行處理,來快速執行多個操作,進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」(deep learning)。

黃仁勳在 5 月 22 日的發布業績新聞上謂:「下一次工業革命已經開始了:企業界和各國正與英偉達合作,將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升,幫助企業降低成本和提高能源效率,同時擴大收入機會。」

附錄

人工智慧的實用例子:下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後,讀者是不是認為筆者該退休了?

-----廣告,請繼續往下閱讀-----

GPU(圖形處理單元)和 AI(人工智慧)之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力,特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步,使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率,使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐,而且使其更具成本效益,因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展,GPU 的角色可能會變得更加不可或缺,推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標,這些神經元網路可以獨立但有凝聚力地工作,使我們能夠執行複雜的任務,例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外,研究表明,與非人類動物相比,人類大腦具有更多平行通路,這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上,一邊聽音樂一邊做飯,或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技,因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵:透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

(註一)當讀者看到此篇文章時,其股票已一股換十股,現在每一股約在 $100 左右。

(註二)組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」(GeForce 256)插卡吧?

(註三)筆者於 1984 年離開清華大學到 IBM 時,就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士(fellow)」Enrico Clementi 的團隊:因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層,我們只能自己寫軟體將 8 台中型電腦(非 IBM 品牌!)與一大型電腦連接來做平行運算,進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

-----廣告,請繼續往下閱讀-----

(註四)補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商:英偉達及 ATI(Array Technology Inc.)。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立,2006 年被超微半導體公司收購,品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐(Lisa Tzwu-Fang Su)博士為執行長後,股票從每股 $4 左右,上升到今天每股超過 $160,其市值已經是英特爾的兩倍,完全擺脫了在後者陰影下求生存的小眾玩家角色,正在挑戰英偉達的 GPU 市場。順便一題:超微半導體公司現任總裁(兼 AI 策略負責人)為出生於台北的彭明博(Victor Peng);與黃仁勳及蘇姿豐一樣,也是小時候就隨父母親移居到美國。

(註五)

延伸閱讀

  • 熱力學與能源利用」,《科學月刊》,1982 年 3 月號;收集於《我愛科學》(華騰文化有限公司,2017 年 12 月出版),轉載於「嘉義市政府全球資訊網」。
  • 網路安全技術與比特幣」,《科學月刊》,2020 年 11 月號;轉載於「善科教育基金會」的《科技大補帖》專欄。
文章難易度

討論功能關閉中。

賴昭正_96
43 篇文章 ・ 54 位粉絲
成功大學化學工程系學士,芝加哥大學化學物理博士。在芝大時與一群留學生合創「科學月刊」。一直想回國貢獻所學,因此畢業後不久即回清大化學系任教。自認平易近人,但教學嚴謹,因此穫有「賴大刀」之惡名!於1982年時當選爲 清大化學系新一代的年青首任系主任兼所長;但壯志難酬,兩年後即辭職到美留浪。晚期曾回台蓋工廠及創業,均應「水土不服」而鎩羽而歸。正式退休後,除了開始又爲科學月刊寫文章外,全職帶小孫女(半歲起);現已成七歲之小孫女的BFF(2015)。首先接觸到泛科學是因爲科學月刊將我的一篇文章「愛因斯坦的最大的錯誤一宇宙論常數」推薦到泛科學重登。

2

1
1

文字

分享

2
1
1
讓 AI 取代真人執法可行嗎?將判斷全交給 AI 可能隱藏什麼危險?——專訪中研院歐美研究所陳弘儒助研究員
研之有物│中央研究院_96
・2024/03/18 ・6292字 ・閱讀時間約 13 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文|劉韋佐
  • 責任編輯|田偲妤
  • 美術設計|蔡宛潔

人工智慧將改變以人為主的法治領域?

由人工智慧擔任警察,再也不是科幻電影的情節,交通管制常見的科技執法就是應用 AI 辨識闖紅燈、未依規定轉彎、車輛不停讓行人等違規行為。 AI 的客觀、高效率正在挑戰以人為審判主體的法治領域,這樣的轉變會對我們產生什麼影響呢?中央研究院「研之有物」專訪院內歐美研究所陳弘儒助研究員,他將帶我們思考:當 AI 取代人類執法時,將如何改變人們對守法的認知?

交通尖峰時段,後方出現一台救護車,你願意闖紅燈讓道嗎?
圖|iStock

想像有一天你正在尖峰時段開車,車子停在十字路口等紅燈時,後方出現一輛急駛而來的救護車,你為了讓道必須開過停止線。這時你是否願意冒著違規被開罰的風險?還是承擔風險以換取他人盡速就醫?

在上述情境中,針對「要不要闖紅燈」我們經歷了一段價值判斷過程。如果剛好十字路口有真人警察,他的判斷可能是:這是情急之下不得不的行為,並非蓄意違規。

然而,如果負責執法的是「法律人工智慧系統」(Artificially legal intelligent,簡稱 ALI)情況可能截然不同。

-----廣告,請繼續往下閱讀-----

ALI 這個詞源自 Mireille Hildebrandt 的研究,在概念上可區分為兩類:採取傳統程式碼的 IFTTT(if this then that)、運用機器學習的資料驅動。前者是注重法律推理或論證的計算機模型,將法律規範轉為程式碼,藉由程式編寫來執行法律任務。後者則透過大量資料的學習,來預測行為範式,用於再犯率、判決結果預測上有較好的成果。

一般情況下,應用在交通管制的 ALI 會辨識車輛是否超速、闖紅燈等違規行為,不過交通情境千變萬化,ALI 能否做出包含「道德價值的判斷」將是一大挑戰!

中研院歐美研究所陳弘儒助研究員察覺,人工智慧(AI)正在左右人們對守法的價值判斷及背後的因果結構,進而反思當我們將原本由人來判斷的事項,全權交由 AI 來執行時,可能產生哪些潛移默化的影響?

讓我們與陳弘儒展開一場從法哲學出發的對話,探索 AI 與法治價值之間的緊張關係。

-----廣告,請繼續往下閱讀-----
中研院歐美研究所陳弘儒助研究員,從法哲學出發,探索 AI 與法治價值之間的緊張關係。
圖|之有物

問

怎麼會對「人工智慧」(AI)與「法律人工智慧系統」(ALI)產生研究興趣?

會對 AI 感興趣是因為我很早就對電腦有興趣,我原本大學想唸資訊工程,因為高中有些科目沒辦法唸,於是去唸文組,大學進入法律系就讀,研究所考入「基礎法學組」研讀法哲學。

後來我到美國讀書,當時 AlphaGo 的新聞造成很大的轟動,啟發我思考 AI 的應用應該有些法律課題值得探討,於是開始爬梳 AI 與法律的發展脈絡。

AI 這個詞大概在 1950 年代被提出,而 AI 與法律相關的討論則在 1970、80 年代就有學者開始思考:我們能否將法律推理過程電腦程式化,讓電腦做出跟法律人一樣的判斷?

事實上,AI 沒有在做推理,它做的是機率的演算,但法律是一種規範性的判斷,所有判斷必須奠基在法律條文的認識與解釋上,給予受審對象合理的判決理由。

這讓我好奇:如果未來廣泛應用 AI 執法,法律或受法律規範的民眾會怎麼轉變?

-----廣告,請繼續往下閱讀-----

至於真正開始研究「法律人工智慧系統」(ALI)是受到我父親的啟發。有一陣子我經常開車南北往返,有一天我跟父親聊到用區間測速執法的議題。交通部曾在萬里隧道使用區間測速,計算你在隧道裡的平均速率,如果超速就開罰。

父親就問我:「政府有什麼理由用區間測速罰我?如果要開罰就必須解釋是哪一個時間點超速。」依照一般的數學邏輯,你一定有在某個時間點超速,所以平均起來的速率才會超過速限,可是法律判斷涉及規範性,我們必須思考背後的正當性課題,不能只用邏輯解釋,這啟發我逐漸把問題勾勒出來,試圖分析執法背後的規範性意涵。

問

如果將執行法律任務的權限賦予 AI,可能暗藏什麼風險?

我們先來談人類和 AI 在做判斷時的差別。人類無時無刻都在做判斷,判斷的過程通常會先做「區分」,例如在你面前有 A 和 B 兩個選項,在做判斷前必須先把 A 和 B 區分開來,讓選項有「可區別性」。

在資料龐大的情況下,AI 的優勢在於能協助人類快速做好區分,可是做判斷還需經歷一段 AI 難以觸及的複雜過程。人類在成長過程中會發展出一套顧及社會與文化認知的世界觀,做判斷時通常會將要區分的選項放進這個世界觀中,最終做出符合社會或自身考量的抉擇。

-----廣告,請繼續往下閱讀-----

當我們將判斷程序交由 AI 執行,就會涉及「判斷權限移轉」的問題,這經常在日常生活中發生,你只要發現原本自己可以執行的事情,有另外一個對象做的比你好或差不多好,你就會漸漸把判斷的工作交給它,久而久之,你大概會覺得這是很好的做法,因為可以節省大量時間。

自駕車導航系統就是判斷權限移轉的例子,由於導航通常可以找出最佳行車路線,駕駛人幾乎會跟著走,但仍有可能誤入路況不佳或無法通行的地方。
圖|Vladimir Srajber, Pexels

我擔心這種判斷權限移轉會快速且廣泛的發生,因為 AI 的工作效率極高,可以大幅節省人力成本,但是哪一些權限可以放給 AI?哪一些權限人類一定要守住?我們經常沒有充足的討論,等到發生問題再亡羊補牢可能為時已晚。

以讓道給救護車而闖紅燈的情境為例,如果讓 AI 來做交管,可以節省警察人力,又可以快速精準地開罰,卻迫使民眾需額外花時間,證明闖紅燈有正當理由。如果是真人警察來判斷,警察通常會認為你的行為有正當理由而不開罰。這對於受法律規範的民眾來說,會產生兩種全然不同的規範作用。

AI 產生的規範作用會讓民眾擔心事後銷單的麻煩程序,如果無法順利解決,可能會訴諸民意代表或上爆料公社,並漸漸改變民眾對守法的態度。而真人警察產生的規範作用,將使民眾自主展現對法律的高度重視,雖然當下的行為牴觸法律,卻是行為人經過多方權衡後做的判斷,相信法律會支持自己出於同理心的行為。

-----廣告,請繼續往下閱讀-----

問

使用 AI 執法除了看上它的高效率,也是因為和真人相比 AI 不會受私情影響,比較可以做出公正的判斷。如果從法治觀念來看,為何決策權不能全權交由 AI 執行?

我認為法治的核心價值在臺灣並沒有很好的發展,我們常想的是怎麼用處罰促成民眾守法,長久下來可能會得到反效果。當人們養成凡事規避處罰的習慣,一旦哪天不再受法律約束,可能會失去守法的動機。

事實上,法治最根深柢固的價值為:

法律作為一種人類行為規範的展現,促使民眾守法的方式有很多種,關鍵在於尊重人的道德自主性,並向民眾陳述判決理由。

給理由非常重要,可以讓民眾不斷透過理由來跟自己和法律體系溝通。如此也可以形成一種互惠關係,使民眾相信,國家公權力能用適當的理由來制定法律,而制定出的法律是以尊重公民自主性為主。當民眾理解法律對我所處的社會有利,會比較願意自動產生守法的動機。

AI 執法看似比人類「公正無私」,但它的執法方式以處罰為主、缺乏理由陳述,也沒有對具體情境的「敏感性」。人跟人之間的互動經常需要敏感性,這樣才能理解他人到底在想什麼。這種敏感性是要鍛鍊的,真人警察可在執法過程中,透過拿捏不同情境的處理方式來累積經驗。

-----廣告,請繼續往下閱讀-----

例如在交通尖峰時段應該以維持交通順暢為原則,這時警察是否具備判斷的敏感性就很重要,例如看到輕微的違規不一定要大動作開罰,可以吹個警笛給駕駛警示一下就好。

我越來越覺得人類這種互動上的敏感性很重要,我們會在跟他人相處的過程中思考:跟我溝通的對象是什麼樣的人?我在他心中是什麼模樣?然後慢慢微調表現方式,這是人類和 AI 最根本的不同。

行動者受各種法律變項影響的因果圖。上圖是由真人警察執法,對於處罰之可能性有影響力,可依不同情境判斷是否開罰。下圖是由全自動法律人工智慧執法,由 AI 直接將處罰之可能性加諸在行動者身上,缺乏真人警察二次確認,很可能影響行動者對守法與否的衡量。
圖|之有物(資料來源|陳弘儒)

問

相較於法律人工智慧,ChatGPT 等生成式 AI 強大的語言功能似乎更接近理想中的 AI,其發展可能對我們產生哪些影響?

我認為會有更複雜的影響。ChatGPT 是基於大型語言模型的聊天機器人,使用大量自然語言文本進行深度學習,在文本生成、問答對話等任務上都有很好的表現。因此,在與 ChatGPT 互動的過程中,我們容易產生一種錯覺,覺得螢幕後好像有一名很有耐心的真人在跟你對話。

事實上,對於生成式 AI 來說,人類只是刺激它運作的外在環境,人機之間的互動並沒有想像中的對等。

仔細回想一下整個互動過程,每當外在環境(人類)給 ChatGPT 下指令,系統才會開始運作並生成內容,如果我們不滿意,可以再調整指令,系統又會生成更多成果,這跟平常的人際互動方式不太一樣。

-----廣告,請繼續往下閱讀-----
ChatGPT 能讓使用者分辨不出訊息來自 AI 或真人,但事實上 AI 只是接受外在環境(人類)刺激,依指令生成最佳內容,並以獲得正向回饋、提升準確率為目標。
圖|iStock

資工人員可能會用這個理由說明,生成式 AI 只是一種工具,透過學習大量資料的模式和結構,從而生成與原始資料有相似特徵的新資料。

上述想法可能會降低人們對「資料」(Data)的敏感性。由於在做 AI 訓練、測試與調整的過程中,都必須餵給 AI 大量資料,如果不知道資料的生產過程和內部結構,後續可能會產生爭議。

另一個關於資料的疑慮是,生成式 AI 的研發與使用涉及很多權力不對等問題。例如現在主流的人工智慧系統都是由私人公司推出,並往商業或使用者付費的方向發展,代表許多資料都掌握在這些私人公司手中。

資料有一種特性,它可以萃取出「資訊」(Information),誰有管道可以從一大群資料中分析出有價值的資訊,誰就有權力影響資源分配。換句話說,多數人透過輸入資料換取生成式 AI 的服務,可是從資料萃取出的資訊可能在我們不知情的狀況下對我們造成影響。

問

面對勢不可擋的生成式 AI 浪潮,人文社會學者可以做些什麼?

國外對於 AI 的運用開始提出很多法律規範,雖然國外關於價值課題的討論比臺灣多,但並不代表那些討論都很細緻深入,因為目前人類跟 AI 的相遇還沒有很久,大家還在探索哪些議題應該被提出,或賦予這些議題重新認識的架構。

這當中有一個重要課題值得思考:

我們需不需要訓練 AI 學會人類的價值判斷?

我認為訓練 AI 理解人類的價值判斷很可能是未來趨勢,因為 AI 的發展會朝人機互動模式邁進,唯有讓 AI 逐漸理解人類的價值為何,以及人類價值在 AI 運作中的局限,我們才有辦法呈現 AI 所涉及的價值課題。

當前的討論多數還停留在把 AI 當成一項技術,我認為這種觀點將來會出問題,強大的技術如果沒有明確的價值目標,是一件非常危險的事情。實際上,AI 的發展必定有很多價值課題涉入其中,或者在設計上有一些價值導向會隱而不顯,這將影響 AI 的運作與輸出成果。

思考怎麼讓 AI 理解人類價值判斷的同時,也等於在問我們人類:對我們來說哪一些價值是重要的?而這些重要價值的基本內容與歧異為何?

我目前的研究有幾個方向,一個是研究法律推理的計算機模型(Computational models of legal reasoning);另一個是從規範性的層面去探討,怎麼把價值理論、政治道德(Political morality)、政治哲學等想法跟科技界交流。未來也會透過新的視野省視公民不服從議題。

這將有助科技界得知,有很多價值課題需要事先想清楚,影響將擴及工程師怎麼設計人工智慧系統?設計過程面臨哪些局限?哪些局限不應該碰,或怎麼把某些局限展現出來?我覺得這些認識都非常重要!

鐵面無私的 ALI ?人類與人工智慧執法最大的分野是什麼?

陳弘儒的研究室有許多公仔,包括多尊金斯伯格(Ginsburg)公仔,她是美國首位猶太裔女性大法官,畢生為女權進步與性別平權奮鬥。
圖|之有物

陳弘儒是臺灣少數以法哲學理論研究法律人工智慧系統(ALI)的學者,他結合各種現實情境,與我們談論 ALI、生成式 AI 與當代法治價值的緊張關係。

由於 ALI 擅長的資料分類與演算,與人類判斷過程中涉及的世界觀與敏感性思辨,有著根本上的差異;以處罰為主、缺乏理由陳述的判斷方式,也容易影響民眾對公權力的信任。因此陳弘儒認為,目前 ALI 應該以「輔助人類執法」為發展目標,讓人類保有最終的判斷權限

至於現正快速發展的生成式 AI ,根據陳弘儒的觀察,目前仍有待各方專家探索其中的價值課題,包括資料提供與使用的權力不對等、哪些人類價值在訓練 AI 的過程中值得關注等。

在過去多是由人文社會學者提出警告,現在連 AI 領域的權威專家也簽署公開信並呼籲:AI 具有與人類競爭的智慧,這可能給社會和人類帶來巨大風險,應該以相應的關注和資源進行規劃和管理

在訪談過程中,有一件令人印象深刻的小插曲,陳弘儒希望我們不要稱呼他「老師」,因為他從小就畏懼老師、警察等有權威身分的人,希望以更平等的方式進行對話。

假如今天以 AI 進行採訪,整個談話過程或許能不受倫理輩分影響,但這也讓我們意識到,在 AI 的世界裡,許多人際互動特有的敏感性、同理反思都可能不復存在。

陳弘儒的研究讓我們體會,AI 在法治領域的應用不僅是法律問題,背後更包含深刻的哲學、道德與權力課題,也讓我們更了解法治的核心價值:

法律要做的不只是規範人們的行為,而是透過理由陳述與溝通展現對每個人道德自主性的尊重。

所有討論 2
研之有物│中央研究院_96
296 篇文章 ・ 3561 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

1
1

文字

分享

0
1
1
曾經邊陲落後的英國,為何能建立史上最強的日不落帝國?——《人類的旅程》
商業周刊
・2022/10/23 ・3134字 ・閱讀時間約 6 分鐘

英國在工業革命期間前所未有的飛躍邁進,得以掌控地表一片又一片的領土,建立史上最強大的帝國之一。然而在人類歷史上大多數時候,不列顛群島的居民在財富和教育上遠不及在法國、荷蘭、義大利北部的鄰居;英國只是位於西歐邊陲的落後地方。英國是農業封建社會;政經權力由少數菁英把持;十七世紀初,許多經濟部門經皇家敕令由貴族壟斷。英國因為缺乏競爭和自由企業,被壟斷產業在開發新技術上成果極為貧乏。

英王也像許多其他統治者一樣敵視技術變革,阻撓國家技術進步。有個很著名、也很諷刺的例子,與英國紡織業起步被延誤有關。

一五八九年女王伊莉莎白一世(Elizabeth I)拒絕給予牧師兼發明家威廉.李(William Lee)的新編織機專利。她擔心這個發明會傷害各地手織工行會,造成工人失業,以致引起動盪。威廉.李遭英國女王拒絕後遷居至法國,法王亨利四世(Henry IV)很樂於給予他想要的專利。直到幾十年後其弟回到英國銷售這種尖端技術,它才成為英國紡織業的基石。

英國經濟體制的大改革—光榮革命!

不過到十七世紀末,英國的統治體制經過徹底改造。英王詹姆士二世(James II)力求鞏固君主專制,又信奉羅馬天主教,引發強烈反彈。反對派找到的救星是奧蘭治親王威廉(William of Orange),他是荷蘭共和國(Dutch Republic)多個新教郡的執政官(stadtholder)(也是詹姆士二世長女瑪莉〔Mary〕公主的夫婿)。反對派力促威廉奪取英國王權,威廉響應其號召,罷黜岳父,登上王位,成為英格蘭、愛爾蘭、蘇格蘭國王威廉三世。

-----廣告,請繼續往下閱讀-----
光榮革命後登上王位的威廉三世(左)與妻子瑪麗二世(右)/wikipedia

這次政變被稱為光榮革命(Glorious Revolution),理由是被誤認為相對少的流血事件,卻改變了英國的政治權力平衡:威廉三世是外來的,在英國國內缺乏支持勢力,威廉三世高度依賴國會,詹姆士二世則非如此。

編按「廢除英國皇室獨大的權力後,錢錢終於不會都被國王沒收(享受)了!」

一六八九年威廉三世批准權利法案(Bill of Rights),廢除國王終止國會立法的權力,國王未獲國會同意也不得徵稅和動員軍隊。從此英國成為君主立憲國家。國會開始代表較廣泛的利益,包括逐漸興起的商人階級。英國也建立各種包容式體制,以保護私人財產權,鼓勵私人企業,推廣機會均等和經濟成長。

英國在光榮革命之後積極廢除壟斷。英王查理二世(Charles II)曾授予皇家非洲公司(Royal African Company)獨占非洲奴隸買賣,當時它和許多公司頓失獨占權。國會也通過新立法,促進成長中產業的競爭,瓦解貴族的經濟利益。尤其國會降低工業熔爐稅,提高土地稅,而地主大都是貴族。

這些改革在當時獨見於英國,形成歐洲其他地方所沒有的誘因。以西班牙為例,國王積極維護對跨大西洋貿易利益的掌控,經常用來資助作戰和奢侈享受。相形之下在英國,跨大西洋原料、商品、非洲奴隸等貿易的收益是由廣大的商人階級共享,所以收益大半投入資本累積和經濟發展。這些投資為工業革命空前的技術創新奠下基礎。

-----廣告,請繼續往下閱讀-----

當時英國的金融制度也改頭換面,為經濟發展更添助力。威廉三世採用其祖國荷蘭的先進金融體制,包括證券交易所、政府公債和中央銀行。有些改革是擴大授信範圍,非貴族企業家也能借到款,並鼓勵英國政府在平衡支出與稅收上更加自律。國會取得對公債發行的更強大監督權,而公債持有者,即借錢給政府的人,得以派代表參與財政和貨幣政策決策過程。於是英國在國際信用市場的公信力提高,相對於其他歐洲王國,借貸的費用也降低。事實上,工業革命最早發生於英國,或許更早前的體制改革曾助其一臂之力。

編按:體制的不同使英國在黑死病後與東歐國家逐漸分歧

如第二章曾提到,十四世紀的黑死病使不列顛群島失去近四○%居民。因此造成的農工不足,增加了農奴討價還價的力量,迫使貴族地主提高佃農的工資,以防止他們由鄉下遷居都市。

如今看來,黑死病給了封建制度致命一擊,英國的政治體制因而變得更包容,少壓榨。那些體制促成政經分權化,鼓勵社會流動,讓社會上更多人能夠創新並參與創造財富。反之,東歐在黑死病過後,由於封建體系更嚴酷,都市化程度較低,加以西歐對農業產量需求增加,反而強化控制土地的貴族階級及其榨取式體制。換句話說,在黑死病爆發前,東西歐原本或許不重要的體制差別,在疫情後卻是分道揚鑣,使西歐走在與東歐大不相同的成長軌道上。

黑死病幾乎摧毀了中世紀的歐洲。圖/wikipedia

衰微的行會促進了英國的工業革命

英國的手工業行會相對較弱勢,這也有助於英國在工業革命之前的某些體制變革。歐洲各地都有的行會,是由某種行業的技術工匠組成的組織,目的在保護會員利益。行會經常運用本身獨占的力量壓制企業家精神和技術進步。

-----廣告,請繼續往下閱讀-----

例如十五世紀晚期巴黎的抄寫員行會(Scribes Guild),成功阻止第一台印刷機進入巴黎達將近二十年之久。

一五六一年紐倫堡的冰銅車工行會(Red-Metal Turners Guild)向市議會施壓,阻止當地銅匠漢斯.史白希(Hans Spaichi)散布他發明的強大車床,後來更揚言,誰敢用這種新生產技術就要坐牢。

一五七九年但澤(Danzig)市議會下令,把發明新織帶機而威脅到傳統織帶工的人偷偷淹死。

十九世紀初,法國織布工行會一群憤怒的暴民,向約瑟夫-瑪麗.雅卡爾(Joseph-Marie Jacquard,一七五二年至一八三四)抗議。雅卡爾發明了創新的織布機,靠一系列打洞的卡片運轉,後來最早的電腦受這種技術所啟發,以此方式輸入程式。

-----廣告,請繼續往下閱讀-----

但在英國,行會的勢力沒有歐洲那麼強,部分原因在於一六六六年倫敦大火後,重建迅速且大致未受管制,加上其他地方的市場快速擴張,以致對工匠的需求超出行會所能提供。行會弱勢,國會便易於保護和助益發明者,英國實業家能夠更快速、更有效率地採用新技術。

工業革命後的英國紡織廠。圖/wikipedia

多虧這些體制改革,十八世紀末的英國受到商人和企業家的各種利益所影響,而非以土地菁英的利益為主,菁英決意阻擋技術進步以延續個人權力。就此而言,英國當時已成為世上第一個現代經濟體,而其他西歐國家迅速跟進。於是根深柢固的力量將整體的人類帶往馬爾薩斯世的終點,來到成長時代的邊緣,就在人類物態變化的時機已成熟之際,這些制度的發展,配合以下即將探討的其他因素,英國成為特別適合技術快速發展的沃土。

英國率先開始工業革命,以及朝鮮半島兩個經濟體的分歧,顯示出體制對發展與繁榮的影響有多麼深遠。然而這些特別戲劇化的例子是例外還是常態?在歷史過程中,當體制逐步演進時,是體制變革影響經濟繁榮,還是經濟繁榮導致體制變革?又或者是某些其他因素,造成這兩者間明顯的關係?

———本書摘自《人類的旅程》,2022 年 10 月,商業周刊,未經同意請勿轉載

-----廣告,請繼續往下閱讀-----