1

23
1

文字

分享

1
23
1

不要相信你的直覺

賴 以威
・2013/12/31 ・2780字 ・閱讀時間約 5 分鐘 ・SR值 450 ・四年級

Photo Credit:Celestine Chua
Photo Credit:Celestine Chua

「應該是這樣吧」。

許多時候我們遇到不懂的事情,常習慣就這麼歪頭兩秒鐘,然後,彷彿答案卡在腦袋裡面一樣,搖一搖,答案噗通一聲就掉出來了。

有人稱這是直覺。

然而,很遺憾地,大多數人的直覺都不是很準,不然就不會那麼多人在樂透選號時面帶微笑,還善良地想著要捐出一半頭彩。

-----廣告,請繼續往下閱讀-----

要是理性點,應該會很憂心忡忡地想著:

50元花下去,中三碼的機率僅有1.78%,好低。
六碼全中的頭彩機率更是低到億分之7.15,比每天車禍致死的機率億分之5.25高一點點而已,唉。

 

就算不講容易讓人不理性的樂透,直覺在許多時候也經不起數學的檢驗。更正確一點的說法是,直覺本來就不大準,只是這世界並沒有太多事情能搞清楚對錯,所以不容易察覺到直覺到底有多不準。好比你覺得隔壁同學暗戀你,因為她下課常問你要不要一起去合作社,但事實上她只是單純想找人陪,可是在告白之前,你無法確認這件事情的真相。

更可悲的是,就算告白成功了,你還是無法確認她是否真的愛你。

聽不懂嗎?沒關係,再長大一點就懂了。

-----廣告,請繼續往下閱讀-----

今天,我們藉由簡單的數學統計,讓大家實際看看,直覺跟事實間的差距,恐怕比藍綠兩黨之間的差距還大。後者至少還有「無能」、「貪汙」、「讓老百姓氣到高血壓」等等諸多族繁不及備載的共同點……。嗯,他們其實蠻像的,我似乎舉錯例子了。

※直覺 vs. 數學

翻開存摺,看看最左邊的數字,將這個數字稱為「首數」,一百多萬的首數是1,六千多元的首數是6,八十幾塊的首數即是8。現在,請用直覺判斷,全台灣兩千三百萬人的存款金額首數,1~9各個數字出現的機率各自是多少呢?

均勻分布,每個數字出現的機率皆是1/9。

許多人的直覺應該此刻在腦海裡吶喊著這個答案,還帶點不屑。

-----廣告,請繼續往下閱讀-----

要是順從直覺,按照這個邏輯繼續推理下去,使用歐元的人的存款金額首數,日本人的日幣存款金額首數,每個數字出現的機率應該也都是1/9的均勻分布。沒理由這項統計數字在台灣是均勻分布,到歐洲或日本就會改變,大家理當都該一樣。

現在,當我們假設有9個人,戶頭裡各自有100、200…900元新台幣,符合均勻分布。要是銀行忽然將他們的存款改以日幣或歐元計算,會得到下表。

台幣 100 200 300 400 500 600 700 800 900
日幣 357 714 1071 1429 1786 2143 2500 2857 3214
歐元 2.5 5 7.5 10 12.5 15 17.5 20 22.5

 

可以看見,首數1從出現一次,大幅增加到三與四次,首數9則消失在表格中。

考慮更一般的狀況,可以得到下面的統計分析圖。當台幣換算成歐元或日幣時,首數數字小的出現機率都比較高。

-----廣告,請繼續往下閱讀-----

uniform_firstnum

至此,可以宣告直覺失敗,輸給了所謂的「班佛定律」:以自然形式出的數字,首數是1的機率約30%,2的機率是17.6%,依序遞減,首數是8與9的機率各自僅有5.1%與4.6%。

 

※班佛定律是哪招

要解釋這種不直覺的遞減現象,我們得先提一個生活中的例子。

想像一條長條狀的蛋糕,蛋糕上不同區域,有不同的裝飾:有些地方是草莓、有些地方是櫻桃、還有些地方是肉桂跟大蒜。

要是有四人想分這條蛋糕,而且每種裝飾都想吃到,最常見的作法,就是先將蛋糕由上往下,切成許多片,每一片的大小符合每個人能拿到的比例,切完後依序1、2、3、4、1、2、3、4…等分。每個人再根據自己的編號,週期性地挑出屬於自己的蛋糕。如同下圖,

-----廣告,請繼續往下閱讀-----

 

理想蛋糕分法
理想蛋糕分法

上圖就是其中一人的切法。在每隔一段距離,切下等寬的一部份。可以確保每個人拿到他該拿到的比例,且各種裝飾都能拿到。我們稱這種為「理想蛋糕分法」。

回到首數的問題。

要是統計全台灣的人銀行存款,可以畫出存款的統計分布圖,我們用下面這張示意圖表示。

linearX
x軸為線性時,首數分布不規律且不均等。

存款首數為1的區域我們用紫色表示。要是將整個曲線想成一條蛋糕,切下的紫色區域起先是一條細細的「1」,過了2~9後,再來一塊粗一點的「10~19」,這次得隔久一點,過了0~99,才會再出現更粗的「100~199」。然後,得一直等到「1000~1999」。

-----廣告,請繼續往下閱讀-----

切下的區域分別是1、10、100、1000…切的間隔是8、80、800…。

換句話說,依據不同首數的蛋糕切法,在不同間隔間,切下大小不同的面積,不是剛才說的「理想蛋糕分法」。可能,落在300~500的櫻桃就這麼沒了。

不過,要是將x軸的金額取對數(log),就會得到下面這張圖。

logX
x軸為對數時,首數分布呈現「理想蛋糕分法」。

方才所說的「理想蛋糕分法」——等間隔切下同樣大小的區域,在此重現了

-----廣告,請繼續往下閱讀-----

因為是等間隔,不同區域的裝飾都能拿到,以取樣的角度來,就是取下來的部分能夠充分反映原來曲線的特性。

有趣的是,在對數轉換後,首數為1切下來的面積所佔比例是log102- log101=log2~30%,首數是2的比例則是log103- log102=log10(3/2)~17.6%,歸納出首數為x時,所佔比例為log10(1+1/x),。

這才是真正的首數分布。

 

回到剛剛不同幣值的問題,如果假設新台幣的存款首數分布是依據班佛定律時,換算成歐元跟日幣後,可以得到下圖

exp_firstnum
當首數分布,符合班佛定律時,不管怎麼切換貨幣,依然遵守班佛定律。

可以看見,換算到不同貨幣後,趨勢依然相似,大致依然符合班佛定律。終於,我們看到log離家出走,離開了數學課本

※數學界的抓猴達人,班佛定律

只要是自然產生的數據,且數據涵蓋範圍很大,首數分布即會符合班佛定律。

因此,班佛定律相當具有實際用途。好比,統計公司一年的各種報帳款項,便會看見班佛定律的存在。政府或會計師即可反過來利用班佛定律,審核公司報帳是否誠實,如果不符合班佛定律,可能就有問題了。

奈何我無法拿中華民國各級政府,或首長特別費的資料實際測試一下班佛定律的威力(也怕測出來發現不符合,大家反而會說「這不是理所當然嗎」),只好拿2012總統大選全國各鄉鎮的投票結果來看:

 

2012
2012總統大選符合班佛定律

結果相當符合班佛定律,這告訴我們,要嘛總統大選沒作票,或者作票的人精通班佛定律,再不然就是,作票的人歪打正著還是讓結果符合班佛定律了。

從一開始就說,別相信直覺了嘛。

參考資料:

  • R. M. Fewster, “A simple explanation of Benford’s law,” the American Statistician, vol. 63, no. 1, pp. 26-32, Nov. 2009.

註:更多賴以威的數學故事,請參考《超展開數學教室》。

文章難易度
所有討論 1
賴 以威
32 篇文章 ・ 8 位粉絲
數學作家、譯者,作品散見於聯合報、未來少年、國語日報,與各家網路媒體。師大附中,台大電機畢業。 我深信數學大師約翰·馮·諾伊曼的名言「If people do not believe that mathematics is simple, it is only because they do not realize how complicated life is」。為了讓各位跟我一樣相信這句話,我們得先從數學有多簡單來說起,聊聊數學,也用數學說故事。 歡迎加入我與太太廖珮妤一起創辦的: 數感實驗室

0

3
3

文字

分享

0
3
3
圖形處理單元與人工智慧
賴昭正_96
・2024/06/24 ・6944字 ・閱讀時間約 14 分鐘

-----廣告,請繼續往下閱讀-----

  • 作者/賴昭正|前清大化學系教授、系主任、所長;合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒,那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬.霍金(Stephen Hawking) 英國理論物理學家

大約在八十年前,當第一台數位計算機出現時,一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧;但七十年後,還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」(Artificial Intelligent,簡稱 AI)的能力最近十年突然起飛,在許多(所有?)領域的測試中擊敗了人類,正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元(graphic process unit,簡稱 GPU)是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia(英偉達)股票從每股不到 $5,上升到今天(5 月 24 日)每股超過 $1000(註一)的全世界第三大公司,其創辦人(之一)兼首席執行官、出生於台南的黃仁勳(Jenson Huang)也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人!可是多少人了解圖形處理單元是什麼嗎?到底是時勢造英雄,還是英雄造時勢?

黃仁勳出席2016年台北國際電腦展
Nvidia 的崛起究竟是時勢造英雄,還是英雄造時勢?圖/wikimedia

在回答這問題之前,筆者得先聲明筆者不是學電腦的,因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事,不是我們外行人需要了解的;但作為一位現在的知識分子或公民,了解基本原理則是必備的條件:例如了解「能量不滅定律」就可以不用仔細分析,即可判斷永動機是騙人的;又如現在可攜帶型冷氣機充斥市面上,它們不用往室外排廢熱氣,就可以提供屋內冷氣,讀者買嗎?

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」(central process unit,簡稱 CPU)。CPU 是電腦的「腦」,其電子電路負責處理所有軟體正確運作所需的所有任務,如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作;但為了簡單化,我們在這裡所談的工作將只是執行算術和邏輯運算的工作(arithmetic and logic unit,簡稱 ALU),如將兩個數加在一起。在這一簡化的定義下,CPU 在任何一個時刻均只能執行一件工作而已。

-----廣告,請繼續往下閱讀-----

在個人電腦剛出現只能用於一般事物的處理時,CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後,CPU 開始顯示心有餘而力不足:例如電玩動畫需要應用程式處理數以萬計的像素(pixel),每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年,英偉達將其一「具有集成變換、照明、三角形設定/裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」(註二)定位為「世界上第一款 GPU」,「GPU」這一名詞於焉誕生。不像 CPU,GPU 可以在同一個時刻執行許多算術和邏輯運算的工作,快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢?因每一時刻只能做一件事,所以其步驟為:

  • 計算 7×5;
  • 計算 6/3;
  • 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢?很多工作便可以同時(平行)進行:

-----廣告,請繼續往下閱讀-----
  • 同時計算 7×5 及 6/3;
  • 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間,但如果我們有 16 對 a×b 要相加呢?單獨的 CPU 需要 31 個運算的時間(16 個 × 的運算時間及 15 個 + 的運算時間),而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間(1 個 × 的運算時間及 4 個 + 的運算時間)!

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了,如何將它擺正成右圖呢? 一句話:「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點(座標 x, y)組成的,所以這句簡單的話可讓 CPU 忙得不亦樂乎了:每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

-----廣告,請繼續往下閱讀-----

即每一點均需要做四個 × 及兩個 + 的運算!如果每一運算需要 10-6 秒,那麼讓《我愛科學》一書做個簡單的角度旋轉,便需要 6 秒,這豈是電動玩具畫面變化所能接受的?

圖形處理的例子

人類的許多發明都是基於需要的關係,因此電腦硬件設計家便開始思考:這些點轉換都是獨立的,為什麼我們不讓它們同時進行(平行運算,parallel processing)呢?於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 106 運算,那上圖的轉換只需 10-6 秒鐘!

GPU 的興起

GPU 可分成兩種:

  • 整合式圖形「卡」(integrated graphics)是內建於 CPU 中的 GPU,所以不是插卡,它與 CPU 共享系統記憶體,沒有單獨的記憶體組來儲存圖形/視訊,主要用於大部分的個人電腦及筆記型電腦上;早期英特爾(Intel)因為不讓插卡 GPU 侵蝕主機的地盤,在這方面的研發佔領先的地位,約佔 68% 的市場。
  • 獨立顯示卡(discrete graphics)有不與 CPU 共享的自己專用內存;由於與處理器晶片分離,它會消耗更多電量並產生大量熱量;然而,也正是因為有自己的記憶體來源和電源,它可以比整合式顯示卡提供更高的效能。

2007 年,英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後,科學家發現獨立 GPU 不但能夠快速處理圖形變化,在需要大量計算才能實現特定結果的任務上也非常有效,因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理,不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化,也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬(註三)等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分,正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲,遠遠落在英偉達(80%)及超微半導體公司(Advance Micro Devices Inc.,19%,註四)之後,大約只有 1% 的市場。

-----廣告,請繼續往下閱讀-----
典型的CPU與GPU架構

事實上現在的中央處理單元也不再是真正的「單元」,而是如圖二可含有多個可以同時處理運算的核心(core)單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心,因此其核心功能不如 CPU 核心強大,但它們能同時高速執行大量相同的指令,在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心;GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書,不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等,也知道它擺斜了。這種「平行運作」的能力不僅限於視覺,它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是:嘴巴在講,腦筋思考已經不知往前跑了多少公里,常常為了追趕而越講越快,將不少學生拋到腦後!這不表示筆者聰明,因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技,因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣(matrix)的讀者應該知道,如果用矩陣和向量(vector)表達,上面所談到之座標轉換將是非常簡潔的(註五)。而矩陣和向量計算正是機器學習(machine learning)演算法的基礎!也正是獨立圖形處理單元最強大的功能所在!因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石:它們的架構就是充分利用並行處理,來快速執行多個操作,進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」(deep learning)。

黃仁勳在 5 月 22 日的發布業績新聞上謂:「下一次工業革命已經開始了:企業界和各國正與英偉達合作,將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升,幫助企業降低成本和提高能源效率,同時擴大收入機會。」

附錄

人工智慧的實用例子:下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後,讀者是不是認為筆者該退休了?

-----廣告,請繼續往下閱讀-----

GPU(圖形處理單元)和 AI(人工智慧)之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力,特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步,使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率,使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐,而且使其更具成本效益,因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展,GPU 的角色可能會變得更加不可或缺,推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標,這些神經元網路可以獨立但有凝聚力地工作,使我們能夠執行複雜的任務,例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外,研究表明,與非人類動物相比,人類大腦具有更多平行通路,這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上,一邊聽音樂一邊做飯,或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技,因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵:透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

(註一)當讀者看到此篇文章時,其股票已一股換十股,現在每一股約在 $100 左右。

(註二)組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」(GeForce 256)插卡吧?

(註三)筆者於 1984 年離開清華大學到 IBM 時,就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士(fellow)」Enrico Clementi 的團隊:因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層,我們只能自己寫軟體將 8 台中型電腦(非 IBM 品牌!)與一大型電腦連接來做平行運算,進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

-----廣告,請繼續往下閱讀-----

(註四)補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商:英偉達及 ATI(Array Technology Inc.)。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立,2006 年被超微半導體公司收購,品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐(Lisa Tzwu-Fang Su)博士為執行長後,股票從每股 $4 左右,上升到今天每股超過 $160,其市值已經是英特爾的兩倍,完全擺脫了在後者陰影下求生存的小眾玩家角色,正在挑戰英偉達的 GPU 市場。順便一題:超微半導體公司現任總裁(兼 AI 策略負責人)為出生於台北的彭明博(Victor Peng);與黃仁勳及蘇姿豐一樣,也是小時候就隨父母親移居到美國。

(註五)

延伸閱讀

  • 熱力學與能源利用」,《科學月刊》,1982 年 3 月號;收集於《我愛科學》(華騰文化有限公司,2017 年 12 月出版),轉載於「嘉義市政府全球資訊網」。
  • 網路安全技術與比特幣」,《科學月刊》,2020 年 11 月號;轉載於「善科教育基金會」的《科技大補帖》專欄。
文章難易度

討論功能關閉中。

賴昭正_96
43 篇文章 ・ 56 位粉絲
成功大學化學工程系學士,芝加哥大學化學物理博士。在芝大時與一群留學生合創「科學月刊」。一直想回國貢獻所學,因此畢業後不久即回清大化學系任教。自認平易近人,但教學嚴謹,因此穫有「賴大刀」之惡名!於1982年時當選爲 清大化學系新一代的年青首任系主任兼所長;但壯志難酬,兩年後即辭職到美留浪。晚期曾回台蓋工廠及創業,均應「水土不服」而鎩羽而歸。正式退休後,除了開始又爲科學月刊寫文章外,全職帶小孫女(半歲起);現已成七歲之小孫女的BFF(2015)。首先接觸到泛科學是因爲科學月刊將我的一篇文章「愛因斯坦的最大的錯誤一宇宙論常數」推薦到泛科學重登。