演進中的科學研究方法(2/4) – 區間估計砍得掉特設假設？

• 作者／賴昭正｜前清大化學系教授、系主任、所長；合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒，那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬．霍金（Stephen Hawking）　英國理論物理學家

大約在八十年前，當第一台數位計算機出現時，一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧；但七十年後，還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」（Artificial Intelligent，簡稱 AI）的能力最近十年突然起飛，在許多（所有？）領域的測試中擊敗了人類，正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元（graphic process unit，簡稱 GPU）是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia（英偉達）股票從每股不到 $5，上升到今天（5 月 24 日）每股超過 $1000（註一）的全世界第三大公司，其創辦人（之一）兼首席執行官、出生於台南的黃仁勳（Jenson Huang）也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人！可是多少人了解圖形處理單元是什麼嗎？到底是時勢造英雄，還是英雄造時勢？

在回答這問題之前，筆者得先聲明筆者不是學電腦的，因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事，不是我們外行人需要了解的；但作為一位現在的知識分子或公民，了解基本原理則是必備的條件：例如了解「能量不滅定律」就可以不用仔細分析，即可判斷永動機是騙人的；又如現在可攜帶型冷氣機充斥市面上，它們不用往室外排廢熱氣，就可以提供屋內冷氣，讀者買嗎？

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」（central process unit，簡稱 CPU）。CPU 是電腦的「腦」，其電子電路負責處理所有軟體正確運作所需的所有任務，如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作；但為了簡單化，我們在這裡所談的工作將只是執行算術和邏輯運算的工作（arithmetic and logic unit，簡稱 ALU），如將兩個數加在一起。在這一簡化的定義下，CPU 在任何一個時刻均只能執行一件工作而已。

在個人電腦剛出現只能用於一般事物的處理時，CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後，CPU 開始顯示心有餘而力不足：例如電玩動畫需要應用程式處理數以萬計的像素（pixel），每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年，英偉達將其一「具有集成變換、照明、三角形設定／裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」（註二）定位為「世界上第一款 GPU」，「GPU」這一名詞於焉誕生。不像 CPU，GPU 可以在同一個時刻執行許多算術和邏輯運算的工作，快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢？因每一時刻只能做一件事，所以其步驟為：

• 計算 7×5；
• 計算 6/3；
• 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢？很多工作便可以同時（平行）進行：

• 同時計算 7×5 及 6/3；
• 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間，但如果我們有 16 對 a×b 要相加呢？單獨的 CPU 需要 31 個運算的時間（16 個 × 的運算時間及 15 個 + 的運算時間），而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間（1 個 × 的運算時間及 4 個 + 的運算時間）！

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了，如何將它擺正成右圖呢？ 一句話：「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點（座標 x, y）組成的，所以這句簡單的話可讓 CPU 忙得不亦樂乎了：每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

即每一點均需要做四個 × 及兩個 + 的運算！如果每一運算需要 10^-6 秒，那麼讓《我愛科學》一書做個簡單的角度旋轉，便需要 6 秒，這豈是電動玩具畫面變化所能接受的？

人類的許多發明都是基於需要的關係，因此電腦硬件設計家便開始思考：這些點轉換都是獨立的，為什麼我們不讓它們同時進行（平行運算，parallel processing）呢？於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 10⁶ 運算，那上圖的轉換只需 10^-6 秒鐘！

GPU 的興起

GPU 可分成兩種：

• 整合式圖形「卡」（integrated graphics）是內建於 CPU 中的 GPU，所以不是插卡，它與 CPU 共享系統記憶體，沒有單獨的記憶體組來儲存圖形／視訊，主要用於大部分的個人電腦及筆記型電腦上；早期英特爾（Intel）因為不讓插卡 GPU 侵蝕主機的地盤，在這方面的研發佔領先的地位，約佔 68% 的市場。
• 獨立顯示卡（discrete graphics）有不與 CPU 共享的自己專用內存；由於與處理器晶片分離，它會消耗更多電量並產生大量熱量；然而，也正是因為有自己的記憶體來源和電源，它可以比整合式顯示卡提供更高的效能。

2007 年，英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後，科學家發現獨立 GPU 不但能夠快速處理圖形變化，在需要大量計算才能實現特定結果的任務上也非常有效，因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理，不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化，也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬（註三）等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分，正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲，遠遠落在英偉達（80%）及超微半導體公司（Advance Micro Devices Inc.，19%，註四）之後，大約只有 1% 的市場。

事實上現在的中央處理單元也不再是真正的「單元」，而是如圖二可含有多個可以同時處理運算的核心（core）單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心，因此其核心功能不如 CPU 核心強大，但它們能同時高速執行大量相同的指令，在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心；GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書，不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等，也知道它擺斜了。這種「平行運作」的能力不僅限於視覺，它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是：嘴巴在講，腦筋思考已經不知往前跑了多少公里，常常為了追趕而越講越快，將不少學生拋到腦後！這不表示筆者聰明，因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技，因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣（matrix）的讀者應該知道，如果用矩陣和向量（vector）表達，上面所談到之座標轉換將是非常簡潔的（註五）。而矩陣和向量計算正是機器學習（machine learning）演算法的基礎！也正是獨立圖形處理單元最強大的功能所在！因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石：它們的架構就是充分利用並行處理，來快速執行多個操作，進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」（deep learning）。

黃仁勳在 5 月 22 日的發布業績新聞上謂：「下一次工業革命已經開始了：企業界和各國正與英偉達合作，將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升，幫助企業降低成本和提高能源效率，同時擴大收入機會。」

附錄

人工智慧的實用例子：下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後，讀者是不是認為筆者該退休了？

GPU（圖形處理單元）和 AI（人工智慧）之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力，特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步，使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率，使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐，而且使其更具成本效益，因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展，GPU 的角色可能會變得更加不可或缺，推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標，這些神經元網路可以獨立但有凝聚力地工作，使我們能夠執行複雜的任務，例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外，研究表明，與非人類動物相比，人類大腦具有更多平行通路，這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上，一邊聽音樂一邊做飯，或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技，因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵：透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

（註一）當讀者看到此篇文章時，其股票已一股換十股，現在每一股約在 $100 左右。

（註二）組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」（GeForce 256）插卡吧?

（註三）筆者於 1984 年離開清華大學到 IBM 時，就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士（fellow）」Enrico Clementi 的團隊：因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層，我們只能自己寫軟體將 8 台中型電腦（非 IBM 品牌！）與一大型電腦連接來做平行運算，進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

（註四）補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商：英偉達及 ATI（Array Technology Inc.）。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立，2006 年被超微半導體公司收購，品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐（Lisa Tzwu-Fang Su）博士為執行長後，股票從每股 $4 左右，上升到今天每股超過 $160，其市值已經是英特爾的兩倍，完全擺脫了在後者陰影下求生存的小眾玩家角色，正在挑戰英偉達的 GPU 市場。順便一題：超微半導體公司現任總裁（兼 AI 策略負責人）為出生於台北的彭明博（Victor Peng）；與黃仁勳及蘇姿豐一樣，也是小時候就隨父母親移居到美國。

（註五）或。

延伸閱讀

• 「熱力學與能源利用」，《科學月刊》，1982 年 3 月號；收集於《我愛科學》（華騰文化有限公司，2017 年 12 月出版），轉載於「嘉義市政府全球資訊網」。
• 「網路安全技術與比特幣」，《科學月刊》，2020 年 11 月號；轉載於「善科教育基金會」的《科技大補帖》專欄。

• id S. Moore、諾茨 William I. Notz
• 譯者：鄭惟厚、吳欣蓓

什麼是大數法則？

期望值的定義是：它是可能結果的一種平均，但在計算平均時，機率大的結果占的比重較高。我們認為期望值也是另一種意義的平均結果，它代表了如果我們重複賭很多次，或者隨機選出很多家戶，實際上會看到的長期平均。這並不只是直覺而已。數學家只要用機率的基本規則就可以證明，用機率模型算出來的期望值，真的就是「長期平均」。這個有名的事實叫做大數法則。

大數法則和機率的概念密切相關。在許多次獨立的重複當中，每個可能結果的發生比例會接近它的機率，而所得到的平均結果就會接近期望值。這些事實表達了機遇事件的長期規律性。正如我們在第 17 章提過的，它們是真正的「平均數定律」。

大數法則解釋了：為什麼對個人來說是消遣甚至是會上癮的賭博，對賭場來說卻是生意。經營賭場根本就不是在賭博。大量的賭客贏錢的平均金額會很接近期望值。賭場經營者事先就算好了期望值，並且知道長期下來收入會是多少，所以並不需要在骰子裡灌鉛或者做牌來保證利潤。

賭場只要花精神提供不貴的娛樂和便宜的交通工具，讓顧客川流不息進場就行了。只要賭注夠多，大數法則就能保證賭場賺錢。保險公司的運作也很像賭場，他們賭買了保險的人不會死亡。當然有些人確實會死亡，但是保險公司知道機率，並且依賴大數法則來預測必須給付的平均金額。然後保險公司就把保費訂得夠高，來保證有利潤。

• 在樂透彩上做手腳

我們都在電視上看過樂透開獎的實況轉播，看到號碼球上下亂跳，然後由於空氣壓力而隨機彈跳出來。我們可以怎麼樣對開出的號碼做手腳呢？ 1980 年的時候，賓州樂透就曾被面帶微笑的主持人以及幾個舞台工作人員動了手腳。

他們把 10 個號碼球中的 8 顆注入油漆，這樣做會把球變重，因此可保證開出中獎號碼的 3 個球必定有那 2 個沒被注入油漆的號碼。然後這些傢伙就下注買該 2 個號碼的所有組合。當 6-6-6 跳出來的時候，他們贏了 120 萬美元。是的，他們後來全被逮到。

深入探討期望值

跟機率一樣，期望值和大數法則都值得再花些時間，探討相關的細節問題。

• 多大的數才算是「大數」？

大數法則是說，當試驗的次數愈來愈多，許多次試驗的實際平均結果會愈來愈接近期望值。可是大數法則並沒有說，究竟需要多少次試驗，才能保證平均結果會接近期望值。這點是要看機結果的變異性決定。

結果的變異愈大，就需要愈多次的試驗，來確保平均結果接近期望值。機遇遊戲一定要變化大，才能保住賭客的興趣。即使在賭場待上好幾個鐘頭，結果也是無法預測的。結果變異性極大的賭博，例如累積彩金數額極大但極不可能中獎的州彩券，需要極多次的試驗，幾乎要多到不可能的次數，才能保證平均結果會接近期望值。

（州政府可不需要依賴大數法則，因為樂透彩金不像賭場的遊戲，樂透彩用的是同注分彩系統。在同注分彩系統裡面，彩金和賠率是由實際下注金額決定的。舉例來說，各州所辦的樂透彩金，是由全部賭金扣除州政府所得部分之後的剩餘金額來決定的。賭馬的賠率則是決定於賭客對不同馬匹的下注金額。）

雖然大部分的賭博遊戲不及樂透彩這樣多變化，但要回答大數法則的適用範圍，較實際的答案就是：賭場的贏錢金額期望值是正的，而賭場玩的次數夠多，所以可以靠著這個期望值贏錢。你的問題則是，你贏錢金額的期望值是負的。全體賭客玩的次數合起來算的話，當然和賭場一樣多，但因為期望值是負的，所以以賭客整體來看，長期下來一定輸錢。

然而輸的金額並不是由賭客均攤。有些人贏很多錢，有些人輸很多，而有些人沒什麼輸贏。賭博帶給人的誘惑，大部分是來自賭博結果的無法預測。而賭博這門生意仰賴的則是：對賭場來說，結果並非不可測的。

• 有沒有保證贏錢的賭法？

把賭博很當回事的賭客常常遵循某種賭法，這種賭法每次下注的金額，是看前幾次的結果而定。比如說，在賭輪盤時，你可以每次把賭注加倍，直到你贏為止—或者，當然，直到你輸光為止。即使輪盤並沒有記憶，這種玩法仍想利用你有記憶這件事來贏。

你可以用一套賭法來戰勝機率嗎？不行，數學家建立的另一種大數法則說：如果你沒有無窮盡的賭本，那麼只要遊戲的各次試驗（比如輪盤的各次轉動）之間是獨立的，你的平均獲利（期望值）就會是一樣的。抱歉啦！

• 高科技賭博

全美國有超過 700,000 台吃角子老虎（拉霸）。從前，你丟硬幣進去再拉下把手，轉動三個輪子，每個輪子有 20 個圖案。但早就不是這樣了。現在的機器是電動遊戲，會閃出許多很炫的畫面，而結果是由隨機數字產生器決定的。

機器可以同時接受許多硬幣，有各種讓你眼花撩亂的中獎結果，還可以多台連線，共同累積成連線大獎。賭徒仍在尋找可以贏錢的賭法，但是長期下來，隨機數字產生器會保證賭場有 5% 的利潤。

——本文摘自《統計，讓數字說話》，2023 年 1 月，天下文化出版，未經同意請勿轉載。

• id S. Moore、諾茨 William I. Notz
• 譯者：鄭惟厚、吳欣蓓

什麼是常態分布？

圖 13.3 和 13.4 裡的密度曲線，同屬一族特別重要的曲線：常態曲線。圖 13.7 再呈現了兩個常態密度曲線。常態曲線都是對稱、單峰、鐘形的，尾部降得很快，所以我們應該不會看到離群值。由於常態分布是對稱的，所以平均數和中位數都落在曲線的中間位置，而這也是尖峰所在。

常態曲線還有一個特別性質：我們可以用目測方式在曲線上找到它的標準差。對大部分其他的密度曲線，沒有法子這樣做。做法是這樣的。想像你要從山頂開始滑雪，山的形狀和常態曲線一樣。起先，你從山頂出發時，往下滑的角度非常陡：

幸好，在你還沒有直直墜下之前，斜坡就變緩了，你愈往下滑出去，坡度愈平：

曲率（curvature）發生改變的地方，是在平均數兩側、各距平均數一個標準差的位置。圖 13.7 的兩條曲線上都標示出了標準差。你如果用鉛筆沿著常態曲線描，應該可以感受到曲率改變的地方，進而找出標準差。

常態曲線有個特別的性質是，只要知道平均數及標準差，整條曲線就完全確定了。平均數把曲線的中心定下來，而標準差決定曲線的形狀。變動常態分布的平均數並不會改變曲線的形狀，只會改變曲線在 x 軸上的位置。但是，變動標準差卻會改變常態曲線的形狀，如圖 13.7 所示。標準差較小的分布，散布的範圍比較小，尖峰也比較陡。以下是常態曲線基本性質的總結：

常態密度曲線的特性

常態曲線（normal curve）是對稱的鐘形曲線，具備以下性質：

• 只要給了平均數和標準差，就可以完全描述特定的常態曲線。
• 平均數決定分布的中心，這個位置就在曲線的對稱中心。
• 標準差決定曲線的形狀，標準差是指從平均數到平均數左側或右側的曲率變化點的距離。

為什麼常態分布在統計裡面很重要呢？首先，對於某些真實數據的分布，用常態曲線可以做很好的描述。最早將常態曲線用在數據上的是大數學家高斯（Carl Friedrich Gauss, 1777 – 1855）。

天文學家或測量員仔細重複度量同一個數量時，所得出的量測值會有小誤差，高斯就利用常態曲線來描述這些小誤差。你有時候會看到有人把常態分布叫做「高斯分布」，就是為了紀念高斯。

十九世紀的大部分時間中，常態曲線曾叫做「誤差曲線」，也就因為常態曲線最早是用來描述量測誤差的分布。後來慢慢發現，有些生物學或心理學上的變數也大致符合常態分布時，「誤差曲線」這個名詞就不再使用了。1889 年，高騰（Francis Galton）率先把這些曲線稱做「常態曲線」。高騰是達爾文的表弟，他開拓了遺傳的統計研究。

常態分布的形狀：鐘形曲線

人類智慧高低的分布，是不是遵循常態分布的「鐘形曲線」？IQ 測驗的分數的確大致符合常態分布，但那是因為測驗分數是根據作答者的答案計算出來的，而計算方式原本就是以常態分布為目標所設計的。要說智慧分布遵循鐘形曲線，前提是：大家都同意 IQ 測驗分數可以直接度量人的智慧。然而許多心理學家都不認為世界上有某種人類特質，可以讓我們稱為「智慧」，並且可以用一個測驗分數度量出來。

當我們從同一母體抽取許多樣本時，諸如樣本比例（當樣本大小很大、而比例的數值中等時）及樣本平均數（當我們從相同母體取出許多樣本時）這類統計量的分布，也可以用常態曲線來描述。我們會在後面的章節進一步細談統計分布。

抽樣調查結果的誤差界限，也常常用常態曲線來算。然而，即使有許多類的數據符合常態分布，仍然有許多是不符合的，比如說，大部分的所得分布是右偏的，因而不是常態分布。非常態的數據就和不平常的人一樣，不僅常見，而且有時比常態的數據還有趣。

68 – 95 – 99.7 規則

常態曲線有許多，每一個常態曲線都可以用各自的平均數和標準差來描述。所有常態曲線都有許多共同性質，特別要提的是，對常態分布來說，標準差是理所當然的量度單位。這件事實反映在下列規則當中。

圖 13.8 說明了 68 – 95 – 99.7 規則。記住這三個數字之後，你就可以在不用一直做囉嗦計算的情況下考慮常態分布。不過還得記住，沒有哪組數據是百分之百用常態分布描述的。不管對於 SAT 分數，或者蟋蟀的身長， 68–95–99.7 規則都只是大體正確。

年輕女性的身高常態

年輕女性的身高約略是平均數 63.7 英寸、標準差 2.5 英寸的常態分布。要運用 68 – 95 – 99.7 規則，首先得畫一個常態曲線的圖。圖 13.9 說明了這個規則用在女性的身高上會是什麼情況。

任何常態分布都有一半的觀測值在平均數之上，所以年輕女性中有一半高於 63.7 英寸。

任何常態分布的中間68%觀測值，會在距平均數一個標準差的範圍內。而這 68 %中的一半，即 34 %，會在平均數之上。所以有 34 %的年輕女性，身高在 63.7 英寸及 66.2 英寸之間。把身高不到 63.7 英寸的 50% 女性也加上去，可以得知總共有84%的年輕女性身高不到 66.2 英寸。所以推知超過 66.2 英寸的人占 16%。

任何常態分布的中間 95% 的值，在距平均數兩個標準差範圍內。這裡的兩個標準差是 5 英寸，所以年輕女性身高的中間 95% 是在 58.7（= 63.7 − 5）和 68.7（= 63.7 + 5）英寸之間。

另外 5% 女性的身高，就超出 58.7 到 68.7 英寸的範圍之外。因為常態分布是對稱的，這其中有一半的女性是在矮的那一頭。年輕女性中最矮的 2.5% ，身高不到 58.7 英寸（149 公分）。

任何常態分布中幾乎所有（99.7%）的值，在距平均數三個標準差的範圍內，所以幾乎所有年輕女性的身高，都在 56.2 及 71.2 英寸之間。

——本文摘自《統計，讓數字說話》，2023 年 1 月，天下文化出版，未經同意請勿轉載。