別意外！Google 真的聽得懂「人話」：BERT 自然語意演算法如何提升關鍵字理解能力？

• 作者／賴昭正｜前清大化學系教授、系主任、所長；合創科學月刊

我擔心人工智慧可能會完全取代人類。如果人們能設計電腦病毒，那麼就會有人設計出能夠自我改進和複製的人工智慧。 這將是一種超越人類的新生命形式。

——史蒂芬．霍金（Stephen Hawking）　英國理論物理學家

大約在八十年前，當第一台數位計算機出現時，一些電腦科學家便一直致力於讓機器具有像人類一樣的智慧；但七十年後，還是沒有機器能夠可靠地提供人類程度的語言或影像辨識功能。誰又想到「人工智慧」（Artificial Intelligent，簡稱 AI）的能力最近十年突然起飛，在許多（所有？）領域的測試中擊敗了人類，正在改變各個領域——包括假新聞的製造與散佈——的生態。

圖形處理單元（graphic process unit，簡稱 GPU）是這場「人工智慧」革命中的最大助手。它的興起使得九年前還是個小公司的 Nvidia（英偉達）股票從每股不到 $5，上升到今天（5 月 24 日）每股超過 $1000（註一）的全世界第三大公司，其創辦人（之一）兼首席執行官、出生於台南的黃仁勳（Jenson Huang）也一躍成為全世界排名 20 內的大富豪、台灣家喻戶曉的名人！可是多少人了解圖形處理單元是什麼嗎？到底是時勢造英雄，還是英雄造時勢？

在回答這問題之前，筆者得先聲明筆者不是學電腦的，因此在這裡所能談的只是與電腦設計細節無關的基本原理。筆者認為將原理轉成實用工具是專家的事，不是我們外行人需要了解的；但作為一位現在的知識分子或公民，了解基本原理則是必備的條件：例如了解「能量不滅定律」就可以不用仔細分析，即可判斷永動機是騙人的；又如現在可攜帶型冷氣機充斥市面上，它們不用往室外排廢熱氣，就可以提供屋內冷氣，讀者買嗎？

CPU 與 GPU

不管是大型電腦或個人電腦都需具有「中央處理單元」（central process unit，簡稱 CPU）。CPU 是電腦的「腦」，其電子電路負責處理所有軟體正確運作所需的所有任務，如算術、邏輯、控制、輸入和輸出操作等等。雖然早期的設計即可以讓一個指令同時做兩、三件不同的工作；但為了簡單化，我們在這裡所談的工作將只是執行算術和邏輯運算的工作（arithmetic and logic unit，簡稱 ALU），如將兩個數加在一起。在這一簡化的定義下，CPU 在任何一個時刻均只能執行一件工作而已。

在個人電腦剛出現只能用於一般事物的處理時，CPU 均能非常勝任地完成任務。但電腦圖形和動畫的出現帶來了第一批運算密集型工作負載後，CPU 開始顯示心有餘而力不足：例如電玩動畫需要應用程式處理數以萬計的像素（pixel），每個像素都有自己的顏色、光強度、和運動等, 使得 CPU 根本沒辦法在短時間內完成這些工作。於是出現了主機板上之「顯示插卡」來支援補助 CPU。

1999 年，英偉達將其一「具有集成變換、照明、三角形設定／裁剪、和透過應用程式從模型產生二維或三維影像的單晶片處理器」（註二）定位為「世界上第一款 GPU」，「GPU」這一名詞於焉誕生。不像 CPU，GPU 可以在同一個時刻執行許多算術和邏輯運算的工作，快速地完成圖形和動畫的變化。

依序計算和平行計算

一部電腦 CPU 如何計算 7×5+6/3 呢？因每一時刻只能做一件事，所以其步驟為：

• 計算 7×5；
• 計算 6/3；
• 將結果相加。

總共需要 3 個運算時間。但如果我們有兩個 CPU 呢？很多工作便可以同時（平行）進行：

• 同時計算 7×5 及 6/3；
• 將結果相加。

只需要 2 個運算時間,比單獨的 CPU 減少了一個。這看起來好像沒節省多少時間，但如果我們有 16 對 a×b 要相加呢？單獨的 CPU 需要 31 個運算的時間（16 個 × 的運算時間及 15 個 + 的運算時間），而有 16 個小 CPU 的 GPU 則只需要 5 個運算的時間（1 個 × 的運算時間及 4 個 + 的運算時間）！

現在就讓我們來看看為什麼稱 GPU 為「圖形」處理單元。圖一左圖《我愛科學》一書擺斜了，如何將它擺正成右圖呢？ 一句話：「將整個圖逆時針方向旋轉 θ 即可」。但因為左圖是由上百萬個像素點（座標 x, y）組成的，所以這句簡單的話可讓 CPU 忙得不亦樂乎了：每一點的座標都必須做如下的轉換

x’ = x cosθ + y sinθ

y’ = -x sinθ+ y cosθ

即每一點均需要做四個 × 及兩個 + 的運算！如果每一運算需要 10^-6 秒，那麼讓《我愛科學》一書做個簡單的角度旋轉，便需要 6 秒，這豈是電動玩具畫面變化所能接受的？

人類的許多發明都是基於需要的關係，因此電腦硬件設計家便開始思考：這些點轉換都是獨立的，為什麼我們不讓它們同時進行（平行運算，parallel processing）呢？於是專門用來處理「圖形」的處理單元出現了——就是我們現在所知的 GPU。如果一個 GPU 可以同時處理 10⁶ 運算，那上圖的轉換只需 10^-6 秒鐘！

GPU 的興起

GPU 可分成兩種：

• 整合式圖形「卡」（integrated graphics）是內建於 CPU 中的 GPU，所以不是插卡，它與 CPU 共享系統記憶體，沒有單獨的記憶體組來儲存圖形／視訊，主要用於大部分的個人電腦及筆記型電腦上；早期英特爾（Intel）因為不讓插卡 GPU 侵蝕主機的地盤，在這方面的研發佔領先的地位，約佔 68% 的市場。
• 獨立顯示卡（discrete graphics）有不與 CPU 共享的自己專用內存；由於與處理器晶片分離，它會消耗更多電量並產生大量熱量；然而，也正是因為有自己的記憶體來源和電源，它可以比整合式顯示卡提供更高的效能。

2007 年，英偉達發布了可以在獨立 GPU 上進行平行處理的軟體層後，科學家發現獨立 GPU 不但能夠快速處理圖形變化，在需要大量計算才能實現特定結果的任務上也非常有效，因此開啟了為計算密集型的實用題目編寫 GPU 程式的領域。如今獨立 GPU 的應用範圍已遠遠超出當初圖形處理，不但擴大到醫學影像和地震成像等之複雜圖像和影片編輯及視覺化，也應用於駕駛、導航、天氣預報、大資料庫分析、機器學習、人工智慧、加密貨幣挖礦、及分子動力學模擬（註三）等其它領域。獨立 GPU 已成為人工智慧生態系統中不可或缺的一部分，正在改變我們的生活方式及許多行業的遊戲規則。英特爾在這方面發展較遲，遠遠落在英偉達（80%）及超微半導體公司（Advance Micro Devices Inc.，19%，註四）之後，大約只有 1% 的市場。

事實上現在的中央處理單元也不再是真正的「單元」，而是如圖二可含有多個可以同時處理運算的核心（core）單元。GPU 犧牲大量快取和控制單元以獲得更多的處理核心，因此其核心功能不如 CPU 核心強大，但它們能同時高速執行大量相同的指令，在平行運算中發揮強大作用。現在電腦通常具有 2 到 64 個核心；GPU 則具有上千、甚至上萬的核心。

結論

我們一看到《我愛科學》這本書，不需要一點一點地從左上到右下慢慢掃描,即可瞬間知道它上面有書名、出版社等，也知道它擺斜了。這種「平行運作」的能力不僅限於視覺，它也延伸到其它感官和認知功能。例如筆者在清華大學授課時常犯的一個毛病是：嘴巴在講，腦筋思考已經不知往前跑了多少公里，常常為了追趕而越講越快，將不少學生拋到腦後！這不表示筆者聰明，因為研究人員發現我們的大腦具有同時處理和解釋大量感官輸入的能力。

人工智慧是一種讓電腦或機器能夠模擬人類智慧和解決問題能力的科技，因此必須如人腦一樣能同時並行地處理許多資料。學過矩陣（matrix）的讀者應該知道，如果用矩陣和向量（vector）表達，上面所談到之座標轉換將是非常簡潔的（註五）。而矩陣和向量計算正是機器學習（machine learning）演算法的基礎！也正是獨立圖形處理單元最強大的功能所在！因此我們可以了解為什麼 GPU 會成為人工智慧開發的基石：它們的架構就是充分利用並行處理，來快速執行多個操作，進行訓練電腦或機器以人腦之思考與學習的方式處理資料——稱為「深度學習」（deep learning）。

黃仁勳在 5 月 22 日的發布業績新聞上謂：「下一次工業革命已經開始了：企業界和各國正與英偉達合作，將價值數萬億美元的傳統資料中心轉變為加速運算及新型資料中心——人工智慧工廠——以生產新商品『人工智慧』。人工智慧將為每個產業帶來顯著的生產力提升，幫助企業降低成本和提高能源效率，同時擴大收入機會。」

附錄

人工智慧的實用例子：下面一段是微軟的「copilot」代書、谷歌的「translate」代譯之「one paragraph summary of GPU and AI」。讀完後，讀者是不是認為筆者該退休了？

GPU（圖形處理單元）和 AI（人工智慧）之間的協同作用徹底改變了高效能運算領域。GPU 具有平行處理能力，特別適合人工智慧和機器學習所需的複雜資料密集運算。這導致了影像和視訊處理等領域的重大進步，使自動駕駛和臉部辨識等技術變得更加高效和可靠。NVIDIA 開發的平行運算平台 CUDA 進一步提高了 GPU 的效率，使開發人員能夠透過將人工智慧問題分解為更小的、可管理的、可同時處理的任務來解決這些問題。這不僅加快了人工智慧研究的步伐，而且使其更具成本效益，因為 GPU 可以在很短的時間內執行與多個 CPU 相同的任務。隨著人工智慧的不斷發展，GPU 的角色可能會變得更加不可或缺，推動各產業的創新和新的可能性。大腦透過神經元網路實現這一目標，這些神經元網路可以獨立但有凝聚力地工作，使我們能夠執行複雜的任務，例如駕駛、導航、觀察交通信號、聽音樂並同時規劃我們的路線。此外，研究表明，與非人類動物相比，人類大腦具有更多平行通路，這表明我們的神經處理具有更高的複雜性。這個複雜的系統證明了我們認知功能的卓越適應性和效率。我們可以一邊和朋友聊天一邊走在街上，一邊聽音樂一邊做飯，或一邊聽講座一邊做筆記。人工智慧是模擬人類腦神經網路的科技，因此必須能同時並行地來處理許多資料。研究人員發現了人腦通訊網路具有一個在獼猴或小鼠中未觀察獨特特徵：透過多個並行路徑傳輸訊息,因此具有令人難以置信的多任務處理能力。

註解

（註一）當讀者看到此篇文章時，其股票已一股換十股，現在每一股約在 $100 左右。

（註二）組裝或升級過個人電腦的讀者或許還記得「英偉達精視 256」（GeForce 256）插卡吧?

（註三）筆者於 1984 年離開清華大學到 IBM 時，就是參加了被認為全世界使用電腦時間最多的量子化學家、IBM「院士（fellow）」Enrico Clementi 的團隊：因為當時英偉達還未有可以在 GPU 上進行平行處理的軟體層，我們只能自己寫軟體將 8 台中型電腦（非 IBM 品牌！）與一大型電腦連接來做平行運算，進行分子動力學模擬等的科學研究。如果晚生 30 年或許就不會那麼辛苦了?

（註四）補助個人電腦用的 GPU 品牌到 2000 年時只剩下兩大主導廠商：英偉達及 ATI（Array Technology Inc.）。後者是出生於香港之四位中國人於 1985 年在加拿大安大略省成立，2006 年被超微半導體公司收購，品牌於 2010 年被淘汰。超微半導體公司於 2014 年 10 月提升台南出生之蘇姿豐（Lisa Tzwu-Fang Su）博士為執行長後，股票從每股 $4 左右，上升到今天每股超過 $160，其市值已經是英特爾的兩倍，完全擺脫了在後者陰影下求生存的小眾玩家角色，正在挑戰英偉達的 GPU 市場。順便一題：超微半導體公司現任總裁（兼 AI 策略負責人）為出生於台北的彭明博（Victor Peng）；與黃仁勳及蘇姿豐一樣，也是小時候就隨父母親移居到美國。

（註五）或。

延伸閱讀

• 「熱力學與能源利用」，《科學月刊》，1982 年 3 月號；收集於《我愛科學》（華騰文化有限公司，2017 年 12 月出版），轉載於「嘉義市政府全球資訊網」。
• 「網路安全技術與比特幣」，《科學月刊》，2020 年 11 月號；轉載於「善科教育基金會」的《科技大補帖》專欄。

2023 年 3 月 intel 跟微軟共同發布了 AI PC 定義。

定義需要用 intel 的 Core Ultra 處理器，要有微軟系統內建 的Copilot AI，鍵盤上還需要有一個實體 copilot 按鍵，才算是一台 AI PC。

這個 AJ 看到後，發現案情並不單純，定義 AI PC 這件事情，遠比你想得還要重要！

所以今天呢，我們就來回答三個問題：

1. AI PC 是什麼？
2. AI PC 強在哪？
3. 有哪些公司跟 AI PC 有關？

最後再跟大家分享是否要買 AI PC 的建議。

好啦，本集我們整理了整個 AI PC 的脈絡，我把懶人包放在這裡，有需要的可以暫停看一下。

最後來給買 AI PC 的建議吧，如果你主要用桌上型電腦，4090 獨立顯卡直接給他買下去，因為桌上型的處理器至少到目前為止，都還沒看到內建 NPU 的規劃，所以所有的平行運算都還是靠顯示卡 GPU 來處理。

筆記型電腦方面，各家網購平台都已經推出 AI 筆電專區，最低三萬元左右就可以買到最新的 AI PC。

或許你還沒體驗到 AI 工具帶來的工作流程改變，不過潮流已經出現，據說到 2025 年，將出貨超過一億台AI PC，各家軟硬體廠商在這個全新的賽道上，只會不斷推出各種基於 AI PC 架構的應用與服務，畢竟，你如果不做，你的競爭對手可是不會等你。

有點離題了，在可遇見的未來，我們勢必會發現自己的電腦擁有更多基於 AI 技術的功能，

也許，你可以再等一會，等桌上型電腦也內建 NPU 之後，再來買真正的 AI 「PC」，不過要問我的話，如果是購買筆電的需求，選擇適合 Intel Evo 認證的筆電是值得推薦的選擇。

如果有其他想看的 AI 工具測試或相關問題，也可以留言發問，如果喜歡這支影片的話，也別忘了按讚、訂閱，加入會員，我們下集再見～掰！

更多、更完整的內容，歡迎上泛科學院的 youtube 頻道觀看完整影片，並開啟訂閱獲得更多有趣的資訊！

都 AI 時代了，為什麼 Google 或者是 Bing 搜尋出來的結果，還要我們用工人智慧一個個點開連結之後進行理解查閱跟歸納整理呢？

別再浪費你的生命了，來體驗一下 Perplexity，這個針對搜尋優化過的 AI 工具，幫你把搜尋網路的結果直接整理彙整出來，快來試試看吧，用過之後，你一定會跟我一樣，轉頭跟 Google 還有微軟說：「加油好嗎！」

是說，基於對話的各種 AI 工具，快速發展的當下，很多功能都被做了出來，但有事做不代表有把事做好，希望各家的 AI 在比拼模型正確性，縮短回應速度之餘，產品端也可以好好加油，讓我們一般用戶都可以舒服快速的完成想要的工作，優化使用者體驗才是最重要的事，不然哪天被其他公司彎道超車也說不定喔……欸那個聽說今年蘋果 WWDC 開發者大會好像要大舉導入生成式 AI 技術……我們終於可以跟笨笨的 Siri 還有 Google Assistant 說拜拜了嗎……？

最後，真心建議那些不善長溝通的人，可以學學 perplexity copilot 的對話策略，聽完別人問題後，試著提出理解後的反問，就能讓人感覺到被受重視了！

更多、更完整的內容，歡迎上泛科學院的 youtube 頻道觀看完整影片，並開啟訂閱獲得更多有趣的資訊！

打開搜尋引擎，不知道要輸入什麼用詞才能找到需要的資訊？例如，明明心中的疑問是「今天會下雨嗎？」，但打開Google搜尋，輸入的關鍵字卻是「本日 降雨機率」。

為了要讓搜尋引擎理解問題，大多數的人在使用 Google 搜尋時往往會捨棄口語用詞，改為輸入幾個簡單的關鍵字，久而久之已變成一種慣用的搜尋習慣。好像不那麼做，Google 會看不懂關鍵字，也就無法順利搜尋到需要的資訊。

但看看「Google 助理向美髮沙龍預約剪髮」的實際對話影片，可以發現 Google 其實有能力理解口語對話，還能像人類一樣回覆流利答覆，而這樣的能力也能在 2019 年「BERT 自然語意演算法」推出後，使用 Google 搜尋查找資訊時獲得類似的經驗。 

號稱能理解人類語言的 BERT 演算法

BERT 演算法有個繞口又深奧的全名：Bidirectional Encoder Representations from Transformers，翻成中文的字面意思還是很難理解。

但簡單來說，它能幫助電腦更理解人類的語言。若應用在搜尋引擎方面，它能夠仔細辨識搜尋字串的「每個字」，再根據前後字詞的關係（上下文）去讀懂整個搜尋字串要表達的意思，而且與以往只擇一比對前一或後一個字詞不同的是，BERT 演算法是將前、後字詞都納入判斷語意的參考，所以能更精確判斷使用者搜尋該字串的意圖／目的。

BERT 演算法剛推出時，在美國地區、使用英文搜尋時的搜尋結果，約有 10% 受到影響，也就是每 10 個搜尋之中，會有 1 個搜尋結果受到影響，因此被稱為是繼 2015 年、號稱影響 Google 排名第三大因素的 RankBrain 推出後，Google 演算法史上目前最大的變革。除了英文以外，後來也逐漸推及到其他搜尋語言。

BERT 演算法背後的原理

1. 讓電腦聽懂「人話」：自然語言處理

自然語言指的是「人類自然而然說出來的語言」，因為正常狀況下，人類在對話時有上下文可以參考，因此能互相理解彼此的語意（當然偶爾還是可能出現溝通障礙，）。但電腦卻很難理解自然語言。而自然語言處理 Natural Language Processing (NLP)，就是用來幫助電腦理解人類自然語言的一種技術。

以中文為例，因為中文句子不像英文句子，會用空格隔開各個單字，很容易因為斷句方式不同，而有不同的語意，因此，中文的自然語言處理至少要做到兩件事，第一件是將句子「斷成詞，以理解個別詞義」、第二件是「分析語意」，包括文法和整個句子的語意解讀。

舉例來說，「他・有・繪畫・的・才能」和「放下・才・能・得到」這兩句話雖然都有「才能」，但兩個句子的斷句方式不同，「才能」在這兩句話的意思也不同。研究人員會將大量的類似句子做出這樣的斷句，讓電腦學習，往後當「才能」這個詞又出現時，電腦也能學會從上下文判斷，並做出適當的斷句。

2. 電腦「自學」的關鍵：詞向量

但詞彙那麼多，要如何讓電腦學習呢？最常見的方式是將詞彙轉換為「詞向量／詞嵌入」(Word Vector/ Word Embedding)，簡單來說，就是以一連串數字代表詞彙，讓電腦更能理解詞彙之間的關係。每個詞彙都有一組數字，而這些數字是由比對大量前後文而統計出來的結果，可以用來比較詞彙間的關係遠近。

字義越相關，詞向量的距離越近，例如「蝴蝶」跟「飛」的向量距離比跟「爬」的向量距離還近。而且，隨著資料量越多，統計出來的數字也會隨之調整，詞彙間的關係因此能越來越精確。如此一來，電腦不需要語言學相關知識，也能透過蒐集大量資料和統計來自主學習，並且根據統計數據處理語言。

回到BERT來說，起初，研究人員研發出多個不一樣的語言理解處理模型，每個模型都有特定的功能，專職處理特定類型的語言理解，例如有的負責斷詞、有的負責分析語法、有的負責情感分析。就好像廚房中有各種不同的工具，水果刀用來切水果、開瓶器用來開紅酒，每個器具各司其職；而BERT就像是一把瑞士刀，一把在手就能滿足多種功能需求，BERT能處理大部分的自然語言處理問題，也就不再需要使用多種語言理解處理模型，這也是Google將BERT導入演算法應用的原因之一。 

常見的自然語言處理有效運用案例有：客服常使用的聊天機器人、智慧型手機的詞彙建議等，能從幾個關鍵字判斷出完整句子，再從資料庫中找出適合的資料回應。

（補充：若想更深入了解BERT演算法原理，可參考Google官方釋出的Open Source說明。）

BERT 演算法的應用實例

Google 官方表示 BERT 將會擴大應用於多種語言的搜尋結果，但官方目前已釋出的舉例大多仍是以英文為主。

例如：使用者搜尋“2019 brazil traveler to usa need a visa”，是想知道「2019 年巴西旅客去美國旅遊是否需要簽證」，但在 BERT 演算法推出前，Google 忽略了使用者搜尋字串中的介係詞 “to”，因此將搜尋意圖錯誤理解為「美國旅客去巴西旅遊是否需要簽證」，提供的搜尋結果自然就會是針對美國人要去巴西旅遊的情境。

BERT 演算法強調搜尋引擎能辨識搜尋字串的「每個字」，再去理解整個搜尋字串要表達的語意，所以加入介係詞 “to” 去分析以後，就會得到完全不同、更準確的搜尋意圖，提供的搜尋結果自然更能符合使用者的需求。

雖然沒有官方資料證實，BERT演算法對於繁體中文搜尋結果有何影響。但實際搜尋幾組繁體中文關鍵字，仍可發現有 BERT 的蹤影。例如搜尋口語化的句子「今天會下雨嗎」，和較為正式的關鍵字用法「本日 降雨機率」，Google 搜尋結果第一個列出的，都是使用者所在位置的降雨機率預報。

根據上述例子，可以推測出，即使「今天會下雨嗎」是相當口語化的自然語言搜尋用語，但Google仍然能夠理解，使用者輸入「今天會下雨嗎」和「本日 降雨機率」這兩組關鍵字，所要找的資料其實是一樣的。

BERT 演算法也有極限

先不論 BERT 演算法，是否能改善英文以外其他語言的搜尋結果，BERT 演算法本身也有以下一些限制：

1. 不擅長理解否定敘述

語言學家 Allyson Ettinger 在他的研究論文 “What BERT is not” 中提出了幾個要點說明 BERT 的限制，其中特別指出 BERT 很難理解否定詞對於上下文語意的影響。

2. 不擅長理解長篇文件

電腦要理解長篇文件的挑戰性更高，因為大部分長篇文件會再細分為章節、段落、句子，即便是人類在閱讀長篇文件時，可能都需要參考文件架構才能理解整篇文件的內容。因此電腦在理解長篇文件時應該將架構一起納入處理，但理解長篇文件的架構對 BERT 演算法而言並不容易。

總結

Google 官方承認，即便導入了 BERT 來提升自然語言處理的成效，要精準理解自然語言對於電腦而言仍是非常有挑戰性。不過，針對搜尋結果優先列出的「精選摘要」部分，Google 表示目前至少在韓語、印地語和葡萄牙語都已有重大改善。在未來，Google 預計將 BERT 學習英文理解的這套模式套用到更多不同語言上，期待未來所有使用者在執行搜尋時，都能以最輕鬆自然的方式輸入，而不需要刻意思考應該輸入什麼關鍵字，才能被 Google 搜尋引擎所理解。

資料來源

1. Google Duplex: AI will call and book your appointments
2. FAQ: All about the BERT algorithm in Google search – Search Engine Land
3. Open Sourcing BERT – Google AI Blog
4. 如何斷開中文峰峰相連的詞彙鎖鍊，讓電腦能讀懂字裡行間的語意？ – 泛科學 PanSci
5. Understanding searches better than ever before – Google
6. What BERT is not – Allyson Ettinger
7. Google’s SMITH Algorithm Outperforms BERT – Search Engine Journal