0

1
0

文字

分享

0
1
0

驅動未來科技創新的運算平台領導廠商—Arm

鳥苷三磷酸 (PanSci Promo)_96
・2023/10/26 ・2594字 ・閱讀時間約 5 分鐘

本文由 Arm 委託,泛科學企劃執行。

Arm(安謀)是一家來自英國提供處理器 IP 架構設計的矽智財公司,你可能不清楚 Arm 在做什麼?但你可能在最近的新聞中聽過它,而且,你可能每天都在使用他們的產品!

實際上,90% 的智慧型手機使用的 CPU 晶片,其指令架構集(ISA)都是採用 Arm 架構,例如部分蘋果產品所使用的晶片、Android 手機常見的驍龍系列,以及聯發科技推出的天璣系列晶片,Arm 都是這些處理器架構的主要供應商。

每片 CPU 上,都有 ISA。圖/pixabay

不過這個指令架構集(ISA)到底是什麼?為什麼每台手機甚至電腦都要有呢?

什麼是指令架構集(ISA)?

指令集架構(ISA)是電腦抽象模型的一部分,它定義了 CPU 如何被軟體控制。ISA 作為硬體和軟體之間的介面,既規定了處理器能夠執行的任務,又規定了如何執行這些任務。ISA 提供了使用者與硬體互動的唯一途徑。ISA 可以被視為程式設計師的手冊,透過 ISA,組合語言程式設計師、編譯器編寫者和應用程式程式設計師方能與機器溝通。

處理器的構建和設計稱為微架構(micro-architecture),微架構告訴您特定處理器的工作原理,例如,Arm Cortex-A53 和 Cortex-A73 都是 Armv8-A 架構的實現,這意味著它們具有相同的架構,但它們具有不同的微架構。

目前常見的 ISA 有用於電腦的 Intel/AMD x86_64 架構,以及在行動裝置是主流的 Arm 架構。而 Arm 本身不製造晶片只授權其架構給各個合作夥伴,授權的架構也被稱為「矽智財」(Semiconductor intellectual property core,簡稱 IP),並由合作夥伴依據規格打造合規的矽晶片。

Arm 成為全球關注的焦點

今年九月,Arm 在美國紐約那斯達克交易所掛牌上市,吸引大量投資者的目光,除了節能的設計,Arm 持續提升產品效能,使得 Arm 架構具有強大的競爭優勢,讓 Arm 的技術和產品,除了在行動裝置與物聯網應用佔據了重要地位,也在後續發展的其他產品持續協助產業推動技術革命。

最早,Arm 架構是為了依靠電池運作的產品而設計的,隨著這十多年來的轉變,行動裝置成為主流,而 Arm 架構也成為了行動裝置的首選。

除了 Arm 原本行動裝置的通用 CPU 領域,Arm 亦著手開發專用 CPU 的架構,這些專用 CPU 的使用情境包含雲端基礎設施、車用和物聯網(IoT)。

現在 Arm 除了在手機處理器上有超過 90 % 的市占率外,在物聯網與嵌入式應用上有 65% 的市占率,目前車用晶片也逐步轉向由軟體來定義汽車的電子電氣架構,這凸顯了軟體在未來汽車架構的重要性。「嵌入式邊緣裝置使用的可擴充開放架構 (Scalable Open Architecture for Embedded Edge;SOAFEE) 」建立以雲原生的系統架構,透過雲端先行開發軟體,協助汽車產業業者在產品正式商品化前,能在基於 Arm 架構的晶片上進行虛擬環境測試,目前 Arm 在車用晶片上,市佔率超過四成。

由感測器至智慧製造系統設計,Arm 與生態系密切合作,推動技術創新

在雲端運算上,Arm 也推出了 Arm Neoverse 技術平台來協助雲端伺服器的晶片設計,並配合新推出的 Arm Neoverse 運算子系統(CSS),來簡化專用晶片的設計複雜性,減少晶片設計花費的時間。

在 Arm 日益完整的產品組合下,透過與廣大生態系合作,能為市場提供許多軟硬體解決方案。首先,在行動裝置上,Arm 近乎霸占市場。而在 AI 發展與網路速度持續提升的趨勢下,許多運算都可以在雲端完成,最近的實例為 Nvidia 的 GeForce Now,只需一台文書機,就能暢玩 3A 大作,或是 Google 的 Colab,讓 AI 能在文書機上完成運算,造福了沒有高級顯卡的使用者。

未來,邊緣運算將陸續解開雲端運算的束縛,而 Arm 也在前期投入了雲端基礎開發,配合行動裝置的市占率,無論如何 Arm 都將在未來科技業占有一席之地。

Arm Tech Symposia 將在 11 / 1 與 11 / 2 盛大舉辦

2023 Arm 科技論壇(Arm Tech Symposia)即將在 11/1 台北萬豪酒店,11/2 新竹國賓飯店盛大舉辦!這是 Arm 每年最重要的實體活動之一,以【Arm is Building the Future of Computing】為主軸,探討在 AI 時代來臨之際,Arm 最新的技術如何驅動創新科技,為次世代的智慧運算、沉浸式視覺、AI 應用、自主體驗等帶來更多可能性。 

這次 Arm 科技論壇將圍繞在車用、物聯網、基礎設施、終端產品等熱門 AI 應用領域,並邀請台積公司、Cadence、瑞薩電子、新思科技、CoAsia 擎亞半導體等各領域專家,帶來產業第一手趨勢洞察。

其次,也會分享 Arm 的新技術在 AI 的應用,包含如何透過軟體定義汽車降低汽車電子系統核心 EUC 整合的複雜性,同時維持汽車資安;以及介紹專為特定工作負載而設計的運算方式,如何讓企業不受外在環境與技術影響,處理更大規模的數據。

今年 11/1 在台北場的座談會,主題為 Edge computing on AI,探討邊緣運算在人工智慧上的應用,以及人工智慧對於半導體產業以及晶片研發帶來的影響,邀請 iKala 共同創辦人暨執行長程世嘉、聯發科技執行副總經理暨技術長周漁君,以及 Arm 台灣總裁曾志光與會。

Arm 科技論壇 11 月 1 日台北萬豪酒店。 圖 / Arm 

11/2 在新竹場的座談會主題為 The Keys of Automotive Transformation,探討汽車產業的轉型趨勢,邀請 Anchor Taiwan 執行長邱懷萱、友達光電執行長暨總經理/達擎董事長柯富仁、波士頓顧問公司董事總經理暨資深合夥人徐瑞廷,以及 Arm 台灣總裁曾志光與會。

Arm科技論壇 11月 2 日新竹國賓飯店。 圖 / Arm 

無論你是硬體工程師、軟體開發人員、晶圓代工、晶片設計商、OEM/ODM 還是相關產業人士,都能在這場論壇中互相交流,充實自己。

2023 Arm 科技論壇報名連結

活動結束後填寫問卷的朋友,還有機會現場抽中 iPhone 15 Pro、 iRobot Roomba j7+ 掃地機器人、Sony WH-1000XM5 無線耳機、Dyson Purifier Big+Quiet Formaldehyde 空氣清淨機等精美好禮喔!

報名截止倒數中,現在就立刻報名吧!

文章難易度

0

3
0

文字

分享

0
3
0
手機成癮上前線?俄烏戰爭有經驗
胡中行_96
・2023/10/19 ・4141字 ・閱讀時間約 8 分鐘

忽然慘遭襲擊,距離如此靠近,想必是走漏了行跡。「哪個混蛋帶手機?俺宰了你!」「我剛才打給媽媽。」撤兵五分鐘內,這裡便被炸得粉碎。一則又一則 2014 至 2022 年間的前線通訊故事,收錄於 2022 年 10 月《數位戰爭》(Digital War)期刊,[1]烏克蘭戰爭傳播學者 Roman Horbyk 記載俄烏戰爭頓巴斯戰役(the War in Donbas)的論文裡。[1, 2][註1]

位於烏克蘭東部的頓巴斯。圖/Leftcry on Wikimedia Commons(CC BY-SA 4.0

前線通訊設備

Roman Horbyk 訪問了 14 名烏克蘭軍人與 2 名配偶,以下是他們提到的幾種通訊設備:[1]

  • 手機:有些軍人同時擁有廉價、續航力長達 4、5 天的按鍵式手機;以及附帶相機、上網等功能,卻十分耗電的智慧型手機。兩者搭配分別的電話號碼,區隔公務與私用。一旦發現按鍵式手機遭敵軍追蹤,「我就把它丟進河裡。…跟家裡聯絡的那支,則放在基地。」另外,也有軍人放棄脆弱的智慧型手機,擁抱適合戰場的復刻經典:「我剛買了 Nokia 的按鍵式新款,堅不可摧。」[1]
  • 筆記型電腦:比手機笨重,弄丟或必須毀屍滅跡的時候,損失又更大。「我們單位的指揮官有台筆記型電腦,儲存大家緊急聯絡人的資料。在可能即將被大規模轟炸的關鍵時刻,…他生起小火,把筆電燒了。」[1]
  • 平板電腦:雖然容易損壞,但是能在連線後,將反裝甲佈雷資訊,即時更新至 Kropyva 地圖。針對這個非營利組織 Army SOS 開發的軟體,受訪軍人讚譽有加。[1, 3] [註2]此外,民間專家設計的火砲射擊計算軟體 Bronya,也安裝在平板電腦裡。原本幾分鐘的計算時間,縮短至幾秒。私人層面,平板電腦多作娛樂用途。[1]
  • 無線電站台:多半為北約或其他來源的二手貨,為高階軍官處理要務的管道,比手機安全。[1]
  • 無線電對講機:在戰爭早期難以取得,到了後來「…我們用對講機聯絡敵軍,然後互嗆。嗯,就只是張揚,其實聰明人應該竊聽,而非吵架。」[1]
  • 野戰電話:由通信部隊牽電話線,經濟、安全,不像手機或網路通訊容易被駭,是僅次於無線電站台的公務選擇。除非遇上密集轟炸等物理性攻擊,否則不太受干擾。[1]
  • 衛星電話:多為高階指揮官所用。優點是可以在地底防空洞安心通話,而且還收得到訊號;缺點則是昂貴且罕見,使用者要承擔的責任較高,所以有些受訪者承認他們會盡量避免。[1]

整體而言,手機是最受歡迎的通訊設備。烏克蘭通訊業者在 2000 跟 2010 年代,以華為和 Ericsson 的設備,設立手機訊號基地台。跟城市相比,鄉村的訊號較差;而俄軍佔領區就使用俄國的服務。前線訊號不穩,部份原因是俄國刻意搗亂。「大卡車以人道援助之名抵達,卸下來的貨只有 10 包糖,其他都是訊號干擾設備。」[1]2014 年克里米亞危機(the Crimean crisis)的時候,俄羅斯曾出動 R-330Zh Zhitel 機動電戰車,偵測、分析,並干擾 100 至 2,000 MHz 的衛星和手機通訊。[4]

烏東前線充電中的手機。圖/參考資料 1,Figure 3(CC BY 4.0

假消息的傳播

對前線的軍人來說,手機最重要的功能之一,就是瀏覽網路新聞。烏克蘭官方的軍媒流行不起來,臉書倒是壓倒性地大受歡迎。這無可避免地,衍伸出事實查核的問題。有些人對假消息相當敏感,知道資訊會被操弄;許多則是抵達前線後,才開始有所警覺。[1]

通訊軟體也是假消息傳播的管道,因此烏軍不得使用跟俄羅斯有關的 Viber,但向敵軍散佈錯誤訊息時除外。Telegram 維持開放至 2018 年;而 SkypeWhatsApp 則從未被禁。[註3]網路訊號微弱時,上述通訊軟體無法運作。大家會改用BluetoothSHAREit(茄子快傳),進行短距離的檔案傳輸。值得注意的是,儘管烏克蘭受訪者將此二者歸類為較安全的選項;[1]印度並不准許軍人安裝 SHAREit。2017 年印度媒體報導,該國政府列出 42 個向中國回傳資料的間諜程式,除了 SHAREit,其他上榜的知名軟體,還包括:微博、微信和 QQ 等。[5]

當然,也有人偏好傳統的資訊交流管道。「為了得知新聞,我們會打電話給彼此。」不過,原職為記者的前線軍人不以為然:「士兵對戰爭資訊非常沒興趣。」娛樂才是主要需求。[1]

電力、網路及娛樂

2014、2015 年深陷熱戰的時候,頓巴斯前線缺乏穩定電力與網路。然而隨著時間推移,壕溝和掩體的基礎設施逐漸升級:通常直接從附近的電網偷接,也有人用攜帶式發電機發電。後來不僅電力改善,還有閉路攝影機、電視機、冷凍櫃、無線網路,甚至三溫暖。[1]

烏東前線軍營的插座。圖/參考資料 1,Figure 4(© Valeriy Markus;CC BY 4.0

「習慣了窮忙,突如其來的寂靜,會令你覺得有鬼。」在暫時無聊的前線,「奇怪的想法開始自心底萌生」。士兵下棋、看電視消遣,或用手機聽音樂、追劇、打遊戲。電視訊號受俄羅斯系統性的干擾,網路連線又不穩定。「那些出入總部文明環境的人,會把東西下載到隨身碟給我們。」是說通暢的連線,也非絕無壞處。俄國情報單位就觀察電子設備朝遊戲網站的流量,試圖招募成癮的烏軍。[1]

另外,蠻多喜歡閱讀的軍人,用手機和平板電腦儲存電子書,容量大、輕便、好攜帶。有一名神父將宗教書籍、音樂與儀式紀錄,裝進平板電腦。「我主持婚禮、洗禮等儀式,盡己所能照顧當地平民的心靈,並在前線小鎮建立了教堂及教區。」[1]

正在下棋的前線烏軍。圖/參考資料 1,Figure 9(© Valeriy Markus;CC BY 4.0

手機通訊的風險

對講機、手機和無線電站台都會被監控,所以指揮官一般傾向面對面討論事情。可是在私人層面,軍人不得不用手機與親友聯絡。「某回老婆打來問:『你現在在哪?』背景馬上就聽得到特別的聲音,代表(己方的安全單位)正在錄音。我說:『兄弟,把它關掉,讓我跟老婆說話。我合法。』」烏克蘭軍人頗習慣被同胞和敵軍監聽。即使通信部隊的成員,懷疑從雜音或是訊號跳頻,能辨識通話遭駭;許多軍人深信不疑,並發展出各種維護資安的溝通暗號。[1]

Norton防毒軟體公司的文章,也提及聽到雜音有可能是被監聽,還列舉其他徵象,例如:手機暗自不斷地向第三方傳輸,加快了電池耗電及數據用量;無故發出怪聲,或螢幕沒事亮起來;收到監控軟體故障時,傳來的亂碼訊息;以及因為尚未完成背景傳輸作業,所以拖長關機時間等。[6]

另一種手機通訊風險,總是隨關懷而來。彼時彈幕包圍,「我躲到某處,然後說:『我晚點再回電,現在正忙。』這樣他們就不會聽到砲聲隆隆。」很多烏克蘭的軍人跟家裡約定:他們只打電話,但絕不接聽。遇到適合的時機,便主動報平安。這當然無法阻止焦慮的家屬或放假的同袍,明知故犯:「我打去看他會不會接。有的話,必然一切都好;沒有的話,大概是人在掩體裡,或者正慘遭砲擊。那我就等他打回來。」至於文字溝通,容易啟人疑竇。「當你收到訊息,天知道是誰傳的;而當你傳出訊息,也不曉得誰會閱讀。」[1]

更麻煩的是,就算通訊的時機和方式恰當,內容也沒有外流;光是開、關機,或無關緊要的手機操作,都還是有其危險。比方說,偵測荒野裡使用中的手機數量,可以推估該處的軍力。或是,「當我們開始用迫擊砲轟炸,會被要求關閉手機,以免干擾瞄準。結束後,才允許開機。」[1]

禁手機,像廢娼?

2015 年 7 月,烏克蘭國會禁止戰區士兵,使用手機、相機、無線電收音機和電腦。只是在缺乏安全通訊系統的狀況下,手機到頭來仍是最可靠的溝通設備,大家有命難從。到了 2017 年 8 月,迫於情勢,只得重新開放。[1]俄羅斯方面,也大同小異。《紐約時報》(The New York Times)報導,俄國前線士兵的手機被長官沒收,於是去偷烏克蘭人的,好打電話回家。時常通話暴露位置,而被炸翻也就在所難免。[7]

俄國擁戰派部落格形容 21 世紀前線的手機禁令,「跟廢娼一樣沒用」。[7]Roman Horbyk 也指出,烏克蘭人往往將之視為可接受的風險。畢竟除此之外,尚有諸多遭受攻擊的原因,而手機卻有不可取代的功能。「置身烽火數載,人們不再留意防彈背心與鋼盔。你無法逃脫命運。…我看過別人在砲擊下打手機。…自己則不會在遇襲時關機。相反地,當時很想發送道別簡訊。真的,只是我終究沒傳…」,受訪者笑道:「因為要是活下來了,怎麼辦?」[1]

  

備註

  1. 俄烏戰爭是從 2014 年俄羅斯併吞克里米亞(Crimea)算起。[1]
  2. 原論文稱開發地圖軟體的民間組織為 Armiya SOS。[1]基於翻譯的緣故,網路上能查到數種拼法,例如:Army SOS、АРМІЯ SOS(Армії SOS)和 ARMIA SOS 等。[8, 9]他們的官方網站,採前二者;[8, 10]而早期的臉書頁面,曾用過最末者。[9]
  3. 原論文裡的禁用軟體清單,適用範圍應該僅限於軍人。根據自由之家(Freedom House)2023 年的報告,烏克蘭人仍大量使用 Viber 和 Telegram。[11]

參考資料

  1. Horbyk, R. (2022) ‘“The war phone”: mobile communication on the frontline in Eastern Ukraine’. Digital War, 3, 9–24.
  2. Roman Horbyk’. Academia, U.S. (Accessed on 17 OCT 2023)
  3. Defense Mapping Software’. Army SOS, Ukraine. (Accessed on 14 OCT 2023)
  4. R-330Zh Zhitel Russian Cellular Jamming and Direction Finding System’. OE Data Integration Network (ODIN), U.S. (Accessed on 17 OCT 2023)
  5. D’Mello G. (01 DEC 2017) ‘The Government Has Named 42 Apps “Chinese Spyware”, Including Big Names Like TrueCaller’. India Times.
  6. Stouffer C. (13 JUN 2023) ‘How to tell if your cell phone is tracked, tapped, or monitored by spy software’. Norton, U.S.
  7. Yuhas A, Gibbons-Neff T, Al-Hlou Y. (04 JAN 2023) ‘For Russian Troops, Cellphone Use Is a Persistent, Lethal Danger’. The New York Times, U.S.
  8. Improving Ukraine’s Defense Capabilities Since 2014’. Army SOS, Ukraine. (Accessed on 14 OCT 2023)
  9. Ukraine Army SOS’. Facebook. (Accessed on 14 OCT 2023)
  10. Ми покращуємо обороноздатність України з 2014 року’. Army SOS, Ukraine. (Accessed on 14 OCT 2023)
  11. Freedom on the Net 2023 – Ukraine’. Freedom House, U.S. (Accessed on 16 OCT 2023)
胡中行_96
169 篇文章 ・ 65 位粉絲
曾任澳洲臨床試驗研究護理師,以及臺、澳劇場工作者。 西澳大學護理碩士、國立台北藝術大學戲劇學士(主修編劇)。邀稿請洽臉書「荒誕遊牧」,謝謝。

0

3
1

文字

分享

0
3
1
只要將大腦上傳到電腦中,複製出另一個你,就可以實現永生嗎?——《千腦智能新理論》
星出版
・2023/06/28 ・1983字 ・閱讀時間約 4 分鐘

假設在未來某個時候,我們有能力瞬間取得在電腦中重新創造一個人所需要的全部資料,假設我們的電腦有足夠能力模擬你和你的身體。果真如此,我完全不懷疑基於電腦的大腦會有意識和知覺,就像你一樣。但這會是你想要的嗎?也許你正在想像下列這種情境。

假設我們的電腦有足夠能力模擬你的身體、意識和知覺,這會是你想要的嗎?圖/Pixabay

你正處於生命的盡頭,醫師說你只剩下幾個小時的生命。此時你按下一個開關,你的大腦隨即一片空白。幾分鐘後,你醒過來,發現自己活在一個基於電腦的新身體裡。你的記憶完好無損,你覺得自己恢復了健康,展開新的永恆生命。你大喊:「耶!我還活著!」

現在想像一個稍微不同的情境。假設我們有技術可以複製你的生物大腦而不影響它,現在你按下開關之後,你的大腦被複製到一台電腦上,而你沒有任何感覺。幾分鐘後,電腦說:「耶!我還活著。」但是,你,那個生物你,還是存在。現在有兩個「你」,一個在生物身體中,一個在電腦身體中。電腦那個你說:「現在我已經上傳了,不需要原本那個身體了,請把它處理掉。」生物那個你說:「等一下,我還在,我不覺得有任何改變,我不想死。」我們應該如何處理這個問題?

解決這個難題的方法,或許就是讓生物那個你度過餘生,自然死亡。這似乎很合理。但是,在生物你死亡之前,世上有兩個你。生物你與電腦你會有不同的經歷,因此隨著時間推移,兩者漸行漸遠,變成了不同的人。例如,生物你和電腦你可能會發展出不同的道德與政治立場,生物你可能會後悔創造了電腦你,而電腦你可能不喜歡有一個生物老人聲稱是自己。

在生物你死亡之前,世上有兩個你。隨著時間推移,兩者漸行漸遠,可能會發展出不同的道德與政治立場。圖/Pexels

更糟的是,你很可能會有壓力在你年輕時就上傳你的大腦。例如,想像一下,電腦你的智能健康,取決於大腦上傳時生物你的智能健康。因此,為了盡可能提高你的永生版本的生活品質,你應該在你心智健康最好時上傳你的大腦,譬如 35 歲時。你可能想在年輕時上傳大腦的另一個原因是,你以肉身活著的每一天都有可能意外死亡,因此失去永生的機會。因此,你決定在 35 歲時上傳自己。

請捫心自問:35 歲的生物你在複製了自己的大腦之後,可以安然殺死自己嗎?隨著你的電腦版本展開自己的生活,你(生物你)則慢慢衰老、最終死去,生物你會覺得自己已得到永生嗎?我認為答案是否定的。「上傳你的大腦」是個誤導的說法,你真正做的是把自己分裂成兩個人。

現在再想像一下,你上傳了你的大腦,然後電腦那個你立刻複製了三個自己。現在有四個電腦你和一個生物你,這五個你開始有不同的經歷,漸行漸遠。每一個你都有獨立的意識,你是否已得永生?那四個電腦你,哪一個是永生的你?生物你慢慢衰老、邁向死亡,看著四個電腦你過各自的生活。這裡沒有共同的「你」,只有五個個體,雖然起初有相同的大腦和記憶,但隨即成為獨立的存在,此後過著不同的生活。

想像一下,你上傳了你的大腦,然後電腦那個你立刻複製了好幾個自己,每個都有獨立的意識和不同的經歷,哪一個才是永生的你?圖/Pixabay

也許你已經注意到,這些情境與生孩子相似。當然,最大的不同是你不會在孩子出生時,上傳你的大腦到孩子的腦袋裡。然而,我們可說是在某程度上試圖這麼做,我們把家族史告訴孩子,教導他們,希望他們建立和我們一樣的道德觀和信仰。藉由這種方式,我們將我們的一些知識轉移到孩子的大腦裡。但隨著他們長大,他們會有自己的經歷,成為獨立的人,就像你上傳大腦產生的電腦你那樣。

想像一下,如果你能把你的大腦上傳給你的孩子,你會這麼做嗎?如果你這麼做,我相信你會後悔。你的孩子將背負你的記憶,終其一生將致力忘記你做過的一切。

上傳大腦乍聽是個極好的主意,誰不想得永生呢?但是,藉由上傳大腦到電腦中來複製自己,其實無法實現永生,就像生孩子無法實現永生那樣。複製自己是開出一條岔路,而不是延伸原本的路。開出岔路之後,會有兩個擁有知覺和自我意識的存在,而不是只有一個。一旦你意識到這一點,上傳大腦的吸引力就會開始減弱。

——本文摘自《千腦智能新理論》,2023 年 5 月,星出版出版,未經同意請勿轉載。

星出版
3 篇文章 ・ 0 位粉絲

0

3
1

文字

分享

0
3
1
Google Tensor 處理器是什麼?厲害在哪?
PanSci_96
・2023/04/08 ・2920字 ・閱讀時間約 6 分鐘

 Google 新出的 Pixel 7 Pro,其核心繼續沿用上一代開始自行研發的晶片,並且升級為 Google Tensor G2。

由 Google 開發、號稱專為 AI 設計打造的 Tensor 晶片,尤其著重在 TPU。打開處理器 Google Tensor 一探究竟,裡面放著 CPU、GPU,以及擁有 AI 運算能力的 TPU(Tensor Processing Unit)張量處理單元。

什麼是 TPU?與 CPU、GPU 有什麼不同?要了解 TPU,先來看看他的前輩 CPU 和 GPU 是如何運作的吧!

TPU 處理器晶片是什麼?先從了解 CPU 開始!

不論手機、電腦還是超級電腦,當代計算機的通用架構,都是使用以圖靈機為概念設計出來的馮紐曼架構,這個程式指令記憶體和資料記憶體合併在一起的概念架構,從 1945 年提出後就一直被使用到現在。

除了輸入輸出設備外,架構中還包含了三大結構:記憶體 Memory、控制單元 CU 與算術邏輯單元 ALU。在電腦主機中,控制單元 CU 和算術邏輯單元 ALU 都被包在中央處理器 CPU(Central Processing Unit)中;記憶體則以不同形式散佈,依存取速度分為:暫存器(Register)、快取(Cache)、主記憶體(Main memory)與大量儲存裝置(Mass storage)。

馮紐曼架構(Von Neumann architecture)。圖/Wikimedia Commons

算術邏輯單元 ALU 負責運算,透過邏輯閘進行加減乘除、邏輯判斷、平移等基礎運算,透過一次次的運算,完成複雜的程式。有了精密的算術邏輯單元,還有一個很重要的,也是控制單元 CU 最主要的工作——流程管理。

為了加速計算,CU 會分析任務,把需要運行的資料與程式放進離 ALU 最近、存取速度最快的暫存器中。在等 ALU 完成任務的同時,CU 會判斷接下來的工作流程,事先將後面會用到的資料拉進快取與主記憶體,並在算術邏輯單元完成任務後,安排下一個任務給它,然後把半完成品放到下一個暫存器中等待下一步的運算。

CPU 就像是一間工廠,ALU 則是負責加工的機器,CU 則作為流水線上的履帶與機械手臂,不斷將原料與半成品運向下一站,同時控制工廠與倉庫間的物流運輸,讓效率最大化。

然而隨著科技發展,人們需要電腦處理的任務量越來越大。就以照片為例,隨手拍的一張 1080p 相片就含有1920*1080 共 2073600 個像素,不僅如此,在彩色相片中,每一個像素還包含 R、G、B 三種數值,如果是有透明度的 PNG 圖片,那還多一個 Alpha 值(A值),代表一張相片就有 800 萬個元素要做處理,更不用說現在的手機很多都已經能拍到 4K 以上的畫質,這對於 CPU 來說實在過於辛苦。

很多照片都有 4K 以上的畫質,這對於 CPU 來說實在過於辛苦。圖/Envato Elements

由於 CPU 只有一條生產線,能做的就是增加生產線的數量;工程師也發現,其實在影像處理的過程中,瓶頸不是在於運算的題目過於困難,而是工作量非常龐大。CPU 是很強沒錯,但處理量能不夠怎麼辦?

那就換狂開產線的 GPU!

比起增加算術邏輯單元的運算速度,不如重新改建一下原有的工廠!在廠房中盡可能放入更多構造相同的流水線,而倉庫這種大型倉儲空間則可以讓所有流水線共同使用,這樣不僅能增加單位體積中的運算效能,在相同時間內,也可以產出更多的東西,減少一張相片運算的時間。

顯卡大廠 NVIDIA 在 1999 年首次提出了將圖形處理器獨立出來的構想,並發表了第一個為加速圖形運算而誕生、歷史上第一張顯卡—— GPU(Graphics Processing Unit)NVIDIA GeForce 256。

在一顆 GPU 中會有數百到數千個 ALU,就像是把許多小 CPU 塞在同一張顯卡上;在影像處理的過程中,CU 會把每一格像素分配給不同的 ALU,當處理相同的工作時,GPU 就可以大幅提升處理效率。

這也是為什麼加密貨幣市場中的「礦工」們,大部分都以 GPU 作為挖礦工具;由於礦工們實際在做的計算並不困難,重點是需要不斷反覆計算,處理有龐大工作量的「工作量證明機制」問題,利用 GPU 加速就是最佳解。

不過,影像處理技術的需求隨著時代變得更加複雜,這就是人工智慧的範疇了。以一張相片來說,要能認出是誰,就需要有一道處理工序來比較、綜合諮詢以進行人臉辨識;如果要提升準度,就要不斷加入參數,像是眼鏡的有無、臉上的皺紋、髮型,除此之外還要考慮到人物在相片中的旋轉、光線造成的明暗對比等。

人臉辨識是人工智慧範疇。圖/Envato Elements

每一次的參數判斷,在機器學習中都是一層不同的過濾器(filter)。在每一次計算中,AI 會拿著這個過濾器,在相片上從左至右,從上至下,去找相片中是否有符合這個特徵;每一次的比對,就會給一個分數,總分越高,代表這附近有越高的機率符合過濾器想找的對象,就像玩踩地雷一樣,當這邊出現高分數的時候,就是找到目標了。

而這種方式被稱為卷積神經網路(Convolutional Neural Networks, CNN),為神經網路的一種,被大量使用在影像辨識中。除了能增進影像辨識的準確度外,透過改變過濾器的次數、移動時的快慢、共用的參數等,還可以減少矩陣的運算次數、加快神經網路的計算。

然而即便如此,工作量還是比傳統影像處理複雜多了。為應對龐大的矩陣運算,我們的主角 TPU(Tensor Processing Unit)張量處理單元就誕生了!

TPU 如何優化 AI 運算

既然 CNN 的關鍵就是矩陣運算,那就來做一個矩陣運算特別快的晶片吧!

TPU 在處理矩陣運算上採用脈動陣列(Systolic Array)的方式;比起 GPU 中每個 ALU 都各做各的,在 TPU 裡面的資料會在各個 ALU 之間穿梭,每個 ALU 專門負責一部分,共同完成任務。這麼做有兩個好處,一是每個人負擔的工作量更少,代表每個 ALU 的體積可以再縮小;二是半成品傳遞的過程可以直接在 ALU 之間進行,不再需要把半成品借放在暫存區再拿出來,大幅減少了儲存與讀取的時間。

在這樣的架構下,比起只能塞進約 4000 個核心的 GPU,TPU 可以塞進 128*128 共 1.6 萬個核心,加上每個核心負擔的工作量更小,運算速度也就更快、耗電量更低。我們經常使用的 google 服務,許多也是用了 TPU 做優化,像是本身就是全球最大搜尋引擎的 google、google 翻譯、google map 上都大量使用了 TPU 和神經網路來加速。

Google 服務大量使用了 TPU 和神經網路來加速。圖/GIPHY

2021 年,Google 更把 TPU 導入到自家手機產品中,也就是前面我們提到的 Google Tensor;今年更是在 Pixel 7 中放入升級後的 Google Tensor G2。

Google 表示新款人工智慧晶片可以加快 60% 的機器學習速度,也加快語音助理的處理速度與增加功能、在通話時去除雜音增進通話品質等,不過最有感的還是圖像處理,像是透過 AI 多了修復模糊處理,不僅可以修正手震,還能把舊相片也變得清晰。

現在新款的手機為凸顯不同,越來越強調自家晶片設計與效能的差異;除了 Google 的 TPU 外,其他公司也朝著 AI 晶片的方向前進,包括蘋果、高通、聯發科、中國的寒武紀等,也都發表了自行研發的神經網路處理器 NPU。

歡迎訂閱 Pansci Youtube 頻道 獲取更多深入淺出的科學知識!

PanSci_96
1219 篇文章 ・ 2199 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。