Loading [MathJax]/extensions/tex2jax.js

1

3
1

文字

分享

1
3
1

搭上量子科技熱潮,「量子系統推動小組」帶領臺灣站穩腳步

研之有物│中央研究院_96
・2023/04/14 ・7886字 ・閱讀時間約 16 分鐘

本文轉載自中央研究院「研之有物」,為「中研院廣告」

  • 採訪撰文/郭雅欣
  • 責任編輯/簡克志
  • 美術設計/蔡宛潔

臺灣量子科技的未來

量子科技腳步不遠了,臺灣甚至為此成立了「量子國家隊」。我們身處這轉變的時刻,應該先做好準備,了解量子科技究竟包含哪些部分,又會帶來哪些影響。中央研究院應用科學研究中心張文豪特聘研究員長期研究光量子技術,並擔任量子系統推動小組執行長。

在這次中研院「研之有物」的訪談中,張文豪除了帶領我們認識光量子技術裡的關鍵外,也會談談量子國家隊在忙些什麼?能否在這股量子科技發展的浪潮中,帶領臺灣站穩腳步?

中研院應科中心的張文豪特聘研究員,目前擔任量子系統推動小組執行長。圖/研之有物

量子科技即將走入你我的生活。有一天,我們將打開以量子位元建構的量子電腦,透過量子演算法進行各種計算,並把資訊用量子傳輸的方式傳遞出去。這樣的日子可能不遠了~

-----廣告,請繼續往下閱讀-----

為了因應量子科技時代的來臨,行政院去(2022)年 3 月宣布成立「量子國家隊」,由 17 個產學研團隊組成,包含了通用量子電腦硬體技術、光量子技術、量子軟體技術與應用開發這三大領域。同時亦成立「量子系統推動小組」進行跨部會整合,協助國家隊達成目標。

通用量子電腦硬體技術,是指開發以量子位元作為運算位元的量子電腦,在概念上接近一般電腦,有一個 CPU,有控制、讀取的晶片,可以透過程式設計得到你想做的計算。中研院的陳啟東研究員陳應誠研究員都是此領域的計畫主持人之一。

量子軟體技術與應用開發,顧名思義是軟體及演算法的開發,也包含未來量子電腦裡必須有的量子糾錯設計,以及量子計算的應用開發,如金融、製藥與材料開發等。中研院的鐘楷閔研究員是這領域的計畫主持人之一。

光量子技術,分為「光量子計算」與「量子通訊」。光量子計算是以光作為量子位元而設計的計算系統,而量子通訊則是以光的量子態來傳遞訊息。

-----廣告,請繼續往下閱讀-----

中研院應科中心特聘研究員張文豪長期研究光量子技術,並擔任量子系統推動小組執行長。在這次「研之有物」的訪談中,張文豪深入淺出地介紹了光量子技術,也與我們分享了許多量子國家隊的願景。

  • 在量子國家隊的三大領域中,您的專長在光量子計算與量子通訊。請問光量子計算與通用量子電腦有何不同?

光量子計算系統是針對特定問題而設計,當一個光量子系統設計好之後,由於光的晶片、路徑等都已經確定下來,無法中途改變,所以,它就只能對同一種問題做計算。光量子計算的困難在於光會跑,而且是用光速在跑,不會回頭。

也就是說,光子不會中途停止,一定會把整個計算做完。所以它跟一般的量子位元不一樣,一般的量子位元做完計算可以恢復原來的狀態。光子跑完就沒了,無法暫存,如果要重啟計算,要再給予新的光子。光量子計算對於一些傳統電腦難以解決問題,例如最佳化以及取樣的問題,有很大的幫助。

  • 量子通訊用的也是光量子技術,它和現在以光纖傳輸資訊,有什麼不同?

過往的光通訊是用「有沒有光」來當 0 跟 1 兩種狀態,量子通訊則是用光的量子態來當 0 跟 1,把訊息全部都用量子態編碼,這就是量子通訊的基本概念。而量子通訊的好處是因為竊取的動作會干擾量子態,因此資訊不容易被竊取,或者說外人無法在不被發現的情況下竊取資訊。這種通訊方式可以透過量子的性質本身,來保護資訊安全。

-----廣告,請繼續往下閱讀-----
量子加密的概念如上影片,Alice 要傳訊息給 Bob 之前,會先發送解密訊息的量子金鑰給 Bob,這個金鑰是由一顆顆光子構成,每顆光子都被賦予不同的偏振方向和順序。因為駭客無法與 Alice 逐個比對光子的偏振,竊取資訊時會干擾原本的量子態,導致接收端結果異常,Alice 和 Bob 會發現有人在竊聽。影/YouTube
  • 意思是說,量子通訊的發展不是為了讓資訊傳輸得更快,而是為了更安全?

對,其實這也牽涉到量子電腦的發展。因為量子電腦的一個重點,就是可以破解現今最常使用的密碼系統 RSA(知名的非對稱加密演算法)。雖然量子電腦可能不會那麼快發展出來,可能還要再等幾十年,但仔細想想,有沒有什麼資料其實必須保密幾十年呢?

有心人士可以現在就先截取訊息,等幾十年後有了量子電腦再來進行破解。基於這個原因,量子通訊的加密技術必須走得比量子電腦更快才行。

  • 量子通訊現在發展到什麼程度了?有什麼困難點?

在目前的各種量子技術中,量子通訊應該是發展最快的,它有一些難度,但沒有量子電腦那麼難。很好的量子通訊系統,要有好的單光子光源、高效率的偵測器,以及不會破壞量子態的傳輸通道。

好的單光子光源以及偵測器都不容易製作,但是因為量子通訊很重要,所以大家開始用替代的光源,比如把雷射光降到非常弱,弱到一次只會跑出一顆光子,偵測器的效率可能也只要六七成。這樣的話,儘管不是那麼完美,但還是可以得到量子通訊的好處。

-----廣告,請繼續往下閱讀-----

傳輸通道則是另一個困難點。訊息在傳輸過程中會慢慢衰減,所以目前的光纖每隔一段距離都有放大器,但放大器卻會對量子訊號造成干擾。清華大學褚志崧副教授團隊,為量子國家隊光量子研究團隊之一,他們就在進行這方面的研究,透過推動小組協助與中華電信建立合作,接下來就要在新竹、楊梅之間找到一條沒有經過放大器的光纖進行長距離量子通訊測試。

還有一種發展趨勢,就是往天上走,以衛星或低軌衛星來做量子通訊,這也是另一個較不受干擾的做法。

清華大學褚志崧副教授(左1),在量子推動小組的協助整合下,預計在新竹、楊梅之間找到一條沒有經過放大器的光纖進行長距離量子通訊測試。圖/工程科技推展中心

單量子的重要挑戰

量子通訊光源即便有點不盡完美,但仍可接受,不過光量子計算就不行了。光量子計算必須有良好的單光子光源及高效率的偵測器,才能正確地讓光子在系統中進行運算,並準確偵測輸出的結果。因此,「如何製造出好的單光子光源?」是張文豪以及其他光量子研究團隊的重要挑戰。

單光子光源指的是「一個時間點只會放出一個光子」的光源。從原理來說,這樣的光源是一個單一的二能階系統,也就是「基態—激發態」,當一個位於基態的電子獲得能量,躍遷到激發態,然後從激發態掉回基態時,就放出一顆特定波長的光子。

-----廣告,請繼續往下閱讀-----
單光子光源是一個二能階系統,每次只能放出一顆光子。圖/研之有物(資料來源|Scientific Reports

在這樣的二能階系統中,只要有一顆電子躍遷到激發態,在它還沒掉回基態前,我們無法激發另一顆電子到激發態去,張文豪形容:「所以這就像捷運的閘門,前一個沒過去之前,後一個進不來。」也因為這樣的機制,每次就只能放出一顆光子。

那麼,要在哪裡找到這樣的二能階系統呢?科學家最一開始的想法是用「單一原子」,例如鈉原子。但要把單一個原子分離出來太困難了,所以到了公元 2000 年後,科學家轉而從半導體製程上,尋找製造出單光子光源的「人造系統」,而目前有兩種最主要的做法,一個是製造「量子點」,一個是製造「缺陷」。

量子點是利用半導體製程做出的一個小體積物體,通常是將兩種不同材料疊起,因為彼此間的應力而凸起成一個「島狀物」,外面再用另一種材料包覆。這個島狀物裡面會產生類似於原子的能階,所以也被稱為「人造原子」。

除此之外,在晶體中製造出某些特定的缺陷,也能達到單一光子源的效果。這類缺陷中最常見的就是鑽石裡的「NV center」,意思是在鑽石晶體結構中,其中一個碳由氮(N)取代,這個氮的隔壁又有一個碳被拿掉,出現一個空缺(Vacuum)。這樣的缺陷裡也會產生上述的二能階系統,可以如單一原子、量子點一樣,放出單光子。

-----廣告,請繼續往下閱讀-----
在鑽石晶體結構中,原本都是碳原子,如果其中一個碳由氮(N)取代,這個氮的隔壁又有一個空缺(Vacuum),這樣的材料缺陷系統可以放出單光子。圖/Quantum Beam Sci.
  • 是否可以比較量子點與材料缺陷這兩種做法,各有什麼優缺點?

目前為止做得最好的單光子光源其實是量子點,可以產生幾乎完美的單光子,但是它必須在低溫環境下才能運作。而材料缺陷則大部分可以在室溫下運作。

我們還必須考慮單光子光源所放出的光子,是否處於我們需要的波段。舉例來說,在目前的光纖裡,光波長約在 1310~1550 奈米,因為這是損耗很低的波段。而前述的鑽石 NV center 產生的光,則固定是 600 多奈米的紅光,波長還不夠貼近光纖傳輸波段。

現在有許多團隊,都在嘗試從鑽石裡製造出其他缺陷,以符合光纖傳輸的波段,也有人開始嘗試其他材料,例如被稱為第三代半導體的碳化矽。

  • 單光子光源未來還會往哪個方向發展?理想的單光子光源是什麼樣子?

我們也希望單光子光源,可以用脈衝來激發,讓光子出現的時間差都是固定的。脈衝雷射激發是像機關槍一樣,一打開光子就以相同的間隔,源源不絕地出來。更理想的情況是,我們如果能把單光子光源做成電激發的元件,就可以在我想要有光子的時候,就打出一道脈衝,產生一個光子。

-----廣告,請繼續往下閱讀-----

以目前的半導體製程,有成功做到過打一道脈衝、換一個光子的過程,但必須在低溫操作,效率也不理想。

  • 您的研究團隊最近嘗試以二維材料製造單光子光源,這部分目前有什麼進展?

我們最近使用的二維材料是六方晶格的氮化硼(hBN),用來做室溫的單光子光源。氮化硼蠻有趣的,就像二維的鑽石,寬能隙又是絕緣體,不太和其他東西起作用,裡面的缺陷也會形成單光子。

我們幾年前跟台積電合作,用化學氣相沉積(CVD)做出晶圓尺寸的大面積氮化硼,並發表在《自然》Nature)期刊上。我們未來可以透過這技術進行「缺陷工程」,也就是控制在哪裡製造出缺陷,產生單光子輻射的陣列。例如用聚焦離子束打掉其中某些位置的原子.再透過熱處理修復。先破壞再建設,才能產生缺陷。這個技術以目前來說,還是很有挑戰性。

  • 二維材料最近似乎有愈來愈火紅的趨勢?

在過往的傳統半導體研究中,往往將二維材料當成垃圾,不過現在,垃圾變成黃金了。以前這種材料是被用來當固態潤滑劑,因為層與層之間很容易剝落、滑動,根本沒甚麼用處。

但自從石墨烯出現之後,大家才意識到二維材料的好處,而且何必一定要用石墨烯?有一大堆半導體材料都是這樣一層一層的,把它們拿來做電子元件不是更好?所以現在很多人都在做二維半導體材料。

張文豪向研之有物團隊介紹單光子光源的測量方式。圖/研之有物

抓到了!真的是單一光子!

儘管有了製造單光子光源的方法,但該如何確認放射出來的是單一光子呢?

張文豪解釋,單光子的定義是同一時間點只放出一個光子,「所以是同一時間只有一顆,並不是真的只放出一顆。」換句話說,光子其實是像機關槍一樣,源源不絕地一直從光源放射出來的,而且每個光子之間的時間間隔也並不平均。

測量是否為單光子的方法稱為「HBT 實驗裝置」,包含一個分光鏡、兩個偵測器(D1 與 D2),以及一個可以決定要啟動計時或停止計時的計時器。

HBT 實驗裝置示意圖。圖/研之有物

當每一個光子遇到分光鏡時,會隨機前往 D1 或 D2,如果 D1 偵測到光子,計時器就會開始計時;如果 D2 偵測到光子,則會停止計時。因為光子是隨機前往 D1 或 D2,所以每一次停止計時,可能測到是兩個、三個、或四個……不等的光子出發間隔時間。

如果有兩個光子是同時出發,且它們正好分別通過 D1、D2,那麼就會測到一組間隔時間為 0 的數據。所以相反的,如果測量出的結果中,完全沒有間隔時間為0的數據,就可以確認光源是單光子光源

HBT 裝置的量測數據示意圖,可以確認光源是否為單光子光源。如果兩光子的時間差(延遲時間)為 0 秒,符合計數也是 0,則可以確認該光源為單光子光源。圖/研之有物(資料來源|科儀新知

張文豪指出,HBT 實驗裝置要準確,也考驗兩個偵測器的敏銳度。「目前效率最好的是用超導體來做偵測器,不過這樣的話,偵測器也得在低溫環境。」

  • 除了單光子光源與偵測器外,光量子計算還需要哪些相關的技術配合?

光量子計算還是必須在光量子晶片上運作,用的是積體光學,就像積體電路一樣,只是用波導取代電線、光子取代電子。這其中的製程必須讓光能在晶片裡前進、轉彎,做一些操作。中央大學陳彥宏特聘教授的團隊,是量子國家隊光量子研究團隊之一,主要工作就是開發光量子晶片

陳彥宏團隊所研發之光量子位元晶片。圖/陳彥宏
陳彥宏團隊預計於 2023 年開發能執行容錯式秀爾演算法之光學量子運算晶片。圖/陳彥宏
  • 臺灣發展量子科技的前瞻性或潛力如何?我們有什麼優勢?

臺灣早期生產很多電腦,當時我們做的事情主要是零組件的開發、組裝,所以我常笑稱是一種「偽高科技組裝業」。可是臺灣現在已經不一樣了,臺灣從這個組裝業,慢慢掌握關鍵的製程,當產業供應鏈整個建構起來之後,現在變成了全世界很重要的製造中心。

如果未來量子電腦量產,臺灣絕不可能缺席,也不能缺席。為此,我們必須知道,從零到有把一臺量子電腦建構起來需要多少技術。這是一個龐大的系統工程,需要各種人才與技術。我們要知道每個技術細節,才會知道國內各研究單位、法人,以致於工研院、經濟部和產業界,各自可以扮演什麼角色。

  • 成立國家隊來發展量子科技,是為了整合資源的考量?

因為我們的人力與資源都有限,所以必須透過整合的方式,各團隊做自己擅長的部分,再用系統整合把大系統建構起來。最重要的目的,是在每一個環節把技術與人才建立起來。

我們推動小組還找了中研院天文所的王明杰研究員來當總工程師,他負責連結各團隊的不同技術,橫向整合。為什麼找上天文背景的王明杰博士?這很有趣。

第一個原因在於王明杰是超導材料與偵測器的專家,因為天文觀測裡要偵測很微弱的訊號,他們必須要發展非常靈敏的偵測器。

第二個原因是,天文研究都是國際性的大團隊,例如蓋一座大型天文台,各國不同的單位個別負責開發部分技術且為了同一個目標努力,需要有總工程師來連結各團隊所開發的技術,透過系統工程變成最後的系統。做天文觀測的人比較有這樣跨團隊組大系統的經驗,所以我們就請他來協助。

  • 量子科技現在還沒有發展出產業,培養出的人才怎麼辦?

量子科技並不是全新的技術,而是範圍很廣的跨領域技術,所以你學會了這些技術,仍然可以在現有的科技產業發揮所長。等到有一天公司需要投入量子科技的時候,儘管公司老闆可能沒有量子的知識和概念,但公司裡有這些背景知識的人才就可以立即參與。

所以人才是最重要的,我們必須現在就開始把量子的 DNA 植入產業界。如果等需求出現才開始培育人才,就來不及了。

  • 中研院預計在南部院區建立量子研發基地,可否談談這部分的規劃?

我們預計在 2023 年下半年進駐南部院區的研究大樓 II,建置一些製程與量測的核心設施。此外,還會蓋一棟「量子實驗大樓」,主要做一些精密的量測,也包含一部分精密製程。

未來,這個量子研發基地將會是一個提供國內產學研單位進行量子科技研究的基地,所建置的核心設施也將開放給其他研究團隊進駐使用進行研發,有點類似國家同步輻射中心,透過建置一個大型的量子科技實驗場域,讓需要的國內外團隊共同使用。

這也是希望能橫向、縱向整合資源,不要重複投資。畢竟我們資源有限,應該集合大家的力量,攜手共同邁向臺灣量子新世代。

延伸閱讀

  1. 量子系統推動小組網站
  2. 工程科技推展中心(2023)。〈【多功能量子通訊網路】 褚志崧副教授|國立清華大學物理學系〉,YouTube。
  3. Lodahl P., Ludwig A., & Warburton R.(2022)。〈決定性的單光子源〉(張鳳吟翻譯), 《物理雙月刊》。
  4. 王志洋、陳啟東(2021)。〈量子世代產學佈局〉,《科學人》。
  5. 科技魅癮(2022)。〈量子新時代|全國70位科學家的超強大腦,如何一起推動量子計畫〉,YouTube。
  6. 陳彥宏(2021)。〈量子光電晶片將延續臺灣半導體晶片的榮耀〉,《臺灣研究亮點》。
  7. 郭雅欣(2019)。〈量子電腦到底有多霸氣?即將引爆終極密碼戰?!〉,《研之有物》。
  8. 林婷嫻(2017)。〈量子電子元件 hen 夯,但如何掌握像情人心難測的量子位元?〉,《研之有物》。
  9. 張文豪、徐子民(2006)。〈半導體量子光學〉, 《物理雙月刊》。
  10. 張文豪、徐子民(2004)。〈單量子點光譜技術的介紹與應用〉,《科儀新知》。
  11. Gillis, A. S. (2022, January 28). quantum cryptography. TechTarget.
  12. Shaik, A. B. D. a. J. W. I., & Palla, P. (2021). Optical quantum technologies with hexagonal boron nitride single photon sourcesScientific Reports, 11(1).
  13. Ishii, S., Saiki, S., Onoda, S., Masuyama, Y., Abe, H., & Ohshima, T. (2021). Ensemble Negatively-Charged Nitrogen-Vacancy Centers in Type-Ib Diamond Created by High Fluence Electron Beam IrradiationQuantum Beam Science, 6(1), 2.
  14. Chen, T. A., Chuu, C. P., Tseng, C. C., … Chang, W. H., & Li, L. J. (2020). Wafer-scale single-crystal hexagonal boron nitride monolayers on Cu (111)Nature, 579(7798), 219–223.
-----廣告,請繼續往下閱讀-----
文章難易度
所有討論 1
研之有物│中央研究院_96
296 篇文章 ・ 3653 位粉絲
研之有物,取諧音自「言之有物」,出處為《周易·家人》:「君子以言有物而行有恆」。探索具體研究案例、直擊研究員生活,成為串聯您與中研院的橋梁,通往博大精深的知識世界。 網頁:研之有物 臉書:研之有物@Facebook

0

1
0

文字

分享

0
1
0
拆解邊緣AI熱潮:伺服器如何提供穩固的運算基石?
鳥苷三磷酸 (PanSci Promo)_96
・2025/05/21 ・5071字 ・閱讀時間約 10 分鐘

本文與 研華科技 合作,泛科學企劃執行。

每次 NVIDIA 執行長黃仁勳公開發言,總能牽動整個 AI 產業的神經。然而,我們不妨設想一個更深層的問題——如今的 AI 幾乎都倚賴網路連線,那如果哪天「網路斷了」,會發生什麼事?

想像你正在自駕車打個盹,系統突然警示:「網路連線中斷」,車輛開始偏離路線,而前方竟是萬丈深谷。又或者家庭機器人被駭,開始暴走跳舞,甚至舉起刀具向你走來。

這會是黃仁勳期待的未來嗎?當然不是!也因為如此,「邊緣 AI」成為業界關注重點。不靠雲端,AI 就能在現場即時反應,不只更安全、低延遲,還能讓數據當場變現,不再淪為沉沒成本。

什麼是邊緣 AI ?

邊緣 AI,乍聽之下,好像是「孤單站在角落的人工智慧」,但事實上,它正是我們身邊最可靠、最即時的親密數位夥伴呀。

當前,像是企業、醫院、學校內部的伺服器,個人電腦,甚至手機等裝置,都可以成為「邊緣節點」。當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。簡單來說,就是將原本集中在遠端資料中心的運算能力,「搬家」到更靠近數據源頭的地方。

-----廣告,請繼續往下閱讀-----

那麼,為什麼需要這樣做?資料放在雲端,集中管理不是更方便嗎?對,就是不好。

當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。/ 圖片來源:MotionArray

第一個不好是物理限制:「延遲」。
即使光速已經非常快,數據從你家旁邊的路口傳到幾千公里外的雲端機房,再把分析結果傳回來,中間還要經過各種網路節點轉來轉去…這樣一來一回,就算只是幾十毫秒的延遲,對於需要「即刻反應」的 AI 應用,比如說工廠裡要精密控制的機械手臂、或者自駕車要判斷路況時,每一毫秒都攸關安全與精度,這點延遲都是無法接受的!這是物理距離與網路架構先天上的限制,無法繞過去。

第二個挑戰,是資訊科學跟工程上的考量:「頻寬」與「成本」。
你可以想像網路頻寬就像水管的粗細。隨著高解析影像與感測器數據不斷來回傳送,湧入的資料數據量就像超級大的水流,一下子就把水管塞爆!要避免流量爆炸,你就要一直擴充水管,也就是擴增頻寬,然而這樣的基礎建設成本是很驚人的。如果能在邊緣就先處理,把重要資訊「濃縮」過後再傳回雲端,是不是就能減輕頻寬負擔,也能節省大量費用呢?

第三個挑戰:系統「可靠性」與「韌性」。
如果所有運算都仰賴遠端的雲端時,一旦網路不穩、甚至斷線,那怎麼辦?很多關鍵應用,像是公共安全監控或是重要設備的預警系統,可不能這樣「看天吃飯」啊!邊緣處理讓系統更獨立,就算暫時斷線,本地的 AI 還是能繼續運作與即時反應,這在工程上是非常重要的考量。

所以你看,邊緣運算不是科學家們沒事找事做,它是順應數據特性和實際應用需求,一個非常合理的科學與工程上的最佳化選擇,是我們想要抓住即時數據價值,非走不可的一條路!

邊緣 AI 的實戰魅力:從工廠到倉儲,再到你的工作桌

知道要把 AI 算力搬到邊緣了,接下來的問題就是─邊緣 AI 究竟強在哪裡呢?它強就強在能夠做到「深度感知(Deep Perception)」!

-----廣告,請繼續往下閱讀-----

所謂深度感知,並非僅僅是對數據進行簡單的加加減減,而是透過如深度神經網路這類複雜的 AI 模型,從原始數據裡面,去「理解」出更高層次、更具意義的資訊。

研華科技為例,旗下已有多項邊緣 AI 的實戰應用。以工業瑕疵檢測為例,利用物件偵測模型,快速將工業產品中的瑕疵挑出來,而且由於 AI 模型可以使用同一套參數去檢測,因此品管上能達到一致性,減少人為疏漏。尤其在高產能工廠中,檢測速度必須快、狠、準。研華這套 AI 系統每分鐘最高可處理 8,000 件產品,替工廠節省大量人力,同時確保品質穩定。這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。

這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。/ 圖片提供:研華科技

此外,在智慧倉儲場域,研華與威剛合作,研華與威剛聯手合作,在 MIC-732AO 伺服器上搭載輝達的 Nova Orin 開發平台,打造倉儲系統的 AMR(Autonomous Mobile Robot) 自走車。這跟過去在倉儲系統中使用的自動導引車 AGV 技術不一樣,AMR 不需要事先規劃好路線,靠著感測器偵測,就能輕鬆避開障礙物,識別路線,並且將貨物載到指定地點存放。

當然,還有語言模型的應用。例如結合檢索增強生成 ( RAG ) 跟上下文學習 ( in-context learning ),除了可以做備忘錄跟排程規劃以外,還能將實務上碰到的問題記錄下來,等到之後碰到類似的問題時,就能詢問 AI 並得到解答。

你或許會問,那為什麼不直接使用 ChatGPT 就好了?其實,對許多企業來說,內部資料往往具有高度機密性與商業價值,有些場域甚至連手機都禁止員工帶入,自然無法將資料上傳雲端。對於重視資安,又希望運用 AI 提升效率的企業與工廠而言,自行部署大型語言模型(self-hosted LLM)才是理想選擇。而這樣的應用,並不需要龐大的設備。研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。

但問題也接著浮現:要在這麼小的設備上跑大型 AI 模型,會不會太吃資源?這正是目前 AI 領域最前沿、最火熱的研究方向之一:如何幫 AI 模型進行「科學瘦身」,又不減智慧。接下來,我們就來看看科學家是怎麼幫 AI 減重的。

-----廣告,請繼續往下閱讀-----

語言模型瘦身術之一:量化(Quantization)—用更精簡的數位方式來表示知識

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。這其實跟圖片壓縮有點像:有些畫面細節我們肉眼根本看不出來,刪掉也不影響整體感覺,卻能大幅減少檔案大小。

模型量化的原理也是如此,只不過對象是模型裡面的參數。這些參數原先通常都是以「浮點數」表示,什麼是浮點數?其實就是你我都熟知的小數。舉例來說,圓周率是個無窮不循環小數,唸下去就會是3.141592653…但實際運算時,我們常常用 3.14 或甚至直接用 3,也能得到夠用的結果。降低模型參數中浮點數的精度就是這個意思! 

然而,量化並不是那麼容易的事情。而且實際上,降低精度多少還是會影響到模型表現的。因此在設計時,工程師會精密調整,確保效能在可接受範圍內,達成「瘦身不減智」的目標。

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。/ 圖片來源:MotionArray

模型剪枝(Model Pruning)—基於重要性的結構精簡

建立一個 AI 模型,其實就是在搭建一整套類神經網路系統,並訓練類神經元中彼此關聯的參數。然而,在這麼多參數中,總會有一些參數明明佔了一個位置,卻對整體模型沒有貢獻。既然如此,不如果斷將這些「冗餘」移除。

這就像種植作物的時候,總會雜草叢生,但這些雜草並不是我們想要的作物,這時候我們就會動手清理雜草。在語言模型中也會有這樣的雜草存在,而動手去清理這些不需要的連結參數或神經元的技術,就稱為 AI 模型的模型剪枝(Model Pruning)。

-----廣告,請繼續往下閱讀-----

模型剪枝的效果,大概能把100變成70這樣的程度,說多也不是太多。雖然這樣的縮減對於提升效率已具幫助,但若我們要的是一個更小幾個數量級的模型,僅靠剪枝仍不足以應對。最後還是需要從源頭著手,採取更治本的方法:一開始就打造一個很小的模型,並讓它去學習大模型的知識。這項技術被稱為「知識蒸餾」,是目前 AI 模型壓縮領域中最具潛力的方法之一。

知識蒸餾(Knowledge Distillation)—讓小模型學習大師的「精髓」

想像一下,一位經驗豐富、見多識廣的老師傅,就是那個龐大而強悍的 AI 模型。現在,他要培養一位年輕學徒—小型 AI 模型。與其只是告訴小型模型正確答案,老師傅 (大模型) 會更直接傳授他做判斷時的「思考過程」跟「眉角」,例如「為什麼我會這樣想?」、「其他選項的可能性有多少?」。這樣一來,小小的學徒模型,用它有限的「腦容量」,也能學到老師傅的「智慧精髓」,表現就能大幅提升!這是一種很高級的訓練技巧,跟遷移學習有關。

舉個例子,當大型語言模型在收到「晚餐:鳳梨」這組輸入時,它下一個會接的詞語跟機率分別為「炒飯:50%,蝦球:30%,披薩:15%,汁:5%」。在知識蒸餾的過程中,它可以把這套機率表一起教給小語言模型,讓小語言模型不必透過自己訓練,也能輕鬆得到這個推理過程。如今,許多高效的小型語言模型正是透過這項技術訓練而成,讓我們得以在資源有限的邊緣設備上,也能部署愈來愈強大的小模型 AI。

但是!即使模型經過了這些科學方法的優化,變得比較「苗條」了,要真正在邊緣環境中處理如潮水般湧現的資料,並且高速、即時、穩定地運作,仍然需要一個夠強的「引擎」來驅動它們。也就是說,要把這些經過科學千錘百鍊、但依然需要大量計算的 AI 模型,真正放到邊緣的現場去發揮作用,就需要一個強大的「硬體平台」來承載。

-----廣告,請繼續往下閱讀-----

邊緣 AI 的強心臟:SKY-602E3 的三大關鍵

像研華的 SKY-602E3 塔式 GPU 伺服器,就是扮演「邊緣 AI 引擎」的關鍵角色!那麼,它到底厲害在哪?

一、核心算力
它最多可安裝 4 張雙寬度 GPU 顯示卡。為什麼 GPU 這麼重要?因為 GPU 的設計,天生就擅長做「平行計算」,這正好就是 AI 模型裡面那種海量數學運算最需要的!

你想想看,那麼多數據要同時處理,就像要請一大堆人同時算數學一樣,GPU 就是那個最有效率的工具人!而且,有多張 GPU,代表可以同時跑更多不同的 AI 任務,或者處理更大流量的數據。這是確保那些科學研究成果,在邊緣能真正「跑起來」、「跑得快」、而且「能同時做更多事」的物理基礎!

二、工程適應性——塔式設計。
邊緣環境通常不是那種恆溫恆濕的標準機房,有時是在工廠角落、辦公室一隅、或某個研究實驗室。這種塔式的機箱設計,體積相對緊湊,散熱空間也比較好(這對高功耗的 GPU 很重要!),部署起來比傳統機架式伺服器更有彈性。這就是把高性能計算,進行「工程化」,讓它能適應台灣多樣化的邊緣應用場景。

三、可靠性
SKY-602E3 用的是伺服器等級的主機板、ECC 糾錯記憶體、還有備援電源供應器等等。這些聽起來很硬的規格,背後代表的是嚴謹的工程可靠性設計。畢竟在邊緣現場,系統穩定壓倒一切!你總不希望 AI 分析跑到一半就掛掉吧?這些設計確保了部署在現場的 AI 系統,能夠長時間、穩定地運作,把實驗室裡的科學成果,可靠地轉化成實際的應用價值。

-----廣告,請繼續往下閱讀-----
研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。/ 圖片提供:研華科技

台灣製造 × 在地智慧:打造專屬的邊緣 AI 解決方案

研華科技攜手八維智能,能幫助企業或機構提供客製化的AI解決方案。他們的技術能力涵蓋了自然語言處理、電腦視覺、預測性大數據分析、全端軟體開發與部署,及AI軟硬體整合。

無論是大小型語言模型的微調、工業瑕疵檢測的模型訓練、大數據分析,還是其他 AI 相關的服務,都能交給研華與八維智能來協助完成。他們甚至提供 GPU 與伺服器的租借服務,讓企業在啟動 AI 專案前,大幅降低前期投入門檻,靈活又實用。

台灣有著獨特的產業結構,從精密製造、城市交通管理,到因應高齡化社會的智慧醫療與公共安全,都是邊緣 AI 的理想應用場域。更重要的是,這些情境中許多關鍵資訊都具有高度的「時效性」。像是產線上的一處異常、道路上的突發狀況、醫療設備的即刻警示,這些都需要分秒必爭的即時回應。

如果我們還需要將數據送上雲端分析、再等待回傳結果,往往已經錯失最佳反應時機。這也是為什麼邊緣 AI,不只是一項技術創新,更是一條把尖端 AI 科學落地、真正發揮產業生產力與社會價值的關鍵路徑。讓數據在生成的那一刻、在事件發生的現場,就能被有效的「理解」與「利用」,是將數據垃圾變成數據黃金的賢者之石!

👉 更多研華Edge AI解決方案
👉 立即申請Server租借

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

1
0

文字

分享

0
1
0
從 MiniLED 到 QLED:量子點技術如何改寫螢幕的未來?
PanSci_96
・2024/11/17 ・2235字 ・閱讀時間約 4 分鐘

-----廣告,請繼續往下閱讀-----

量子點:從顯示技術到量子計算的革命

顯示面板的技術一直在進步,從最早的液晶顯示(LCD),到日益火熱的 MiniLED,再到正在被熱烈研發中的 MicroLED。隨著像素越來越小,螢幕畫質的進步讓人驚嘆不已。然而,現在有一項技術,它並非透過縮小像素來提升畫質,而是以更純淨的顏色帶來視覺上的革命—那就是「量子點技術」(Quantum Dot)。

量子點技術不僅為我們的螢幕帶來更好的顏色,甚至還有可能在量子電腦的未來發展中扮演重要角色。究竟這些小到幾奈米的半導體晶體是如何改變我們的世界?

歡迎訂閱 Pansci Youtube 頻道 獲取更多深入淺出的科學知識!

什麼是量子點?

量子點是一種半導體奈米晶體,其直徑僅為幾奈米大小,也就是僅包含數百到數萬個原子。在這麼小的尺寸下,量子力學的奇妙特性開始影響顆粒的物理性質。這些量子點能夠吸收特定波長的光,並根據自身大小發射出頻寬極窄的單色光。這也意味著,透過控制量子點的大小,我們可以精確地調整它所發出的顏色。

這項技術在顯示領域中得到了應用,稱為量子點顯示技術(QLED)。QLED 螢幕通常使用藍光 LED 作為背光源,再經由塗有量子點的薄膜來產生鮮艷的紅光和綠光,以此混合出更飽和的色彩,並提供更廣的色域。此外,由於減少了傳統彩色濾光片的使用,QLED 螢幕也更為省電且光效更高。

-----廣告,請繼續往下閱讀-----

MiniLED 與 MicroLED 的比較

要了解量子點技術的優勢,我們首先需要認識當前的顯示技術:MiniLED 與 MicroLED。

MiniLED 雖然名字聽起來和 MicroLED 相似,但它們的工作原理和應用有所不同。MiniLED 屬於有背光結構的面板,主要用於電腦和電視螢幕市場。它的顯色能力優秀,且通過調整背光區域的亮度,可以產生高對比度的畫面,甚至能呈現比傳統 LCD 更黑的黑色。

相比之下,MicroLED 則是無背光的技術,利用紅、綠、藍三種顏色的小燈泡直接發光,這些燈泡小到可以嵌入每個像素中。因此,MicroLED 的螢幕結構更薄,並能減少顏色劣化問題。然而,由於技術難度高,MicroLED 目前仍處於開發階段。

量子點的顯色技術有多特別?

傳統的顯示技術中,無論是 LCD、MiniLED 還是 OLED,它們的色彩顯示都需要依賴彩色濾光片來混合光源。而量子點技術則不然。量子點可以根據顆粒的大小發射出精確且純淨的單色光,其顏色純度遠超傳統濾光片。

-----廣告,請繼續往下閱讀-----

量子點的神奇之處在於,同一種材料可以隨著顆粒尺寸的變化而發射出不同的顏色。這意味著我們只需要製造出不同大小的量子點,就可以得到紅、綠、藍三原色的高純度光源,進而混合出更加鮮豔的色彩。這種「大小決定顏色」的現象,正是量子力學中能階與顆粒大小之間微妙關係的體現。

量子點技術憑顆粒大小精準發光,色彩純度遠勝傳統濾光片。圖/envato

量子力學與量子點的關聯

量子點的顏色之所以能隨顆粒大小改變,是因為量子點內部的電子受到能階的限制。在半導體材料中,電子的能量可以分佈在幾個不同的能階上,當電子從高能階回到低能階時,會以光的形式釋放出多餘的能量。而量子點的尺寸越小,電子能佔據的能階也越少,因此當電子釋放能量時,會放出更高能量的光子,這也導致了更短波長的光,比如藍光。

諾貝爾化學獎與量子點的製備技術

早在幾千年前,工匠們就已經能透過加入不同的金屬粉末來製作出不同顏色的玻璃,但他們並不知道背後的原理。直到 1980 年代,科學家們才發現,這些顏色變化與量子效應有關。2023 年的諾貝爾化學獎,正是授予了對量子點研究做出重要貢獻的三位科學家(分別為巴汶帝 ( Moungi G. Bawendi )、布魯斯 ( Louis E. Brus ) 和艾吉莫夫 ( Alexei I. Ekimov )),他們開發的技術讓量子點的製造變得更加容易且精確。

其中,蒙吉·巴文迪(Moungi Bawendi)開發的製程可以在溶液中精確控制量子點的大小,這使得量子點的性質與應用變得更加穩定且可預測,從而加速了量子點在顯示技術和其他領域的商業化應用。

-----廣告,請繼續往下閱讀-----

量子點在量子電腦中的應用

量子點的應用並不僅限於顯示技術。由於它們能夠透過改變大小來調控各種物理特性,因此又被稱為「人工原子」。這使得量子點在量子電腦中也有巨大的潛力,特別是在儲存與處理量子位元資訊方面。

量子電腦與傳統電腦不同,其運算依賴量子位元,而量子位元可以同時處於多個狀態。要讓量子位元的狀態穩定且能長時間儲存,是量子電腦硬體設計的一大挑戰。量子點因其特殊的能階特性,有望成為量子電腦中儲存量子位元的理想材料。

量子點技術的未來

量子點技術的出現,不僅改變了我們對顯示面板的認知,也為量子計算領域帶來了新希望。隨著技術的進一步成熟,量子點在顯示技術之外,還有可能應用在更多的高科技領域,如光學感測、生物醫學標記等。

如果你對量子點的應用充滿好奇,不妨繼續關注相關的技術發展。也許有一天,這些微小的「人工原子」會成為推動科技變革的核心力量,為我們的生活帶來更多的驚喜和便利。

-----廣告,請繼續往下閱讀-----

歡迎訂閱 Pansci Youtube 頻道 鎖定每一個科學大事件!

-----廣告,請繼續往下閱讀-----

討論功能關閉中。

0

3
0

文字

分享

0
3
0
量子革命來襲!一分鐘搞定傳統電腦要花數千萬年的難題!你的電腦是否即將被淘汰?
PanSci_96
・2024/10/17 ・2050字 ・閱讀時間約 4 分鐘

量子電腦:解碼顛覆未來科技的關鍵

2023 年,Google 發表了一項引人注目的研究成果,顯示人類現有最強大的超級電腦 Frontier 需要花費 47 年才能完成的計算任務,Google 所研發的量子電腦 Sycamore 只需幾秒鐘便能完成。這項消息震驚了科技界,也再次引發了量子電腦的討論。

那麼,量子電腦為什麼如此強大?它能否徹底改變我們對計算技術的認知?

歡迎訂閱 Pansci Youtube 頻道 獲取更多深入淺出的科學知識!

量子電腦是什麼?

量子電腦是一種基於量子力學運作的新型計算機,它與我們熟悉的傳統電腦截然不同。傳統電腦的運算是建立在「位元」(bits)的基礎上,每個位元可以是 0 或 1,這種二進位制運作方式使得計算過程變得線性且單向。然而,量子電腦使用的是「量子位元」(qubits),其運算邏輯則是基於量子力學中的「疊加」與「糾纏」等現象,這使得量子位元能同時處於 0 和 1 的疊加狀態。

這意味著,量子電腦能夠在同一時間進行多個計算,從而大幅提高運算效率。對於某些非常複雜的問題,例如氣候模型、金融分析,甚至質因數分解,傳統電腦可能需要數千年才能完成的運算任務,量子電腦只需數分鐘甚至更短時間便可完成。

-----廣告,請繼續往下閱讀-----

Google、IBM 和量子競賽

Google 和 IBM 是目前在量子計算領域中競爭最為激烈的兩大科技公司。Google 的 Sycamore 量子電腦已經展示出極高的計算速度,令傳統超級電腦相形見絀。IBM 則持續投入量子電腦的研究,並推出了超過 1000 個量子位元的系統,預計到 2025 年,IBM 的量子電腦將擁有超過 4000 個量子位元。

除此之外,世界各國和企業都爭相投入這場「量子霸權」的競賽,台灣的量子國家隊也不例外,積極尋求量子計算方面的突破。這場量子競賽,將決定未來的計算技術格局。

量子電腦的核心原理

量子電腦之所以能如此快速,是因為它利用了量子力學中的「疊加態」和「糾纏態」。簡單來說,傳統電腦的位元只能是 0 或 1 兩種狀態,而量子位元則可以同時處於 0 和 1 兩種狀態的疊加,這使得量子電腦可以在同一時間內同時進行多次計算。

舉例來說,如果一台電腦需要處理一個要花 330 年才能解決的問題,量子電腦只需 10 分鐘便可解決。如果問題變得更複雜,傳統電腦需要 3300 年才能解決,量子電腦只需再多花一分鐘便能完成。

-----廣告,請繼續往下閱讀-----

此外,量子電腦中使用的量子閘(quantum gates)類似於傳統電腦中的邏輯閘,但它能進行更複雜的運算。量子閘可以改變量子位元的量子態,進而完成計算過程。例如,Hadamard 閘能將量子位元轉變為疊加態,使其進行平行計算。

量子電腦能大幅縮短複雜問題的計算時間,利用量子閘進行平行運算。圖/envato

計算的效率

除了硬體技術的進步,量子電腦的強大運算能力也依賴於量子演算法。當前,最著名的兩種量子演算法分別是 Grover 演算法與 Shor 演算法。

Grover 演算法主要用於搜尋無序資料庫,它能將運算時間從傳統電腦的 N 遞減至 √N,這使得資料搜索的效率大幅提升。舉例來說,傳統電腦需要花費一小時才能完成的搜索,量子電腦只需幾分鐘甚至更短時間便能找到目標資料。

Shor 演算法則專注於質因數分解。這對於現代加密技術至關重要,因為目前網路上使用的 RSA 加密技術正是基於質因數分解的困難性。傳統電腦需要數千萬年才能破解的加密,量子電腦只需幾秒鐘便可破解。這也引發了全球對後量子密碼學(PQC)的研究,因為一旦量子電腦大規模應用,現有的加密系統將面臨極大的威脅。

-----廣告,請繼續往下閱讀-----

量子電腦的挑戰:退相干與材料限制

儘管量子電腦具有顛覆性的運算能力,但其技術發展仍面臨諸多挑戰。量子位元必須保持在「疊加態」才能進行運算,但量子態非常脆弱,容易因環境中的微小干擾而坍縮成 0 或 1,這種現象被稱為「量子退相干」。量子退相干導致量子計算無法穩定進行,因此,如何保持量子位元穩定是量子電腦發展的一大難題。

目前,科學家們正在探索多種材料和技術來解決這一問題,例如超導體和半導體技術,並嘗試研發更穩定且易於量產的量子電腦硬體。然而,要實現大規模的量子計算應用,仍需克服諸多技術瓶頸。

量子電腦對未來生活的影響

量子電腦的快速發展將為未來帶來深遠的影響。它不僅將推動科學研究的進步,例如藥物設計、材料科學和天文物理等領域,還可能徹底改變我們的日常生活。例如,交通運輸、物流優化、金融風險管理,甚至氣候變遷預測,都有望因量子計算的應用而變得更加精確和高效。

然而,量子計算的發展也帶來了一些潛在的風險。隨著量子電腦逐漸成熟,現有的加密技術可能會被徹底摧毀,全球的資訊安全體系將面臨巨大挑戰。因此,各國政府和企業已經開始研究新的加密方法,以應對量子時代的來臨。

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----

討論功能關閉中。

PanSci_96
1262 篇文章 ・ 2411 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。