0

0
0

文字

分享

0
0
0

【極光片語】吊帶褲上的原子力顯微鏡

雷漢欣
・2015/02/17 ・5845字 ・閱讀時間約 12 分鐘 ・SR值 515 ・六年級

http://www.youtube.com/watch?v=zW4x0grQT2U

在上一集的【極光片語】中,博學多聞的IBM研究團隊以跨領域知識化解危機,順利地推出了磁碟機這項史上第一個商業化的隨機存取裝置,間接讓全球經濟逆風高飛,當時科學家們為了提高碟片的空間儲存密度,無不想盡辦法縮小磁軌,好在一張碟片上塞入更多資訊,當科學家終於把磁軌縮小到奈米等級後,卻面臨了新的難題:磁軌太細了,沒有儀器能夠測量這麼微小面積的磁力分佈,要怎麼繼續做研究呀?「你們的聲音,我都聽到了!」專門研究探針掃瞄的IBM科學家Jonathon (John) Mamin說,「快來試試我這台用原子力顯微鏡改裝成的磁力顯微鏡吧。」

磁力顯微鏡(magnetic force microscope, MFM)能夠偵測微小面積上的微弱磁力,是原子力顯微鏡(atomic force microscope, AFM)的變形,說到原子力顯微鏡,就不能不提到它的前身——掃描式穿隧電子顯微鏡(scanning tunneling microscope, STM),這項讓人「大開眼界」看到原子表面的發明,不僅開創了奈米科技紀元,也讓 Gerd Binnig Heinrich Rohrer 兩位IBM科學家獲頒1986年的諾貝爾物理學獎。常理來說,如此高科技的STM應該誕生於頂級的精密實驗室,沒想到STM的搖籃,竟是Rohrer博士褲頭上的吊帶。

發明掃描穿隧顯微鏡(STM)的科學家Gerd Binnig(左)與 Heinrich Rohrer。圖片來源:IBM
發明掃描穿隧顯微鏡(STM)的科學家Gerd Binnig(左)與 Heinrich Rohrer。圖片來源:IBM

奈米科技的迷人之處在於微觀世界中的有別於宏觀世界的量子和表面性質。物質進入奈米尺度後,表面積佔體積的比例大大提升,一顆直徑20奈米的小金球只有6%的金原子分佈在表面,而直徑1奈米的小金球中99%的原子都暴露在表面,由於所有物質間的反應都發生接觸面,所以物質表面性質的研究是很重要的,而奈米物質的高表面積特性正提供了科學家研究原子的凡得瓦力、氫鍵、電荷等表面效應的大好機會,因此科學家極度渴望能夠觀測原子表面的超高倍率顯微鏡。

-----廣告,請繼續往下閱讀-----

在1980年代,光學顯微鏡可以將數百奈米的視野放大到肉眼可見的大小,電子顯微鏡能觀測到數十奈米的微小物體,但都沒有實際方法能夠測出原子的樣貌,直到Binnig 和Rohrer發明了掃描式穿隧電子顯微鏡(STM),科學家才能探索這個小小世界的奇妙之處。STM的原理——量子穿隧效應——在1890年代就被法國物理學家貝克勒(Henri Becquerel)所提出,他也因此與居禮夫婦共同獲得1903年的諾貝爾物理學獎。根據量子穿隧效應,當一根極尖的金屬探針與樣品(需為金屬)距離僅僅數埃(Å,10-10公尺)時,樣品表面的電子會被探針尖端吸引,並且有機會衝進探針,形成大約100皮安培(皮,10-12)的穿隧電流,電流的大小在這個特定範圍內會隨著距離的負指數次方而改變。所以,理論上只要讓一隻細針在金屬樣品上穩定的水平移動,就能藉由穿隧電流的變化得知表面的高低起伏。

但是,but,人生中最重要的就是這個but。理論是美好的,而現實是殘酷的,90年來都沒有人將穿隧電流做成顯微鏡一定是有原因的。科學家從理論走進現實後所面臨最大的魔王,是環境中難以抗拒的低頻振動。由於穿隧效應的性質,儀器只能在相當於5~10個原子的距離範圍內測到電流訊號,而自然界中無所不在的振動會輕易地將探針振動到有效距離之外,若無法避免振動擾亂訊號,穿隧電流顯微鏡的想法就無法實現。

「消除振動?可以用光學桌呀。」你心裡可能這麼想。頂級的光學桌有堅硬沈重的花崗石桌面和有彈簧性質的氣浮桌腳,可以過濾掉高於氣浮桌腳共振頻率的波,例如由人們走路、搬東西、關門等動作對地面造成的振動;但是除了這些人造的振動,建築物本身也會產生低頻振動,這卻不在光學桌的振動過濾範圍內。

每一棟建築都有不一樣的自然振動頻率,樓層高的頻率低,樓層低的頻率高,依照建築、結構又有所不同,但大抵都在0.1到幾個赫茲(Hertz, Hz)左右的範圍。人類耳朵可以聽到頻率在20~20000赫茲的聲波,大象、藍鯨等可以用低於20赫茲的次聲波溝通;波的頻率越低可以傳得越遠,大象0.5赫茲的叫聲能夠傳到20公里遠,同樣的,建築物結構的低頻振動也能遠播不易消失。建築的振動受到自然環境影響,高聳的建築受到風吹的力較大,許多高樓都有避震系統減輕風吹導致的搖晃,像是台北101大樓在92層樓下方懸吊的超大型金光閃閃阻尼球,就是全球最大的阻尼器,不僅可以吸引觀光客前往參觀,也可以吸收40%由風吹造成的晃動,避免觀景台上的情侶因暈船而搞砸浪漫約會。

-----廣告,請繼續往下閱讀-----
640px-Taipei_101_Tuned_Mass_Damper_2010
台北101的球形阻尼器可以吸收風吹的能量,減少40%的搖晃。照片來源:維基共享資源

為了排除這些光學桌無法吸收的樓房振動,STM的發明家如果遵循傳統的設計理念,思考出來的解決之道或許是找個地下室、礦坑之類的平穩場域來進行實驗。可是身處瑞士的Rohrer與Binnig,要上哪兒找礦坑做實驗呢?同時,當時STM的計畫純粹是他們倆的業餘興趣,沒有研究經費補助支持,他們也無法蓋一間豪華地底實驗室,這下他們該如何是好?

正當兩人思索這個問題時,空氣間隱隱傳出一道謎之聲:「If you cannot fight it, join it!」穿著吊帶褲的Rohrer博士低頭細細咀嚼這句話的玄外之意,眼神正好落在身上那條曾伴隨自己度過無數研究夜晚的吊帶,他頓時豁然開朗:「無所不在的地面振動源根本無法完全隔離;既然連光學桌都不能讓它固定不動,不如就讓整台儀器一起動唄!我身上這吊帶可看作是彈簧⋯⋯其實不就和光學桌的氣浮桌腳有異曲同工之妙嗎?」

Rohrer與Binnig立馬重新設計STM,將探針放置在一個緊密堅實的剛體(rigid body)結構內,再用吊帶將包含探針在內的STM剛體結構懸在天花板下方,就像像用Q彈的橡皮筋吊著一顆堅硬的石頭,吊帶跟光學桌一樣可以過濾掉從環境傳入STM剛體結構的高頻振動,雖然吊帶會讓整台STM在空中晃動,但只要適當地設計新版本剛體結構STM中探針的共振頻率,就可以避免傳入的振動源影響針頭與樣品間的距離!

自穿隧電流被發現以來的90年,為解決振動問題,科學家不斷尋找更穩定的環境卻都枉然,Rohrer與Binnig用靈活的思路、基礎的知識,以概念翻轉的懸吊式光學桌,拉大儀器與環境的振動頻率差,成功催生世界上第一台STM,進而推動奈米研究的大躍進。「他們確實活用了基礎知識,所以我們開玩笑說這是第一次以力學成果得到的諾貝爾獎。」李老師說。

-----廣告,請繼續往下閱讀-----
STM
結構緊密如剛體的STM
Rohrer與Binnig設計出用吊帶掛著剛體結構的STM,就像用橡皮筋著一顆石頭,橡皮筋 可以隔離外來的振動源,雖然橡皮筋會讓石頭上下晃動,但不會造成石頭內部的振動。攝影/陳聖尉
Rohrer與Binnig設計出用吊帶掛著剛體結構的STM,就像用橡皮筋著一顆石頭,橡皮筋可以隔離外來的振動源,雖然橡皮筋會讓石頭上下晃動,但不會造成石頭內部的振動。攝影/陳聖尉

高靈敏度與大測量範圍如何兼得?

打敗了振動大魔王,科學家還得想辦法打破「精準度與測量範圍如魚與熊掌不可兼得」的鐵律。這種「有一好,沒兩好」的原則適用於所有人造測量儀器,例如智慧型手機裡的加速規,能夠測量人們行走時的加速度變化,但測量範圍一般只在1~2倍的重力加速度(我們稱之為1~2G);而飛機上的加速規可以測量如美軍A10地面攻擊機轉彎時產生高達十幾G這種足以令人昏厥的強大加速度,此種等級的儀器雖然測量範圍廣,卻無法取得很高的加速度解析度。

以穿隧電流為原理的STM非常靈敏,可以測出幾顆原子等級的距離變化,卻只能測量樣品表面5~10埃的高低起伏。由於穿隧電流的強度與距離的指數次方呈負相關,只要探針與樣品之間的距離稍微縮短一個原子長度,穿隧電流就會瘋狂增加。但是穿隧電流只在兩物體相距5~10埃時發生,只要樣品表面稍微粗糙一點,就會導致水平移動的掃描探針撞牆或遠離樣品而失去訊號,因此測量範圍非常侷限。

「這種問題的解決方法都是一樣的。」李老師說。在STM的案例中,若固定探針的高度,而直接以穿隧電流的強度高低推算樣品與探針間的距離來描繪樣品表面地圖,測量範圍當然會受限於5~10埃的表面起伏;若探針能隨著樣品表面高度移動並維持固定距離,即使樣品表面有10埃以上的起伏也不怕了,但是探針與樣品間的距離如此微小,光是測量就不容易了,要怎麼維持他們的距離呢?

STM的針尖與樣品必須距離5~10埃才能作用。圖片來源:維基百科
STM的針尖與樣品必須距離5~10埃才能作用。圖片來源:維基百科

聰明的科學家巧妙地將STM的靈敏特性轉換成擴大測量範圍的工具:敏感的穿隧電流可以讓固定探針與樣品間距離的回授機制更加精準。由於穿隧電流對距離的反應非常靈敏,當穿隧電流增加時,就代表樣品正在逐漸靠近探針,這時儀器會立即通電到探針懸臂上的壓電材料,壓電材料通電後會改變長度,懸壁稍微縮短後就可以保持探針與樣品間的距離,最後讓儀器本身記錄驅動壓電材料的電壓,再換算出探針移動的距離,即可繪出樣品表面的樣子,如此一來,STM可測量的距離範圍就能遠遠大於穿隧電流所限制的5~10埃啦。「利用敏感的電流變化控制探針高度,就像是擁有一雙靈敏的雙眼,眼睛看得清楚後,雙手就能控制得精準。」李老師補充說明。

-----廣告,請繼續往下閱讀-----

科學家藉由偵測穿隧電流強度來控制探針高度的方法,與外科醫師執行顯微手術大同小異。人們的頭髮直徑大概是80~125微米,拔下一根頭髮放在眼前細細端詳,光是將眼睛焦距調整在髮絲上就會讓人變鬥雞眼,而面對僅僅數微米粗的神經纖維,外科醫師竟能直接用雙手進行縫合!其實醫師執行顯微手術的法寶是那架在眼前的顯微鏡,當視覺的解析度增加,手眼協調的準確度就會放大。「從加速規等感應子的設計到微創手術用的顯微鏡,都是以靈敏的感應子(Sensor)來提高反應的精準度,這些道理是一通百通的!」李老師說。

醫師進行顯微手術。照片來源:維基百科。
醫師進行顯微手術。照片來源:維基百科

Just do it! 不試怎麼知道行不行得通?

1981年,IBM蘇黎世研究院的Rohrer博士以及他所提攜的Binnig博士共同發明了掃描式穿隧電子顯微鏡STM,成功測量出金屬表面奈米等級樣貌,因而在1986年獲得諾貝爾物理學獎,這年,Binnig博士進駐了IBM位於美國加州的阿爾馬登研究中心(Almaden Research Center),並且與史丹佛大學的Calvin Quate教授、IBM蘇黎世研究實驗室科學家Christoph Gerber三人共同發明了第一台原子力顯微鏡(AFM),這是一項衍伸自STM的發明,適用的樣品種類也擴增到STM無法測量的非金屬物質。

穿隧電流是STM測得出金屬表面奈米構造的原理,「有什麼性質是非導體也適用的呢?」Binnig博士心想,「對了,那萬物間無所不在的凡得瓦力!」原子間存在著凡得瓦力、氫鍵、共價鍵等微小的作用力,當物體越小,這些原子間作用力的影響會相對放大,當兩個物體逐漸靠近,凡得瓦力會讓彼此互相吸引,但當兩者相距最小距離時,凡得瓦力又讓彼此互相排斥。因此探針與樣品在特定距離時會產生快速的上下振動,只要測量探針的移動,就能得出樣品的表面特性。

為了讓探針受到微小的原子間作用力後可以自由振動,探針的懸臂必須相當柔軟,第一代的探針懸臂(cantilever beam)使用了鋁箔紙作為材料,鋁箔紙不僅夠軟,而且還是金屬!為什麼要特別強調鋁箔是金屬?只有當懸臂是金屬,第一代AFM探針的振動才可以用STM來測量。

-----廣告,請繼續往下閱讀-----

這時AFM的研究速度已如海浪般難以抵擋,利用STM測量鋁箔紙探針懸臂起伏的第一代AFM很快就被後浪推倒在沙灘上,因為用這種方法測量懸臂振動還是太複雜了,取而代之的是光學槓桿法。只要打一束雷射光在探針懸臂上,讓雷射光的反射角度隨著懸臂的移動而改變,再用四象限光學感測器測量雷射光反射的偏移,就可以換算出懸臂的高度變化。當初光學槓桿的想法曾受到很大的質疑,因為理論上干擾因素太多了,然而實際上在AFM的微小空間中卻是可行的,現在的AFM也都採用光學槓桿測量。「我們常常設想太多而做太少,還以為什麼都不可行,而真正嘗試後才發現其實行得通。『just do it!』在很多時候都是成功的機會。」李老師說。

AFM藉由光學槓桿放大折射光因探針位置改變產生的位移,來推算樣品表面。攝影/張凱智。

「當技術的基礎平台被開發後,衍伸的應用會發展神速。」李老師接著說。自AFM在1989年上市後,各式各樣由AFM衍伸出的儀器如雨後春筍般蹦出,沿用AFM的架構,只要改變探針材料就能用來測量不同的物質和作用力——金屬探針藉由穿隧電流測量金屬表面;利用凡得瓦力的吸力或斥力的原子力顯微鏡(AFM)可以測量一般的元件;帶靜電的探針可以測量原子等級的帶電量,這個方法也就構成了靜電力顯微鏡(electrostatic force microscope, EFM);將AFM的探針改成鈷製探針可以建構出磁力顯微鏡(magnetic force microscope, MFM)來測量磁場分布……。

在那個磁碟機產業與技術均蓬勃發展的年代,當IBM的John Mamin博士首次於國際會議上發表新發明的磁力顯微鏡(MFM),台下聽眾無不低頭猛抄筆記,會後紛紛出去打電話,以當時最快速的方式傳遞這重大消息。不到一週的光景,全世界的公司都知道如何生產MFM,同時也有許多公司推出MFM儀器來販售,由於當時磁碟機是個八百億美金的市場,龐大的產業需求直接加速了MFM的普及。

科技,始終起於人性

Rohrer博士在諾貝爾獎感言中提到了在IBM的日子:「在IBM蘇黎世研究實驗室的那些年裡,我特別感謝那自由的研究氛圍,讓我能盡情投入在讓我著迷不已的領域。」自由的研究環境和同儕間的砥礪讓 Binnig 與 Rohrer 兩人有靈活的思維和既深又廣的基礎知識,能跳脫框架,做出上個世紀數一數二的重要發明。

-----廣告,請繼續往下閱讀-----

STM和其衍伸出的AFM、MFM、EFM等各式奈米級顯微鏡,誕生於發明者的求知慾,不僅讓探索微觀世界和研究尖端科技的科學家道具升級,也餵飽他們好奇的腦袋;有別於這些讓人熱血沸騰的發明,日本的科學家用科技所滿足的,是人性中渴望陪伴的需求。柴田崇德博士(Takanori Shibata)在2003年開發了超萌療癒系機器小海豹「Paro」,它有毛絨絨的可愛外表,可以與人進行簡單的互動,雖然它不會每日向人道聲「喔嗨呦~」,也不會幫忙做家事,Paro卻有神奇的魔力,讓養老院的爺爺奶奶心頭暖暖並重展笑顏。究竟,機器人撫癒人心的公式是如何推導?與它們建立的情感又能否計算?我們下回見。:)

【極光片語】專欄收錄李世光老師的訪談,每一段小故事、小物件的背後,都有饒富趣味的科學道理。吉光片羽比喻殘存的珍貴文物,象徵李世光老師在科學研發的高昂志氣和人生智慧;傳說見到極光會帶給人一輩子的好運,期待讀者在本專欄得到的啟發,都能像看見極光般感動。

-----廣告,請繼續往下閱讀-----
文章難易度
雷漢欣
20 篇文章 ・ 5 位粉絲
PanSci的菜菜實習編輯,來自溫馨的動科系,心情好的時候喜歡說「你知道嗎!?」小故事,即使常得到「誰不知道阿.......」的冷眼回應,也不改其志。

0

1
0

文字

分享

0
1
0
拆解邊緣AI熱潮:伺服器如何提供穩固的運算基石?
鳥苷三磷酸 (PanSci Promo)_96
・2025/05/21 ・5071字 ・閱讀時間約 10 分鐘

本文與 研華科技 合作,泛科學企劃執行。

每次 NVIDIA 執行長黃仁勳公開發言,總能牽動整個 AI 產業的神經。然而,我們不妨設想一個更深層的問題——如今的 AI 幾乎都倚賴網路連線,那如果哪天「網路斷了」,會發生什麼事?

想像你正在自駕車打個盹,系統突然警示:「網路連線中斷」,車輛開始偏離路線,而前方竟是萬丈深谷。又或者家庭機器人被駭,開始暴走跳舞,甚至舉起刀具向你走來。

這會是黃仁勳期待的未來嗎?當然不是!也因為如此,「邊緣 AI」成為業界關注重點。不靠雲端,AI 就能在現場即時反應,不只更安全、低延遲,還能讓數據當場變現,不再淪為沉沒成本。

什麼是邊緣 AI ?

邊緣 AI,乍聽之下,好像是「孤單站在角落的人工智慧」,但事實上,它正是我們身邊最可靠、最即時的親密數位夥伴呀。

當前,像是企業、醫院、學校內部的伺服器,個人電腦,甚至手機等裝置,都可以成為「邊緣節點」。當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。簡單來說,就是將原本集中在遠端資料中心的運算能力,「搬家」到更靠近數據源頭的地方。

-----廣告,請繼續往下閱讀-----

那麼,為什麼需要這樣做?資料放在雲端,集中管理不是更方便嗎?對,就是不好。

當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。/ 圖片來源:MotionArray

第一個不好是物理限制:「延遲」。
即使光速已經非常快,數據從你家旁邊的路口傳到幾千公里外的雲端機房,再把分析結果傳回來,中間還要經過各種網路節點轉來轉去…這樣一來一回,就算只是幾十毫秒的延遲,對於需要「即刻反應」的 AI 應用,比如說工廠裡要精密控制的機械手臂、或者自駕車要判斷路況時,每一毫秒都攸關安全與精度,這點延遲都是無法接受的!這是物理距離與網路架構先天上的限制,無法繞過去。

第二個挑戰,是資訊科學跟工程上的考量:「頻寬」與「成本」。
你可以想像網路頻寬就像水管的粗細。隨著高解析影像與感測器數據不斷來回傳送,湧入的資料數據量就像超級大的水流,一下子就把水管塞爆!要避免流量爆炸,你就要一直擴充水管,也就是擴增頻寬,然而這樣的基礎建設成本是很驚人的。如果能在邊緣就先處理,把重要資訊「濃縮」過後再傳回雲端,是不是就能減輕頻寬負擔,也能節省大量費用呢?

第三個挑戰:系統「可靠性」與「韌性」。
如果所有運算都仰賴遠端的雲端時,一旦網路不穩、甚至斷線,那怎麼辦?很多關鍵應用,像是公共安全監控或是重要設備的預警系統,可不能這樣「看天吃飯」啊!邊緣處理讓系統更獨立,就算暫時斷線,本地的 AI 還是能繼續運作與即時反應,這在工程上是非常重要的考量。

所以你看,邊緣運算不是科學家們沒事找事做,它是順應數據特性和實際應用需求,一個非常合理的科學與工程上的最佳化選擇,是我們想要抓住即時數據價值,非走不可的一條路!

邊緣 AI 的實戰魅力:從工廠到倉儲,再到你的工作桌

知道要把 AI 算力搬到邊緣了,接下來的問題就是─邊緣 AI 究竟強在哪裡呢?它強就強在能夠做到「深度感知(Deep Perception)」!

-----廣告,請繼續往下閱讀-----

所謂深度感知,並非僅僅是對數據進行簡單的加加減減,而是透過如深度神經網路這類複雜的 AI 模型,從原始數據裡面,去「理解」出更高層次、更具意義的資訊。

研華科技為例,旗下已有多項邊緣 AI 的實戰應用。以工業瑕疵檢測為例,利用物件偵測模型,快速將工業產品中的瑕疵挑出來,而且由於 AI 模型可以使用同一套參數去檢測,因此品管上能達到一致性,減少人為疏漏。尤其在高產能工廠中,檢測速度必須快、狠、準。研華這套 AI 系統每分鐘最高可處理 8,000 件產品,替工廠節省大量人力,同時確保品質穩定。這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。

這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。/ 圖片提供:研華科技

此外,在智慧倉儲場域,研華與威剛合作,研華與威剛聯手合作,在 MIC-732AO 伺服器上搭載輝達的 Nova Orin 開發平台,打造倉儲系統的 AMR(Autonomous Mobile Robot) 自走車。這跟過去在倉儲系統中使用的自動導引車 AGV 技術不一樣,AMR 不需要事先規劃好路線,靠著感測器偵測,就能輕鬆避開障礙物,識別路線,並且將貨物載到指定地點存放。

當然,還有語言模型的應用。例如結合檢索增強生成 ( RAG ) 跟上下文學習 ( in-context learning ),除了可以做備忘錄跟排程規劃以外,還能將實務上碰到的問題記錄下來,等到之後碰到類似的問題時,就能詢問 AI 並得到解答。

你或許會問,那為什麼不直接使用 ChatGPT 就好了?其實,對許多企業來說,內部資料往往具有高度機密性與商業價值,有些場域甚至連手機都禁止員工帶入,自然無法將資料上傳雲端。對於重視資安,又希望運用 AI 提升效率的企業與工廠而言,自行部署大型語言模型(self-hosted LLM)才是理想選擇。而這樣的應用,並不需要龐大的設備。研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。

但問題也接著浮現:要在這麼小的設備上跑大型 AI 模型,會不會太吃資源?這正是目前 AI 領域最前沿、最火熱的研究方向之一:如何幫 AI 模型進行「科學瘦身」,又不減智慧。接下來,我們就來看看科學家是怎麼幫 AI 減重的。

-----廣告,請繼續往下閱讀-----

語言模型瘦身術之一:量化(Quantization)—用更精簡的數位方式來表示知識

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。這其實跟圖片壓縮有點像:有些畫面細節我們肉眼根本看不出來,刪掉也不影響整體感覺,卻能大幅減少檔案大小。

模型量化的原理也是如此,只不過對象是模型裡面的參數。這些參數原先通常都是以「浮點數」表示,什麼是浮點數?其實就是你我都熟知的小數。舉例來說,圓周率是個無窮不循環小數,唸下去就會是3.141592653…但實際運算時,我們常常用 3.14 或甚至直接用 3,也能得到夠用的結果。降低模型參數中浮點數的精度就是這個意思! 

然而,量化並不是那麼容易的事情。而且實際上,降低精度多少還是會影響到模型表現的。因此在設計時,工程師會精密調整,確保效能在可接受範圍內,達成「瘦身不減智」的目標。

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。/ 圖片來源:MotionArray

模型剪枝(Model Pruning)—基於重要性的結構精簡

建立一個 AI 模型,其實就是在搭建一整套類神經網路系統,並訓練類神經元中彼此關聯的參數。然而,在這麼多參數中,總會有一些參數明明佔了一個位置,卻對整體模型沒有貢獻。既然如此,不如果斷將這些「冗餘」移除。

這就像種植作物的時候,總會雜草叢生,但這些雜草並不是我們想要的作物,這時候我們就會動手清理雜草。在語言模型中也會有這樣的雜草存在,而動手去清理這些不需要的連結參數或神經元的技術,就稱為 AI 模型的模型剪枝(Model Pruning)。

-----廣告,請繼續往下閱讀-----

模型剪枝的效果,大概能把100變成70這樣的程度,說多也不是太多。雖然這樣的縮減對於提升效率已具幫助,但若我們要的是一個更小幾個數量級的模型,僅靠剪枝仍不足以應對。最後還是需要從源頭著手,採取更治本的方法:一開始就打造一個很小的模型,並讓它去學習大模型的知識。這項技術被稱為「知識蒸餾」,是目前 AI 模型壓縮領域中最具潛力的方法之一。

知識蒸餾(Knowledge Distillation)—讓小模型學習大師的「精髓」

想像一下,一位經驗豐富、見多識廣的老師傅,就是那個龐大而強悍的 AI 模型。現在,他要培養一位年輕學徒—小型 AI 模型。與其只是告訴小型模型正確答案,老師傅 (大模型) 會更直接傳授他做判斷時的「思考過程」跟「眉角」,例如「為什麼我會這樣想?」、「其他選項的可能性有多少?」。這樣一來,小小的學徒模型,用它有限的「腦容量」,也能學到老師傅的「智慧精髓」,表現就能大幅提升!這是一種很高級的訓練技巧,跟遷移學習有關。

舉個例子,當大型語言模型在收到「晚餐:鳳梨」這組輸入時,它下一個會接的詞語跟機率分別為「炒飯:50%,蝦球:30%,披薩:15%,汁:5%」。在知識蒸餾的過程中,它可以把這套機率表一起教給小語言模型,讓小語言模型不必透過自己訓練,也能輕鬆得到這個推理過程。如今,許多高效的小型語言模型正是透過這項技術訓練而成,讓我們得以在資源有限的邊緣設備上,也能部署愈來愈強大的小模型 AI。

但是!即使模型經過了這些科學方法的優化,變得比較「苗條」了,要真正在邊緣環境中處理如潮水般湧現的資料,並且高速、即時、穩定地運作,仍然需要一個夠強的「引擎」來驅動它們。也就是說,要把這些經過科學千錘百鍊、但依然需要大量計算的 AI 模型,真正放到邊緣的現場去發揮作用,就需要一個強大的「硬體平台」來承載。

-----廣告,請繼續往下閱讀-----

邊緣 AI 的強心臟:SKY-602E3 的三大關鍵

像研華的 SKY-602E3 塔式 GPU 伺服器,就是扮演「邊緣 AI 引擎」的關鍵角色!那麼,它到底厲害在哪?

一、核心算力
它最多可安裝 4 張雙寬度 GPU 顯示卡。為什麼 GPU 這麼重要?因為 GPU 的設計,天生就擅長做「平行計算」,這正好就是 AI 模型裡面那種海量數學運算最需要的!

你想想看,那麼多數據要同時處理,就像要請一大堆人同時算數學一樣,GPU 就是那個最有效率的工具人!而且,有多張 GPU,代表可以同時跑更多不同的 AI 任務,或者處理更大流量的數據。這是確保那些科學研究成果,在邊緣能真正「跑起來」、「跑得快」、而且「能同時做更多事」的物理基礎!

二、工程適應性——塔式設計。
邊緣環境通常不是那種恆溫恆濕的標準機房,有時是在工廠角落、辦公室一隅、或某個研究實驗室。這種塔式的機箱設計,體積相對緊湊,散熱空間也比較好(這對高功耗的 GPU 很重要!),部署起來比傳統機架式伺服器更有彈性。這就是把高性能計算,進行「工程化」,讓它能適應台灣多樣化的邊緣應用場景。

三、可靠性
SKY-602E3 用的是伺服器等級的主機板、ECC 糾錯記憶體、還有備援電源供應器等等。這些聽起來很硬的規格,背後代表的是嚴謹的工程可靠性設計。畢竟在邊緣現場,系統穩定壓倒一切!你總不希望 AI 分析跑到一半就掛掉吧?這些設計確保了部署在現場的 AI 系統,能夠長時間、穩定地運作,把實驗室裡的科學成果,可靠地轉化成實際的應用價值。

-----廣告,請繼續往下閱讀-----
研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。/ 圖片提供:研華科技

台灣製造 × 在地智慧:打造專屬的邊緣 AI 解決方案

研華科技攜手八維智能,能幫助企業或機構提供客製化的AI解決方案。他們的技術能力涵蓋了自然語言處理、電腦視覺、預測性大數據分析、全端軟體開發與部署,及AI軟硬體整合。

無論是大小型語言模型的微調、工業瑕疵檢測的模型訓練、大數據分析,還是其他 AI 相關的服務,都能交給研華與八維智能來協助完成。他們甚至提供 GPU 與伺服器的租借服務,讓企業在啟動 AI 專案前,大幅降低前期投入門檻,靈活又實用。

台灣有著獨特的產業結構,從精密製造、城市交通管理,到因應高齡化社會的智慧醫療與公共安全,都是邊緣 AI 的理想應用場域。更重要的是,這些情境中許多關鍵資訊都具有高度的「時效性」。像是產線上的一處異常、道路上的突發狀況、醫療設備的即刻警示,這些都需要分秒必爭的即時回應。

如果我們還需要將數據送上雲端分析、再等待回傳結果,往往已經錯失最佳反應時機。這也是為什麼邊緣 AI,不只是一項技術創新,更是一條把尖端 AI 科學落地、真正發揮產業生產力與社會價值的關鍵路徑。讓數據在生成的那一刻、在事件發生的現場,就能被有效的「理解」與「利用」,是將數據垃圾變成數據黃金的賢者之石!

👉 更多研華Edge AI解決方案
👉 立即申請Server租借

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

1
0

文字

分享

0
1
0
激盪全民對科普的想像!Open Call 成果展 5 月 26 日盛大登場
PanSci_96
・2023/05/10 ・1712字 ・閱讀時間約 3 分鐘

國科會首度向全國高中職及大專院校廣下英雄帖,舉辦「Open Call 科普 創意松」,得獎名單已揭曉,並將於今(112)年 5 月 26 日在臺北松山文創園區一號倉庫進行頒獎及展示得獎作品,當日將結合國科會科普活動計畫及科普產品製播計畫成果一同展出,讓各界能藉此機會相互激盪對科普的想像!

兼顧科普傳播與社會需求,將學生科普創意轉換為未來社會影響力

聚焦校園年輕世代所舉辦的「Open Call 科普創意松」徵件活動,分「科普創意提案」及「科普短片徵件」兩類,鼓勵高職中職及大專院校學生,透過多元科普傳播模式和影音創作發揮社會影響力。

自去(111)年 8 月底啟動徵件,有將近 90 所學校、400 多隊報名、超過 1200 人次的師生參與。在學子創意孵化的過程中,國科會也邀請業界各領域執牛耳的輔導業師,透過業師陪伴及前後世代的交流互動,優化學子的提案創意並強化其作品未來之可行性。

「科普創意提案」獲獎案例展現出青年學子對於科學教育、環境永續、生 態保育、偏鄉孩童心理輔導等議題的關注與熱情,並嘗試透過創新的科普傳播手法為在地社會議題尋求新解方。

-----廣告,請繼續往下閱讀-----

大專組金獎由來自臺北醫學大學及中國醫藥大學合組團隊「醫線教育」獲得,該團隊跨區域、跨校號召志同道合夥伴,針對疾病診斷邏輯,設計互動式教具與課程,幫助國內外大學生模擬情境以銜 接基礎知識在臨床的應用,獲評審們一致認同是難能可貴的社會實踐行動。

高中職組金獎,由彰化二林工商的「哇哈哈科學服務團」團隊獲獎,該團隊以在地高中職學生為出發點,率先成立科學服務社團,學習科技教育知識,再教導鄰近國中小學童,達到自助人助,進一步儲備種子志願團,由受助者變成助人者,形成良善循環機制,不僅將科學教育資源帶入偏鄉,培養在地科學人才, 且結合科學教育與地方文化,對地方經濟和社會發展有正面且積極的影響。

科普短片類大專組金獎作品為清華大學「清大天文社」之〈進擊的黑洞:類星體〉,該創作短片從熱門的科學新聞切入,呼應天文迷對於黑洞的好奇心, 片中穿插許多令人會心一笑的譬喻與橋段,風趣又不失其意涵。

高中職組金獎作品,是由虎尾高中「動感光波」團隊所創作之短片〈光通訊〉,主要講述以 發射器(燈泡)產生之光訊號,經由接收、轉換成電訊號,進而發出特定音階, 透過生動活潑的表演和拍攝手法,故事情節可愛清新,搭配簡易動畫和資訊圖卡,讓影片具知識性及趣味性。

-----廣告,請繼續往下閱讀-----

當日除了展示 21 個來自校園學子的獲獎科普創意,下午在舞台區會放映獲獎的 11 支科普短片及科普產品製播計畫影片,內容生動更兼具知識性與教育性,讓民眾沉浸於深入淺出的科學知識寶庫與科普視聽饗宴。

精選年度科普活動計畫作品及科普產品製播影片成果同步展出

國科會為持續推動全民科普,使科學教育不僅走入校園、更深入大眾生活,今年首度集結科普相關計畫 45 個團隊共同展出成果,國內長期推動科普、第一線面對學子的科普推手,為本次展覽設計豐富多元的科學演示,將深奧的科研成果轉化為各年齡層易懂的手作互動實驗等,包括循環材料與物件微展覽、 原住民文化數學數位教材、科普桌遊、AI 自駕車模擬行駛、植物染手作體驗、 蝴蝶科普解謎遊戲等有趣又豐富的科普體驗;此外,「數感盃中英文數學詩創作競賽」的創作成果,也將在展場中幻化為 24 公尺長的「數學詩牆」,當縝密精準的數學與柔軟詩意的文學交會,迸發出跨域創作的科普新火花!歡迎大小朋友帶著好奇心一同共襄盛舉!

活動官網

Open Call 頒獎典禮暨科普成果展」活動資訊

  • 時間:2023 年 5 月 26 日(星期五)上午 10:00 ~ 下午 5:00
  • 地點:臺北松山文創園區一號倉庫(信義區光復南路 133 號)
  • 展覽活動詳情請上活動官網:www.opencall-nstc.org.tw
-----廣告,請繼續往下閱讀-----
PanSci_96
1262 篇文章 ・ 2411 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。

0

2
0

文字

分享

0
2
0
本地工作者暢談科學時代的人文發展:哲學、專才培訓與大眾教育
臺灣邏輯、方法論、科學與科技哲學學會_96
・2023/02/01 ・5061字 ・閱讀時間約 10 分鐘

-----廣告,請繼續往下閱讀-----

  • 撰文/詹遠至|臺灣邏輯、方法論、科學與科技哲學學會助理、臺灣大學哲學系碩士生
  • 校對/陳樂知|臺灣大學哲學系副教授、臺大傳統與科學形上學研究中心執行長、臺灣邏輯、方法論、科學與科技哲學學會秘書長

我們所處的二十一世紀已是科學的時代,科學理論被視為宇宙的終極答案。在這個「科學至上」的時代,人文探求還如何可能?人文如何可以與科學攜手並進?以「人文」與「科學」之間的對話為主軸,臺灣邏輯、方法論、科學與科技哲學學會(LMPST Taiwan)於 2022 年 11 月 19 日在臺灣大學主辦了一場以《科學內外的人文可能》為題的論壇,邀請了國內哲學學者以及科學普及界的資深工作者擔任講者。

本活動主持人由鄭會穎教授(政治大學哲學系助理教授、政大現象學研究中心主任)擔任,受邀講者則包括陳竹亭教授(臺灣大學化學系名譽教授)、陳樂知教授(臺灣大學哲學系副教授、臺大傳統與科學形上學研究中心執行長、LMPST Taiwan 秘書長)、鄭國威先生(PanSci 泛科學知識長)與嚴如玉教授(陽明交通大學心智哲學研究所副教授兼所長)。

本論壇屬於 LMPST Taiwan 長期舉辦的《種種意識論壇》系列。除 LMPST Taiwan 以外,這一系列的論壇由政治大學現象學研究中心、清華大學實作哲學中心、臺灣大學哲學系、臺灣跨校意識社群、PHEDO 台灣高中哲學教育推廣學會、沃草公民學院共同合辦;贊助單位則為順奕有限公司。

《科學內外的人文可能》邀請了國內哲學學者,以及科學普及界的資深工作者擔任講者。圖/臺灣邏輯、方法論、科學與科技哲學學會 – LMPST Taiwan

科學為人文帶來危機?先論科學主義與自然主義

主持人鄭會穎教授點出了本論壇的核心議題後,陳樂知教授(臺灣大學哲學系副教授、臺大傳統與科學形上學研究中心執行長、LMPST Taiwan 秘書長)發表了他的觀點。

-----廣告,請繼續往下閱讀-----

陳教授想要討論的是「就其理論本質而言,科學是否威脅人文」這個問題。陳教授首先談到一些人持有「科學主義(scientism)」的世界觀。科學主義認為,科學是唯一可以讓我們獲得知識的可靠方法。陳教授認為科學主義是一種自相矛盾的世界觀;原因在於科學主義本身並不是科學,並未被科學方法證明,它只是一個哲學理論。因此,科學主義身為一個哲學理論,它本身就是自己會排斥的對象。

回到核心問題,科學是否帶來了人文危機?陳教授的答案是否定的。他認為科學所帶來的其實不是科學主義,而是「自然主義(naturalism)」。自然主義認為,這個世界最根本、基礎的組成,就是自然科學理論認為存在的那些事物,例如粒子、力場、化學反應等。

陳教授認為科學所帶來的自然主義是現代世界觀的基礎;即使一些特定人士因為宗教背景等理由而不同意自然主義,其實也應該要同意例外情況相當有限。如果我們接受「自然主義」,而非「科學主義」,那麼科學本身根本就不會帶來人文危機。這是因為,自然主義只認為世界最根本的組成是科學所談論的事物,但是它並不認為我們只能透過科學方法來認識這些事物。

「就其理論本質而言,科學是否威脅人文?」。圖/臺灣邏輯、方法論、科學與科技哲學學會 – LMPST Taiwan

事實上,從科學世界觀的角度來說,人類也是自然的一員。人類作為一種自然生命體,出於其演化而來的結構,與生俱來就有各種世界互動、認識世界的方式,不限於科學方法。就此而言,人類會發展出的人文也是一種自然現象。因此,雖然人類後來發展出了「科學方法」這種較為優化的認識途徑,我們依然不能否定「人文方法」也是一種認識世界的可靠方法。

-----廣告,請繼續往下閱讀-----

接著,陳教授提及羅素(Bertrand Russell)對「熟知知識(knowledge by acquaintance)」以及「描述知識(knowledge by description)」的區分。熟知知識指的是我們透過直接的感受、互動與掌握所獲得的知識,描述知識則是理論性的知識。

陳教授認為熟知知識與描述知識不可被截然二分,兩者之間是程度上的差別。而人文學門的一些觀念就較為接近熟知知識,因為它們重視同理及感受。雖然如此,這一切都符合腦神經科學的描述,人文仍然是自然現象。另一方面,人文因此仍然是科學可以研究的對象,也需要科學的補充。人文學門自己也必須要了解,自己所研究的熟知知識其實也是自然現象,有其組成基礎與運作原理。

因此,科學可以幫助人文把熟知知識轉換為更精確的描述知識,並且為人文提供更精密的研究方法,以及協助其排除錯誤,比如排除人類先天認知系統的偏誤、漏洞等等。總結來說,科學與人文其實研究的是同一個自然界;科學非但不應帶來人文危機,還可以幫助人文研究走得更加長遠。

跨科際合作的需求,兼論「人類世」中的人文與科學走向

不同於陳樂知教授從哲學觀點出發,陳竹亭教授(臺灣大學化學系名譽教授)帶來的是他在教育方面的經驗。首先,陳教授介紹了他為台灣教育部主持的「科學人文跨科際人才培育計畫」,簡稱「SHS(Society-Humanities-Science)計畫」。

-----廣告,請繼續往下閱讀-----

由於現代社會中的問題包含人文以及科學的面向,因此 SHS 計畫的主軸在於推動「跨科際教育(trans-disciplinary education)」。以往的教育先是學科主義,然後衍生出「多領域(multi-disciplinary)」或是「跨領域(inter-disciplinary)」,也就是由各學科各自探究共同問題,或是由兩個學科進行合作。

跨科際教育則有所不同,它以「真實世界的共同問題」為核心,直接打破學科之間的界線。只要是對解決真實世界的問題有幫助的知識,參與的學科,甚至政府、產業、民間的 NPO 或利害關係人都擔責分工合作進行知識生產、解決問題。

SHS 計畫的主軸在於推動「跨科際教育」。圖/臺灣邏輯、方法論、科學與科技哲學學會 – LMPST Taiwan

由於現代社會中的問題愈趨複雜、多元,且多樣,社會對科學界的要求也跟以往有所不同。科學家開始被要求具備社會意識及社會參與的能力,還有溝通與對話的能力;這些能力都是傳統的科學界非常缺乏的。有鑑於此,陳教授所主持的 SHS 計畫積極推動「問題導向的學習」、「系統思考」、以及「實用方法論上的創新」。他也提到,SHS 計畫的推動非常有賴於大學對本身社會角色的自覺與復興。

陳教授參與的另一個國科會計畫是「以社會需求為核心的跨領域研究計畫」。與 SHS 計畫相同,這個計畫也非常重視跨科際教育,並且認知到單靠科學知識無法解決真實世界的複雜問題。

-----廣告,請繼續往下閱讀-----

那麼,人文究竟該扮演什麼樣的角色呢?陳教授討論到他撰寫的新書《丈量人類世》中的「人類世(anthropocene)」這個概念。「人類世」指的是一個新的地質紀元。在工業革命之後,人類文明成為影響地球環境與生態變遷的關鍵角色。因此,部分學者認為地球已經進入「人類世」這個地質紀元。

在人類世中,全球有非常多的變遷趨勢,其中一個就是:科學發展帶動理性價值的昂揚,其他的人性價值卻被輕忽。陳教授說,我們培養出了許多「職業科學家」。可是,在科技急速發展的同時,人類的科技文明卻缺乏方向感:我們正面臨物質文明與精神文明之間極大的不均衡。總而言之,他認為「人類的智能尚未學會如何掌舵文明巨輪的方向」。

最後,針對人文與科學應該要如何在人類世中發展,陳教授提出了他本人的看法。首先,科學研究的同儕審核程序需要人文專業學者的投入,也就是科學家不能閉門造車。再來,婦女應該要積極加入科學與科技事業的陣容,因為科學發展不能只由男性思維主導。

最後,未來教育的趨勢必須往跨科際的方向邁進,也就是人文與科學必須並重。如此一來,陳教授強調:「人文的啟發價值和社會重大需求必須挺身而出,為人類文明的永續承擔文明指南針的角色,與科學共同尋求世紀困境的解方。」

-----廣告,請繼續往下閱讀-----

「科學實作哲學」帶來人文與科學的合作新可能

繼陳竹亭教授分享了跨科際教育發展的大方向後,嚴如玉教授(陽明交通大學心智哲學研究所副教授兼所長)則分享了她在科學人文互動的個案經驗。嚴教授身為一個哲學學者,卻在因緣際會下,走上了不同於普通學者每天關在辦公室做研究的路。她為了提升生醫背景的學生對哲學的興趣,也為了把哲學帶到課堂之外,推動了青銀共學。

嚴教授推動青銀共學,提升學生對哲學的興趣,也將哲學帶到課堂之外。圖/臺灣邏輯、方法論、科學與科技哲學學會 – LMPST Taiwan

嚴教授把社區中的長輩們請到大學的哲學課堂上,與大學生一起進行小組報告。這些生醫背景的學生們未來大多會從醫;因此,對未來將要在醫療院所工作的他們來說,與長輩互動是很好的練習。

嚴教授也針對與學生們未來在醫療場域會遇到的一些價值性思考,與哲學作出連結,讓學生們學習哲學能夠學以致用,對醫療過程有所幫助。舉例來說,她會帶領學生討論如何面對死亡、以及照護倫理等哲學議題。她認為,在學生未來的臨床工作上,這些哲學議題將派得上用場。

除了青銀共學外,嚴教授還以非常不同於傳統學者的方式,進行她個人的哲學研究。傳統哲學學者往往是埋首於書堆中,發展自己的理論;她則是親自到醫療院所中進行田野調查,去訪問醫生、護理師等第一線的人員。藉由直接了解醫療工作者在實作上遇到的困難,她試圖讓哲學能夠真正被實用。

-----廣告,請繼續往下閱讀-----

嚴教授說,這樣的研究方法被稱為「科學實作哲學」。科學實作哲學作為一種研究方法,其實不單單適用於人文學門,也同樣適用於科學。非常理論性、艱深的基礎科學如果能夠走出象牙塔,了解社會的真實需求,便有機會與人文接軌。因此,不論是科學或人文學門,若研究者可以調整研究方法,從研究對象在實作上的細節出發,再轉而調整自己的理論,那麼科學與人文的互動、合作並非不可能。

科學素養對現代社會的重要性

最後進行分享的是科普媒體《PanSci 泛科學》的知識長鄭國威先生。鄭知識長首先釐清了「人文」的定義:他認為,「人文主義」認為人類可以靠自身的能力認識這個世界,而「人文學科」正是培養這種能力的學科。從這個定義來看,人文與科學根本就不是分開的;畢竟科學也是人類靠自身能力認識世界的方式之一。

鄭知識長提到,台灣的學生在國際學生能力評量計畫(PISA)中表現非常優異,世界排名名列前茅。然而,台灣的學生卻普遍缺乏自信,在失敗時容易產生自我質疑。

鄭知識長指出,台灣學生普遍缺乏自信,在失敗時容易產生自我質疑。圖/臺灣邏輯、方法論、科學與科技哲學學會 – LMPST Taiwan

在學習的過程中,我們大致可以把人分為兩種:具有「定型心態」與具有「成長心態」的人。前者只重視結果、學習態度較消極,且容易受挫折打擊;後者則重視過程、學習態度較積極,且勇於面對挑戰。鄭知識長指出,具有定型心態的台灣學生似乎占多數。

-----廣告,請繼續往下閱讀-----

鄭知識長在高中時也面臨相同的困境,他那時非常厭惡數學和理化,完全沒有學習他們的熱忱。他後來發現不止他是如此,有許多人也在學生階段就放棄了對科學的學習;這對台灣社會是個嚴重的現象。舉例來說,公投的題目許多都牽涉科學知識,放棄學習科學的公民要如何在這種公投中作出正確的判斷?這樣的考量促使他後來創辦 PanSci 泛科學。

鄭知識長認為,獲得成長心態最簡單的方式就是學會科學原則與方法,也就是用科學方法來面對日常生活中遇到的問題。而培養科學素養則需要承認自己對許多事的無知,且需要身處一個好的素養集體之中。最後,鄭知識長勉勵大家一起培養出「科學思辨力」,為本次的論壇畫下一個強而有力的句點。

-----廣告,請繼續往下閱讀-----
臺灣邏輯、方法論、科學與科技哲學學會_96
3 篇文章 ・ 12 位粉絲
臺灣邏輯、方法論、科學與科技哲學學會(The Taiwan Association for Logic, Methodology and Philosophy of Science and Technology, LMPST Taiwan)為國內非營利法人團體,主要幹部均為國內教授或研究員。本會以促進科學型的哲學研究為宗旨,工作包括國內專業學術工作、跨領域學科交流及哲學普及推廣。