Loading [MathJax]/extensions/tex2jax.js

0

0
0

文字

分享

0
0
0

腦神經解密「注意!」與「別衝動!」— 中大認知所阮啟弘教授專訪

廖英凱
・2014/09/10 ・5554字 ・閱讀時間約 11 分鐘 ・SR值 606 ・十年級

中央大學認知所阮啟弘教授。圖/中大新聞

「我這輩子就算很認真,可能也沒辦法解決百分之一的問題吧,有太多謎團、太多複雜的細節值得去好好釐清。」

這是今年初再次榮獲「國科會傑出研究獎」的阮啟弘教授,在接受專訪時語重心長的一段評論。阮啟弘教授任職於中央大學認知神經科學研究所,是該所2003 年創立時的創所元老之一,也是知名腦科學家洪蘭教授的得意門生。

阮教授所研究的認知神經科學是一門相當新興的領域,他說,「這是一個研究行為與神經機制最好的時代!」今日認知科學的蓬勃發展,仰賴於過去百年實驗心理學的理論完備,並搭配當代腦科學技術與實驗方法的開發,使得認知神經科學家能以全新的方式,研究心理、行為、運動與大腦結構、神經元的關聯。這門學科充滿著複雜的謎團,也充滿著發現新知的機會與改善人類福祉的新方向。目前,阮教授的研究方向,主要致力於視覺注意力、衝動控制、犯罪科學、教育學習及腦刺激技術的應用和開發。

你在看哪裡?

對我們來說,視覺可說是我們感覺世界最重要的方式,當我們在閱讀文字時,注意力似乎也跟著眼睛而隨著字裡行間的脈絡而轉移,而視覺注意力就是阮教授最主要的研究課題。以眼球運動來說,人類每天平均約有15 萬次的眼動,但人們並不會意識到自己其實注意到那麼多的事物。這意味著很有可能存在某一種機制,幫助我們得以在某一個時間點上選擇及分析訊息,讓大腦得以聚焦與處理關鍵的資訊,提升反應的速度與準確性、增加知覺的敏感度,更降低其他事件的干擾以避免大腦的過度負荷。

-----廣告,請繼續往下閱讀-----

過去里佐拉蒂(Giacomo Rizzolatti)等人的研究認為注意力只是眼球運動前的準備歷程[1],但隨著認知神經科學的發展,科學家提出了不同的觀點。近年來阮教授利用順向和反向眼動作業以及微電流刺激(microstimulation),訓練猴子往目標物的方向眼球跳視(prosaccade),或是往反方向眼球跳視(antisaccade)。如下圖所示,當垂直淺色方塊出現時,視線須往垂直淺色方塊移動,但當水平淺色方塊出現時,視線須往淺色方塊的反方向移動。以此紀錄兩種不同作業過程中,主要控制眼球運動的大腦額葉眼動區(frontal eye fields, FEF)的神經活動表現。實驗發現在注意力與眼動都在準備階段時,若給予微電流刺激,當水平淺色方塊出現時,注意力雖往上移動,但眼球軌跡卻偏向目標物的相反位置,這代表眼球運動與注意力的神經機制很可能是獨立的。[2]

順向眼動作業與反向眼動作業 圖片來源:Juan, Chi-Hung, Stephanie M. Shorter-Jacobi, and Jeffrey D. Schall. "Dissociation of spatial attention and saccade preparation." Proceedings of the National Academy of Sciences of the United States of America 101.43 (2004): 15541-15544.
順向眼動作業與反向眼動作業
圖片來源:Juan, Chi-Hung, Stephanie M. Shorter-Jacobi, and Jeffrey D. Schall. “Dissociation of spatial attention and saccade preparation.” Proceedings of the National Academy of Sciences of the United States of America 101.43 (2004): 15541-15544.

為能進一步探討眼動與注意力的獨立,阮啟弘教授利用跨顱磁刺激技術(transcranial magnetic stimulation, TMS),確認了額葉眼動區負責動眼機制和視覺注意力以外,也證實了注意力和眼動在時序上是有差異的。這代表視覺注意力與眼球運動的神經機制是可以分離的[3],由於視覺注意力是短期記憶等認知能力的基礎,也與大腦前額葉的功能和自我控制能力有高度相關,注意力若有缺陷更會大幅影響高階知識與技能的學習,因此了解與提升視覺注意力的研究,對於精神疾病或學習障礙等,將能成為早期診斷與早期治療的新工具。

ADHD 診斷治療靠遊戲

從精神疾病來看,視覺注意力的缺陷或不足與多項精神疾病有關,例如注意力缺陷過動症(attention deficit hyperactivitydisorder, ADHD)、思覺失調症、躁鬱症、邊緣性人格、衝動型暴力犯等等。世界衛生組織的調查更指出[4],神經與精神等症狀造成全球30%的工作時數喪失,約等於4~5%的發展中國家國民所得。其中ADHD 在學齡兒童的盛行率約3~10%,患有ADHD 的學童在課業表現上也比正常學童來得差[5]。但ADHD 患者並非真的注意力不足,許多研究認為ADHD 是注意力的調控上出現問題,特別是衝動控制和衝突解決能力的不足或缺失[6][7]。2011 年墨菲特(Terrie Moffitt)等人的研究則是進一步量化5 歲孩童的自我控制能力,並長期追蹤至35 歲時的個人成就。追蹤結果指出孩童時期的自我控制能力越差,成年後的健康與社經狀況也越差,而犯罪率和單親撫養後代的比率則更高[8]。因此注意力缺陷的早期發現、早期治療機制更顯重要,但國內仍有相當數量符合ADHD 診斷的學童,未受到正確的診斷與治療。

孩童時期的自我控制能力越差,成年後的健康與社經狀況也越差,而犯罪率與單親撫養後代的比率則更高 圖片來源:Moffitt, Terrie E., et al. "A gradient of childhood self-control predicts health, wealth, and public safety." Proceedings of the National Academy of Sciences 108.7 (2011): 2693-2698.
孩童時期的自我控制能力越差,成年後的健康與社經狀況也越差,而犯罪率與單親撫養後代的比率則更高
圖片來源:Moffitt, Terrie E., et al. “A gradient of childhood self-control predicts health, wealth, and public safety.” Proceedings of the National Academy of Sciences 108.7 (2011): 2693-2698.

為能提高孩童ADHD 診斷準確率,阮啟弘教授的團隊利用停止訊號作業(stop signal task)來測量衝動控制的能力,希望做為診斷的有效輔助工具。圖三是停止訊號作業的時間序列示意圖,受試者會先看到全黑的畫面,爾後畫面上會出現綿羊,受試者需要在看到綿羊時按下按鍵。此時故意設計在受試者按鍵時出現狼,受試者看到後需要馬上收手,以測試受試者的反應時間。在這樣的試驗中,發現隨著年齡的成長,反應時間會變快,錯誤率也會降低,例如5 歲小朋友需要307.62 毫秒(ms)的反應時間,但到6 歲時卻只需要272.11 ms,而成人約183.16 ms[9]。反應時間的縮短,代表著衝動控制能力隨兒童的成長而提升。利用這樣簡單而容易操作的遊戲,有助於在幼童時期觀察衝動控制能力是否異於常人,進而提供給兒童精神科醫師作為診斷參考。

-----廣告,請繼續往下閱讀-----
停止訊號作業
停止訊號作業

另一個更有趣的觀察結果,是發現在幼童的成長過程中,大腦體積並沒有明顯的改變,但神經元卻在變少,彷彿是一種將多餘神經元「修剪」掉的過程。阮教授表示,目前的一種解釋方式,是嬰幼兒出生後在面對環境時,一開始會需要夠多的神經元來應對各種可能性,而隨著成長再慢慢地去除不會使用到的神經元。以口音為例,日本人因為日語的發音特色,大多無法分清楚英文R 和L 的發音。但在測量腦電波時發現,讓4~6 個月大的日本嬰兒聽到一連串RRRRRLRRRRR 的音,聽到不一樣的字母時,可以觀察到腦波的變化,但在日語的環境成長到一兩歲時就觀察不到這個現象了。這有可能是因為母音中沒有R、L 的差別,導致部分未使用到的神經元被修剪掉。這樣用進廢退的腦神經成長特徵,也代表著若能提早發現幼童有注意力缺乏的症狀,再搭配治療或訓練方式,將有助於ADHD 患者的早期發現、早期治療。

事實上,今日醫療體系與兒童心智科在ADHD 患者的診斷與治療上,均有相當程度的發展與技術,但在資源有限的狀況下,要對兒童進行相關普查以找出潛在患者,勢必窒礙難行。目前我國對於ADHD的診斷,依賴家長口頭報告及二個以上不同班級老師的量表報告,在量表上出現超出同學的異常行為且超過二位家長或老師均有相同結果後,再經兒童心智科醫師判斷。故被診斷出ADHD 者,往往狀況嚴重且錯失可影響腦神經發展的黃金期[10]。阮教授表示,「目前我們已經了解了注意力在大腦中的機制,也了解了不同時期的注意力發展。我們現在想看看,要如何幫助注意力不足的人」。因此,為能實踐ADHD的早期治療,阮啟弘教授目前開發中的「注意力訓練遊戲」,正是希望在平板電腦或手機等平台上,設計簡單的遊戲,測量幼童的注意力發展狀況,並協助發展遲緩的幼童能藉此訓練以提升注意力。阮教授認為這樣價格低廉而簡單的注意力訓練遊戲,對孩童未來的健康與成就有正向的回饋,也能對日益匱乏的醫療資源提供更多的舒緩解決方案,也相信防範於未然的理念更能彌補今日醫療機制難以兼顧的困境。

除了針對幼童注意力不足的早期發現與早期治療,阮啟弘教授的團隊也曾深入臺北監獄研究衝動型暴力犯。相較其他受刑人,衝動型暴力犯更難控制情緒,注意力也更容易受到帶有敵意的表情所吸引。由停止訊號作業等實驗表明,他們的衝動控制能力較差,需要更長的時間來停止他本來想做的事情[11]。由腦電波測量的結果指出,在衝動型暴力犯身上測量到與衝動抑制相關的腦電波波形也與其他受刑人不同[12]。這些衝動暴力犯在認知神經上的特徵,也意味著若能提供某種方式,減少衝動型暴力犯的衝動控制所需時間,阮教授說:「這就是一個『事緩則圓』的概念,讓這些犯人的衝動控制能力變好,就可以避免許多問題了。」

為了開發提升衝動控制的技術,過去利用功能性核磁共振造影(fMRI)的研究指出,衝動控制能力與大腦的前額葉和基底核有很大的相關,例如罹患ADHD 的男童,他們的前額葉和基底核都較正常的男孩來的小。為了進一步確認行為與大腦之間的因果關係,阮教授利用跨顱磁刺激技術,施於前額葉上內側(pre-supplementary motor area, Pre-SMA),發現衝動抑制能力會明顯降低,因而確立了Pre-SMA 在衝動抑制的關鍵角色[13]。進一步更發現,利用跨顱直流電刺激(transcranial direct current stimulation, tDCS)的陽極端刺激Pre-SMA,可以活化該處的腦細胞,改善受試者的衝動抑制能力[14]。這系列發現有助於衝動抑制理論的建立與驗證、臨床治療及犯罪防治矯正等,是一項兼具理論與應用的重要研究成果。

-----廣告,請繼續往下閱讀-----

藉由研究大腦的秘密,釐清注意力的運作機制,改善人類福祉的精神疾病醫療與犯罪成因矯正,也開始出現了新的解決方向。阮教授的研究成果已發表60 餘篇論文,受到國際學者的矚目。除多次榮獲中大校內學術研究傑出獎,也曾於2010年榮獲國科會傑出研究獎,在2006 年也以視覺注意力的神經機制,榮獲中研院人文社會科學組年輕學者研究著作獎,是中研院首次將此獎項頒給認知神經科學的年輕科學家。不僅是研究領域的出類拔萃,老師也曾榮獲中大教學優良獎與優良導師獎。阮教授所帶領的「視覺認知實驗室」更聚集了來自物理、統計、資工、生科、財金、職治與醫學的研究員和研究生,他認為新興學科的研究與探索,需要結合不同技術與研究方法,匯集各種領域的知識和人才。他也期待能在認知神經科學領域,開展新興多元的研究議題,解決充滿謎團的複雜問題。

a
跨顱磁刺激技術(TMS)

TMS是利用電流脈衝流經銅線圈,如電磁鐵般會產生強度高達1.5 tesla的磁脈衝,約為地球磁場的三萬倍。但每個脈衝僅維持幾毫秒,實際攜帶的能量很少,且磁場強度會隨距離平方成反比,因此僅能穿越皮膚、頭骨與2-3公分的大腦皮質,在大腦的特定區域產生可逆轉且短暫的磁場。物理學上的電磁共生理論法拉第定律亦告訴我們,這些磁場的改變可以產生電流,也因為腦神經的訊息傳導是藉由電流的改變,因此這樣局部誘發的電流,得以讓我們在指定的時間點暫時性地干擾大腦特定區塊。藉此探討特定腦區與認知功能與行為的因果關係。

TMS的實驗方式可分為單一脈衝TMS和反覆TMS(repetitive TMS, rTMS),單一脈衝TMS僅能產生即時的效果,例如定位作用於腦中運動皮質的不同區域,可造成受試者肢體上不同位置的短暫抽搐。而rTMS則是利用連續帶有規律的磁性脈衝來藉由刺激不同的腦區,它可以抑制或興奮該腦區所主管的功能。例如以低頻(< 1 Hz)的rTMS刺激控制語言的運動區上,可使健康的受試者暫時無法說話。再藉由這樣的實驗結果,回頭檢視因腦傷而影響說話能力的病人,就有機會更清晰了解腦傷的狀況與成因。

跨顱直流電刺激(tDCS)

tDCS則是直接利用極低電流來刺激大腦,與磁場的差異在於電場具有正負極(陰陽極)的方向性。過去研究指出,tDCS陽極端的腦神經會被增益,而在陰極端的腦神經則被抑制[15],這除了能向TMS一般提供腦區與認知行為的因果關係外,也讓研究者可以探討特定神經增益或抑制所帶來的行為差異。目前也有越來越多的實驗發現tDCS可以做為一種改善精神品質的醫療方式,例如改善抑鬱症與提升抑鬱症藥物的療效[16],以及美國空軍所贊助的一項研究也發現,tDCS可以增強飛行員的警覺度並延長良好表現的時間[17]。

-----廣告,請繼續往下閱讀-----

參考資料

  1. Rizzolatti, Giacomo, et al. “Reorienting attention across the horizontal and vertical meridians: evidence in favor of a premotor theory of attention.” Neuropsychologia 25.1 (1987): 31-40.
  2. Juan, Chi-Hung, Stephanie M. Shorter-Jacobi, and Jeffrey D. Schall. “Dissociation of spatial attention and saccade preparation.” Proceedings of the National Academy of Sciences of the United States of America 101.43 (2004): 15541-15544.
  3. Juan, C-H., et al. “Segregation of visual selection and saccades in human frontal eye fields.” Cerebral Cortex 18.10 (2008): 2410-2415.
  4. Lopez, Alan D., Colin D. Mathers, and Claudia Stein. The Global Burden of Disease 2000 project: aims, methods and data sources. Harvard Burden of Disease Unit, Center for Population and Development Studies, 2001.
  5. Barkley, Russell A., et al. “Adolescents with ADHD: patterns of behavioral adjustment, academic functioning, and treatment utilization.” Journal of the American Academy of Child & Adolescent Psychiatry 30.5 (1991): 752-761.
  6. Nigg, Joel T. “Is ADHD a disinhibitory disorder?.” Psychological bulletin 127.5 (2001): 571.
  7. Barkley, Russell A. “Behavioral inhibition, sustained attention, and executive functions: constructing a unifying theory of ADHD.” Psychological bulletin 121.1 (1997): 65.
  8. Moffitt, Terrie E., et al. “A gradient of childhood self-control predicts health, wealth, and public safety.” Proceedings of the National Academy of Sciences 108.7 (2011): 2693-2698.
  9. Lo, Yu-Hui, et al. “The Neural Development of Response Inhibition in 5-and 6-Year-Old Preschoolers: An ERP and EEG Study.” Developmental neuropsychology 38.5 (2013): 301-316.
  10. ADHD 分心症 (俗稱過動兒) – 林博
  11. Chen, Chiao-Yun, et al. “Time pressure leads to inhibitory control deficits in impulsive violent offenders.” Behavioural brain research 187.2 (2008): 483-488.
  12. Chen, Chiao-Yun, et al. “Neural correlates of impulsive-violent behavior: an event-related potential study.” Neuroreport 16.11 (2005): 1213-1216.
  13. Chen, Chiao-Yun, et al. “Control of prepotent responses by the superior medial frontal cortex.” Neuroimage 44.2 (2009): 537-545.
  14. Hsu, Tzu-Yu, et al. “Modulating inhibitory control with direct current stimulation of the superior medial frontal cortex.” Neuroimage 56.4 (2011): 2249-2257.
  15. Priori, Alberto, et al. “Polarization of the human motor cortex through the scalp.” Neuroreport 9.10 (1998): 2257-2260.
  16. Brunoni, Andre R., et al. “The sertraline vs electrical current therapy for treating depression clinical study: results from a factorial, randomized, controlled trial.” JAMA psychiatry 70.4 (2013): 383-391.
  17. Fields, R. D. “Amping up brain function: Transcranial stimulation shows promise in speeding up learning.” Scientific American (2011).

相關閱讀

  1. 徐慈妤,洪蘭,曾志朗, 阮啟弘*.(Sep, 2013)。台灣認知神經科學研究的崛起:以注意力相關研究為例。中華心理學刊。第55卷 第3期,343-357. (Corresponding Author; TSSCI)
  2. 阮啟弘, 呂岱樺, 陳巧雲. 跨顱磁刺激在認知科學研究的角色 (2005)。應用心理研究。第28期,51-74.
  3. 阮啟弘教授的Google學術首頁

原文刊載於:科學月刊 第536期 (2014/08)

-----廣告,請繼續往下閱讀-----
文章難易度
廖英凱
30 篇文章 ・ 249 位粉絲
非典型的不務正業者,對資訊與真相有詭異的渴望與執著,夢想能做出鋼鐵人或心靈史學。 https://www.ykliao.tw/

0

1
0

文字

分享

0
1
0
拆解邊緣AI熱潮:伺服器如何提供穩固的運算基石?
鳥苷三磷酸 (PanSci Promo)_96
・2025/05/21 ・5071字 ・閱讀時間約 10 分鐘

-----廣告,請繼續往下閱讀-----

本文與 研華科技 合作,泛科學企劃執行。

每次 NVIDIA 執行長黃仁勳公開發言,總能牽動整個 AI 產業的神經。然而,我們不妨設想一個更深層的問題——如今的 AI 幾乎都倚賴網路連線,那如果哪天「網路斷了」,會發生什麼事?

想像你正在自駕車打個盹,系統突然警示:「網路連線中斷」,車輛開始偏離路線,而前方竟是萬丈深谷。又或者家庭機器人被駭,開始暴走跳舞,甚至舉起刀具向你走來。

這會是黃仁勳期待的未來嗎?當然不是!也因為如此,「邊緣 AI」成為業界關注重點。不靠雲端,AI 就能在現場即時反應,不只更安全、低延遲,還能讓數據當場變現,不再淪為沉沒成本。

什麼是邊緣 AI ?

邊緣 AI,乍聽之下,好像是「孤單站在角落的人工智慧」,但事實上,它正是我們身邊最可靠、最即時的親密數位夥伴呀。

當前,像是企業、醫院、學校內部的伺服器,個人電腦,甚至手機等裝置,都可以成為「邊緣節點」。當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。簡單來說,就是將原本集中在遠端資料中心的運算能力,「搬家」到更靠近數據源頭的地方。

-----廣告,請繼續往下閱讀-----

那麼,為什麼需要這樣做?資料放在雲端,集中管理不是更方便嗎?對,就是不好。

當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。/ 圖片來源:MotionArray

第一個不好是物理限制:「延遲」。
即使光速已經非常快,數據從你家旁邊的路口傳到幾千公里外的雲端機房,再把分析結果傳回來,中間還要經過各種網路節點轉來轉去…這樣一來一回,就算只是幾十毫秒的延遲,對於需要「即刻反應」的 AI 應用,比如說工廠裡要精密控制的機械手臂、或者自駕車要判斷路況時,每一毫秒都攸關安全與精度,這點延遲都是無法接受的!這是物理距離與網路架構先天上的限制,無法繞過去。

第二個挑戰,是資訊科學跟工程上的考量:「頻寬」與「成本」。
你可以想像網路頻寬就像水管的粗細。隨著高解析影像與感測器數據不斷來回傳送,湧入的資料數據量就像超級大的水流,一下子就把水管塞爆!要避免流量爆炸,你就要一直擴充水管,也就是擴增頻寬,然而這樣的基礎建設成本是很驚人的。如果能在邊緣就先處理,把重要資訊「濃縮」過後再傳回雲端,是不是就能減輕頻寬負擔,也能節省大量費用呢?

第三個挑戰:系統「可靠性」與「韌性」。
如果所有運算都仰賴遠端的雲端時,一旦網路不穩、甚至斷線,那怎麼辦?很多關鍵應用,像是公共安全監控或是重要設備的預警系統,可不能這樣「看天吃飯」啊!邊緣處理讓系統更獨立,就算暫時斷線,本地的 AI 還是能繼續運作與即時反應,這在工程上是非常重要的考量。

所以你看,邊緣運算不是科學家們沒事找事做,它是順應數據特性和實際應用需求,一個非常合理的科學與工程上的最佳化選擇,是我們想要抓住即時數據價值,非走不可的一條路!

邊緣 AI 的實戰魅力:從工廠到倉儲,再到你的工作桌

知道要把 AI 算力搬到邊緣了,接下來的問題就是─邊緣 AI 究竟強在哪裡呢?它強就強在能夠做到「深度感知(Deep Perception)」!

-----廣告,請繼續往下閱讀-----

所謂深度感知,並非僅僅是對數據進行簡單的加加減減,而是透過如深度神經網路這類複雜的 AI 模型,從原始數據裡面,去「理解」出更高層次、更具意義的資訊。

研華科技為例,旗下已有多項邊緣 AI 的實戰應用。以工業瑕疵檢測為例,利用物件偵測模型,快速將工業產品中的瑕疵挑出來,而且由於 AI 模型可以使用同一套參數去檢測,因此品管上能達到一致性,減少人為疏漏。尤其在高產能工廠中,檢測速度必須快、狠、準。研華這套 AI 系統每分鐘最高可處理 8,000 件產品,替工廠節省大量人力,同時確保品質穩定。這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。

這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。/ 圖片提供:研華科技

此外,在智慧倉儲場域,研華與威剛合作,研華與威剛聯手合作,在 MIC-732AO 伺服器上搭載輝達的 Nova Orin 開發平台,打造倉儲系統的 AMR(Autonomous Mobile Robot) 自走車。這跟過去在倉儲系統中使用的自動導引車 AGV 技術不一樣,AMR 不需要事先規劃好路線,靠著感測器偵測,就能輕鬆避開障礙物,識別路線,並且將貨物載到指定地點存放。

當然,還有語言模型的應用。例如結合檢索增強生成 ( RAG ) 跟上下文學習 ( in-context learning ),除了可以做備忘錄跟排程規劃以外,還能將實務上碰到的問題記錄下來,等到之後碰到類似的問題時,就能詢問 AI 並得到解答。

你或許會問,那為什麼不直接使用 ChatGPT 就好了?其實,對許多企業來說,內部資料往往具有高度機密性與商業價值,有些場域甚至連手機都禁止員工帶入,自然無法將資料上傳雲端。對於重視資安,又希望運用 AI 提升效率的企業與工廠而言,自行部署大型語言模型(self-hosted LLM)才是理想選擇。而這樣的應用,並不需要龐大的設備。研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。

但問題也接著浮現:要在這麼小的設備上跑大型 AI 模型,會不會太吃資源?這正是目前 AI 領域最前沿、最火熱的研究方向之一:如何幫 AI 模型進行「科學瘦身」,又不減智慧。接下來,我們就來看看科學家是怎麼幫 AI 減重的。

-----廣告,請繼續往下閱讀-----

語言模型瘦身術之一:量化(Quantization)—用更精簡的數位方式來表示知識

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。這其實跟圖片壓縮有點像:有些畫面細節我們肉眼根本看不出來,刪掉也不影響整體感覺,卻能大幅減少檔案大小。

模型量化的原理也是如此,只不過對象是模型裡面的參數。這些參數原先通常都是以「浮點數」表示,什麼是浮點數?其實就是你我都熟知的小數。舉例來說,圓周率是個無窮不循環小數,唸下去就會是3.141592653…但實際運算時,我們常常用 3.14 或甚至直接用 3,也能得到夠用的結果。降低模型參數中浮點數的精度就是這個意思! 

然而,量化並不是那麼容易的事情。而且實際上,降低精度多少還是會影響到模型表現的。因此在設計時,工程師會精密調整,確保效能在可接受範圍內,達成「瘦身不減智」的目標。

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。/ 圖片來源:MotionArray

模型剪枝(Model Pruning)—基於重要性的結構精簡

建立一個 AI 模型,其實就是在搭建一整套類神經網路系統,並訓練類神經元中彼此關聯的參數。然而,在這麼多參數中,總會有一些參數明明佔了一個位置,卻對整體模型沒有貢獻。既然如此,不如果斷將這些「冗餘」移除。

這就像種植作物的時候,總會雜草叢生,但這些雜草並不是我們想要的作物,這時候我們就會動手清理雜草。在語言模型中也會有這樣的雜草存在,而動手去清理這些不需要的連結參數或神經元的技術,就稱為 AI 模型的模型剪枝(Model Pruning)。

-----廣告,請繼續往下閱讀-----

模型剪枝的效果,大概能把100變成70這樣的程度,說多也不是太多。雖然這樣的縮減對於提升效率已具幫助,但若我們要的是一個更小幾個數量級的模型,僅靠剪枝仍不足以應對。最後還是需要從源頭著手,採取更治本的方法:一開始就打造一個很小的模型,並讓它去學習大模型的知識。這項技術被稱為「知識蒸餾」,是目前 AI 模型壓縮領域中最具潛力的方法之一。

知識蒸餾(Knowledge Distillation)—讓小模型學習大師的「精髓」

想像一下,一位經驗豐富、見多識廣的老師傅,就是那個龐大而強悍的 AI 模型。現在,他要培養一位年輕學徒—小型 AI 模型。與其只是告訴小型模型正確答案,老師傅 (大模型) 會更直接傳授他做判斷時的「思考過程」跟「眉角」,例如「為什麼我會這樣想?」、「其他選項的可能性有多少?」。這樣一來,小小的學徒模型,用它有限的「腦容量」,也能學到老師傅的「智慧精髓」,表現就能大幅提升!這是一種很高級的訓練技巧,跟遷移學習有關。

舉個例子,當大型語言模型在收到「晚餐:鳳梨」這組輸入時,它下一個會接的詞語跟機率分別為「炒飯:50%,蝦球:30%,披薩:15%,汁:5%」。在知識蒸餾的過程中,它可以把這套機率表一起教給小語言模型,讓小語言模型不必透過自己訓練,也能輕鬆得到這個推理過程。如今,許多高效的小型語言模型正是透過這項技術訓練而成,讓我們得以在資源有限的邊緣設備上,也能部署愈來愈強大的小模型 AI。

但是!即使模型經過了這些科學方法的優化,變得比較「苗條」了,要真正在邊緣環境中處理如潮水般湧現的資料,並且高速、即時、穩定地運作,仍然需要一個夠強的「引擎」來驅動它們。也就是說,要把這些經過科學千錘百鍊、但依然需要大量計算的 AI 模型,真正放到邊緣的現場去發揮作用,就需要一個強大的「硬體平台」來承載。

-----廣告,請繼續往下閱讀-----

邊緣 AI 的強心臟:SKY-602E3 的三大關鍵

像研華的 SKY-602E3 塔式 GPU 伺服器,就是扮演「邊緣 AI 引擎」的關鍵角色!那麼,它到底厲害在哪?

一、核心算力
它最多可安裝 4 張雙寬度 GPU 顯示卡。為什麼 GPU 這麼重要?因為 GPU 的設計,天生就擅長做「平行計算」,這正好就是 AI 模型裡面那種海量數學運算最需要的!

你想想看,那麼多數據要同時處理,就像要請一大堆人同時算數學一樣,GPU 就是那個最有效率的工具人!而且,有多張 GPU,代表可以同時跑更多不同的 AI 任務,或者處理更大流量的數據。這是確保那些科學研究成果,在邊緣能真正「跑起來」、「跑得快」、而且「能同時做更多事」的物理基礎!

二、工程適應性——塔式設計。
邊緣環境通常不是那種恆溫恆濕的標準機房,有時是在工廠角落、辦公室一隅、或某個研究實驗室。這種塔式的機箱設計,體積相對緊湊,散熱空間也比較好(這對高功耗的 GPU 很重要!),部署起來比傳統機架式伺服器更有彈性。這就是把高性能計算,進行「工程化」,讓它能適應台灣多樣化的邊緣應用場景。

三、可靠性
SKY-602E3 用的是伺服器等級的主機板、ECC 糾錯記憶體、還有備援電源供應器等等。這些聽起來很硬的規格,背後代表的是嚴謹的工程可靠性設計。畢竟在邊緣現場,系統穩定壓倒一切!你總不希望 AI 分析跑到一半就掛掉吧?這些設計確保了部署在現場的 AI 系統,能夠長時間、穩定地運作,把實驗室裡的科學成果,可靠地轉化成實際的應用價值。

-----廣告,請繼續往下閱讀-----
研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。/ 圖片提供:研華科技

台灣製造 × 在地智慧:打造專屬的邊緣 AI 解決方案

研華科技攜手八維智能,能幫助企業或機構提供客製化的AI解決方案。他們的技術能力涵蓋了自然語言處理、電腦視覺、預測性大數據分析、全端軟體開發與部署,及AI軟硬體整合。

無論是大小型語言模型的微調、工業瑕疵檢測的模型訓練、大數據分析,還是其他 AI 相關的服務,都能交給研華與八維智能來協助完成。他們甚至提供 GPU 與伺服器的租借服務,讓企業在啟動 AI 專案前,大幅降低前期投入門檻,靈活又實用。

台灣有著獨特的產業結構,從精密製造、城市交通管理,到因應高齡化社會的智慧醫療與公共安全,都是邊緣 AI 的理想應用場域。更重要的是,這些情境中許多關鍵資訊都具有高度的「時效性」。像是產線上的一處異常、道路上的突發狀況、醫療設備的即刻警示,這些都需要分秒必爭的即時回應。

如果我們還需要將數據送上雲端分析、再等待回傳結果,往往已經錯失最佳反應時機。這也是為什麼邊緣 AI,不只是一項技術創新,更是一條把尖端 AI 科學落地、真正發揮產業生產力與社會價值的關鍵路徑。讓數據在生成的那一刻、在事件發生的現場,就能被有效的「理解」與「利用」,是將數據垃圾變成數據黃金的賢者之石!

👉 更多研華Edge AI解決方案
👉 立即申請Server租借

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

0
0

文字

分享

0
0
0
萬事都要拖到死線!拖延症到底有沒有藥醫?
郭 宜蓁
・2019/05/29 ・2557字 ・閱讀時間約 5 分鐘 ・SR值 450 ・四年級

-----廣告,請繼續往下閱讀-----

作業期限在星期四晚上的 23:59,今天才星期一,還早啦。
咦!突然就星期三了,好像該來做作業了,可是好像還是沒有靈感,不如等睡醒之後再來做吧。
糟糕了,剩下兩小時,靈感該來了吧⋯⋯
最後終於趕在時限前完成,一天又平安的過去了,感謝飛天小女警的努力(?)

不是啊,這樣的生活也太辛苦了吧!

飛天小女警。圖/wikimedia

對於該完成的事情,我們本來就會有先後順序的調配與取捨,但倘若一味推延應該要完成的正事時,便會形成「拖延行為」。
以下這些拖延行為,你有覺得很熟悉嗎(中箭):

  • 同時接下太多任務,無法一次完成而導致拖延
  • 以為自己還有時間,晚一點再做也沒關係,結果到截止前才開始動工
  • 當其他更有趣的事情出現,就會先放下手邊的事,結果忘記自己還在進行的任務
  • 對於有壓力的事,能拖就拖,寧可一直拖延來逃避,就像是⋯⋯文章就是寫不出來啊啊啊啊啊QAQ

拖延行為對大家的生活造成許多不便,像是在小組報告遇見會拖延的雷隊友,真的會覺得很崩潰。既然拖延行為這麼讓人討厭,我們到底該如何解決呢?要解決拖延行為太困難了,不如解決產生拖延行為的人吧!(不可以啊!)

要解決拖延行為太困難了,不如解決產生拖延行為的人吧!圖/giphy

-----廣告,請繼續往下閱讀-----

2014 年曾有研究在探討「拖延是衝動的演化副產物」——研究指出拖延、衝動皆與成功追求和權衡目標的能力有關,也可以這麼解釋:當我們被衝動驅使追逐眼前利益時,我們很容易就放棄了那些遠期目標,於是就開始拖延了。

而除了演化上的因素,造就拖延的心理也可能來自其他原因,就讓我們娓娓道來吧。

追求完美反而裹足不前?

讀者們在看到完美主義時,或許會覺得這個原因很奇怪、很難把拖延行為連結到完美主義。可能有人會想說:既然都是完美主義了,怎麼還會拖延呢?

如果帶著追求完美與精準確實的心態將事務完成,結果通常挺不錯的,但是這些「完美」是怎麼來的呢?「完美」的評語通常來自於他人眼光與自我評價,而追求完美者的糾結點在於:要不就做到最好,要不就不要做,可是要做到毫無缺點是不可能的,所以乾脆不要做吧?(不行!)

-----廣告,請繼續往下閱讀-----

在完美的眼光下掙扎、被所謂的十全十美綁架,什麼都不去做,就只會停滯在原點,試著往前踏出一步,雖然過程不是那麼容易、前行的步伐不大,但是里程數也漸漸在累積了。

不要執著於完美,先踏出第一步吧!圖/pixabay

把時間視覺化,讓時間的感覺具體化

在時間管理上,我們很可能遇到以下兩種問題:一是不知道要抓多久的時間,以為自己只要花 3 個小時就能完成的任務,實際上卻要花了 5 小時才完成;另一是不知道截止時間已近在眼前,有時候拖延一下,不小心就只剩下 2 小時了,這時候才開始緊張就來不及了呀!

這些問題反映出我們對於規劃自己的時間其實並不熟悉,那麼,這該怎麼解決呢?可以嘗試提前預估自己完成任務所需的時間,一方面可以控管自己的效率,同時了解自己到底需要花多少時間才能完成任務。除此之外,同時將計畫視覺化、物象化(例如使用行事曆做紀錄)也能夠將時間呈現眼前,進而讓自己知道所剩時間其實並不如想像中多。

-----廣告,請繼續往下閱讀-----

將時間用視覺化方式呈現,可以讓你更明確知道剩下多少時間。圖/CC BY-SA 3.0, wikimedia commons

任務太大塊、無法一口吃,那就多切幾刀慢慢吃

接下的任務範圍過大、不知道該從何開始時,可能也會讓我們卻步、逃避,總是要在時間逼近時才要動作,偏偏這時再來後悔就來不及了。那麼,不如分割這些壓力吧。就像在夜市買了好多好吃的小吃,很想要馬上吃下肚裡,但我們的嘴也就這麼大的空間,總不可能一口吞下吧。

而我們的任務也是這樣,就像筆者在寫這篇文章的時侯,不知該要從何寫起,就先分段列出各個想告訴讀者的細項,再逐一擊破,文章就生出來了唷!(嗚嗚⋯⋯是感動的淚水)

前段提到將計畫視覺化、物象化,除了能夠將時間呈現眼前之外,任務一一被列出時,還能對自己規劃的任務做複習與整合,同時幫助記憶、知道自己該做哪些事情。不過到底是手寫行事曆好,還是用 APP 記錄比較好呢?無論使用哪種媒介進行記錄,重要的還是整合與複習,才能夠記下自己當下應該要完成的事。

-----廣告,請繼續往下閱讀-----

如果覺得任務太大,那就切成小塊的再逐一擊破。圖/pixabay

大家都會拖,但怎麼面對很重要

還有些人之所以想要拖延,是因為覺得拖到最後一刻比較有靈感,總要到期限之前才會靈感大爆發。面對期限的恐懼、緊張很有可能讓腎上腺素爆發,但是,實際上是否真能做得比較好也不一定,因為最後的成果也只是當下能完成的「最好」,不見得是我們真正能做到的「最好」。除此之外,就像上面提到的完美主義,從另一個角度來看,當拖延到最後一刻才開始動工完成,拖延者可能就更有理由解釋自己做得不夠完美是來自於時間不夠充分。

所以在面對自己拖延行為時,儘管逃避雖然可恥但是有用(?),不過只是一味因為焦慮而想要逃避,讓自己的狀態停滯不前,就完全不會有所改變,真的想要解決焦慮,不如勇於嘗試,真正實踐的時候也就不會那麼困難了。

現在就做!不要一直說「等一下」。圖/pixabay

-----廣告,請繼續往下閱讀-----

你是不是也總在拖延與後悔中掙扎呢?與其花時間思考該如何合理化自己的拖延行為,不如試試往前踏出一步。在我們學會走路之前,也一定經歷過跌跌撞撞,就連現在學會走路了都還是有可能會摔倒,沒有人不跌倒,但如何面對自己的跌倒才是更重要的,也可以造樣造句:

沒有人不拖延,但如何面對自己的拖延才是更重要的!

-----廣告,請繼續往下閱讀-----
郭 宜蓁
11 篇文章 ・ 0 位粉絲
輔大心理系畢業,面對未知世界,選擇用科學方式碰觸、感受,再用內化後的框架去結構、詮釋所感知的世界。

0

0
0

文字

分享

0
0
0
就是要拖到最後一刻!面對報稅這檔討厭事,科學怎麼說?
Lea Tang
・2019/05/28 ・2118字 ・閱讀時間約 4 分鐘 ・SR值 506 ・六年級

編按:又到了五月報稅季,你報完了嗎?這件事明明是公民的義務,但為什麼這麼讓人厭惡啊?本篇將為你解釋各種牽扯到「稅」的心理感受,一起來了解!

不到臨頭不繳稅,多拿一刻是一刻

人們實在很討厭繳稅。那感覺就像冰淇淋被老媽要求得分給弟妹幾口,超無奈又委屈。既然冰一定要分享,不如先放在自己嘴裡,等弟妹哭鬧的前一秒再塞他嘴巴(?

對於很多人繳稅也是一樣的概念,既然一定得繳,那不如拖到最後一刻,更有種賺到的勝利感。

拖,就贏了。圖/fairchild

為何人們老愛延遲繳稅?都是演化惹的禍

你可能覺得很奇怪,既然我們不可能不繳稅,那為什麼還要一直拖拖拖?

-----廣告,請繼續往下閱讀-----

這就不得不說到「拖延」的心理。臨床心理學家亞歷山大.羅森塔爾 (Alexander Rozental) 把拖延行為分成四大類:期望價值時間衝動。人們會因對某些任務沒有期待、或認為自己無法獲得期望中的價值而拖延;有些人覺得成果離他們太遙遠,或單純只是因為他們的個性較衝動所以會拖延。

我們不可能不繳稅,但我們可以選擇拖延 。圖/pxhere

等等,個性衝動卻更容易拖延?這聽起來有點兒矛盾啊?雖然乍看有些奇怪,但長期以來,心理學家發現到衝動的人更容易拖延,而拖延者很可能較衝動【註】。而這兩者間的關聯,是深深刻在我們的基因中的。

如果考慮到演化的歷程,那麼,基因讓我們衝動其實是非常合理的事情,我們的祖先天天要面對各種危險,當然要把握當下。不過,這項特質放到現在可就不那麼適合了。假設我們一味衝動,只專注眼下的利益而忽略了尚在未來的截止期限,則可能會帶來負面的影響與結果:因缺乏謀略而導致計畫失敗、被上司嫌棄,最後丟了工作。

-----廣告,請繼續往下閱讀-----

天啊!我們的拖延難道注定無法更改嗎?並不是的。研究者也發現到,如果衝動的受試者嘗試將眼光放到未來的獎勵上(例:升遷、加薪、學位)那他們比較能夠對抗自己的拖延傾向。

那不只是我的錢!更是我被剝奪的尊嚴啊!

不過,說到了有關繳稅的拖延,或許不只基因這麼簡單,而是跟「價值」與「期望」有關。人們可能因為覺得繳稅沒價值、對這個行為沒有任何期待,才一直拖到最後一刻。

那不是稅,是我被剝奪的尊嚴啊!圖/flickr

美國北伊利諾大學與加州大學的共同研究似乎可以作為參考:他們訪問了 24 名商人後發現,對中產階級的人們來說,稅收是一種剝奪公民尊嚴的手段。稅收剝奪了認真上進的中產階級者的尊嚴,卻獎勵那些富有和貧困的人。

-----廣告,請繼續往下閱讀-----

他們認為所得稅違反了應該獎勵認真工作的道德原則,更有受訪者表示,稅應該從任何地方徵收都行,就是別從薪水裡扣!

多繳退錢好扼腕,少退反而更傷心

把錢從我們的口袋裡掏出來的確很讓人難受,但有趣的是,退稅也不見得會讓你更開心喔。

當稅收超徵時便會退稅。根據美國 2019 年的統計:81.8% 的民眾多繳了稅金,平均會收到三千塊美金的退稅。這時,大多數人可能會感到扼腕,因為覺得這些錢本來可以拿去做其他更好的用途。欸欸,那退少一點呢?唉,退少一點也不行;當隔年收到的退稅金額少於前年時,我們會變得更不開心。

今年怎麼少退了?圖/staticflickr

-----廣告,請繼續往下閱讀-----

產生這種心理的最主要可能原因為:

這種意外之財是可看見的,並且超有感。

它不僅僅是財務上的意外收穫,更提供了正向的情緒波動,這種被獎勵的感覺可以抵消不能早點收回資金的機會成本。比起錢沒被好好運用,現在多拿的感覺更快樂,所以能退就多退!

 嗯所以到底是讓人少繳點好?還是多退點好?

經過上面的統整,現在有個問題要讓大家想想:今天政府決定以減稅 10% 或退稅 10% 來刺激消費,哪種較能刺激經濟?

圖/torange

-----廣告,請繼續往下閱讀-----

首先分別說明這兩個名詞。減稅,是指讓民眾直接少繳部分稅費;退稅,則是事後退還納稅人繳交的部分稅金。兩種方式收的稅都一樣,但退稅卻比減稅更能刺激消費。經濟學教授理查.泰勒以「心理帳戶」來說明這種現象。

人們習慣依金錢的由來、存放的地方或使用的方式,來決定金錢的分類和處理。

今天少收的稅金會被認為是自己應得的,要做原先的儲蓄規劃;而退稅則被理解為意外之財,更容易拿來花用。就像花錢,我們更傾向於花「獎金」而非「薪水」。

雖然繳稅會帶來各種心理糾結,但還是要提醒大家:該繳的稅要記得繳,可別一不小心就拖過了最後期限喔!

【註】:Genetic Relations Among Procrastination, Impulsivity, and Goal-Management Ability: Implications for the Evolutionary Origin of Procrastination

參考資料:

-----廣告,請繼續往下閱讀-----
  1. Why Americans Hate Paying Taxes
  2. Procrastinating on those taxes? Blame your genes
  3. Why Do People Like Getting Tax Refunds?
  4. 人為什麼會拖延?心理學家教你解決策略
  5. 同樣一筆錢,為什麼「獎金」比「薪水」更容易花掉?
  6. 拖延是衝動的演化副產物
  7. Mental accounting
-----廣告,請繼續往下閱讀-----
Lea Tang
20 篇文章 ・ 9 位粉絲
徜徉在極北之海的浪漫主義者。 喜歡鯨豚、地科、文學和貓。