一指認災：數位科技對於人道救援的新突破

本文與 研華科技 合作，泛科學企劃執行。

每次 NVIDIA 執行長黃仁勳公開發言，總能牽動整個 AI 產業的神經。然而，我們不妨設想一個更深層的問題——如今的 AI 幾乎都倚賴網路連線，那如果哪天「網路斷了」，會發生什麼事？

想像你正在自駕車打個盹，系統突然警示：「網路連線中斷」，車輛開始偏離路線，而前方竟是萬丈深谷。又或者家庭機器人被駭，開始暴走跳舞，甚至舉起刀具向你走來。

這會是黃仁勳期待的未來嗎？當然不是！也因為如此，「邊緣 AI」成為業界關注重點。不靠雲端，AI 就能在現場即時反應，不只更安全、低延遲，還能讓數據當場變現，不再淪為沉沒成本。

什麼是邊緣 AI ？

邊緣 AI，乍聽之下，好像是「孤單站在角落的人工智慧」，但事實上，它正是我們身邊最可靠、最即時的親密數位夥伴呀。

當前，像是企業、醫院、學校內部的伺服器，個人電腦，甚至手機等裝置，都可以成為「邊緣節點」。當數據在這些邊緣節點進行運算，稱為邊緣運算；而在邊緣節點上運行 AI ，就被稱為邊緣 AI。簡單來說，就是將原本集中在遠端資料中心的運算能力，「搬家」到更靠近數據源頭的地方。

那麼，為什麼需要這樣做？資料放在雲端，集中管理不是更方便嗎？對，就是不好。

第一個不好是物理限制：「延遲」。
即使光速已經非常快，數據從你家旁邊的路口傳到幾千公里外的雲端機房，再把分析結果傳回來，中間還要經過各種網路節點轉來轉去…這樣一來一回，就算只是幾十毫秒的延遲，對於需要「即刻反應」的 AI 應用，比如說工廠裡要精密控制的機械手臂、或者自駕車要判斷路況時，每一毫秒都攸關安全與精度，這點延遲都是無法接受的！這是物理距離與網路架構先天上的限制，無法繞過去。

第二個挑戰，是資訊科學跟工程上的考量：「頻寬」與「成本」。
你可以想像網路頻寬就像水管的粗細。隨著高解析影像與感測器數據不斷來回傳送，湧入的資料數據量就像超級大的水流，一下子就把水管塞爆！要避免流量爆炸，你就要一直擴充水管，也就是擴增頻寬，然而這樣的基礎建設成本是很驚人的。如果能在邊緣就先處理，把重要資訊「濃縮」過後再傳回雲端，是不是就能減輕頻寬負擔，也能節省大量費用呢？

第三個挑戰：系統「可靠性」與「韌性」。
如果所有運算都仰賴遠端的雲端時，一旦網路不穩、甚至斷線，那怎麼辦？很多關鍵應用，像是公共安全監控或是重要設備的預警系統，可不能這樣「看天吃飯」啊！邊緣處理讓系統更獨立，就算暫時斷線，本地的 AI 還是能繼續運作與即時反應，這在工程上是非常重要的考量。

所以你看，邊緣運算不是科學家們沒事找事做，它是順應數據特性和實際應用需求，一個非常合理的科學與工程上的最佳化選擇，是我們想要抓住即時數據價值，非走不可的一條路！

邊緣 AI 的實戰魅力：從工廠到倉儲，再到你的工作桌

知道要把 AI 算力搬到邊緣了，接下來的問題就是─邊緣 AI 究竟強在哪裡呢？它強就強在能夠做到「深度感知（Deep Perception）」！

所謂深度感知，並非僅僅是對數據進行簡單的加加減減，而是透過如深度神經網路這類複雜的 AI 模型，從原始數據裡面，去「理解」出更高層次、更具意義的資訊。

以研華科技為例，旗下已有多項邊緣 AI 的實戰應用。以工業瑕疵檢測為例，利用物件偵測模型，快速將工業產品中的瑕疵挑出來，而且由於 AI 模型可以使用同一套參數去檢測，因此品管上能達到一致性，減少人為疏漏。尤其在高產能工廠中，檢測速度必須快、狠、準。研華這套 AI 系統每分鐘最高可處理 8,000 件產品，替工廠節省大量人力，同時確保品質穩定。這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。

此外，在智慧倉儲場域，研華與威剛合作，研華與威剛聯手合作，在 MIC-732AO 伺服器上搭載輝達的 Nova Orin 開發平台，打造倉儲系統的 AMR（Autonomous Mobile Robot） 自走車。這跟過去在倉儲系統中使用的自動導引車 AGV 技術不一樣，AMR 不需要事先規劃好路線，靠著感測器偵測，就能輕鬆避開障礙物，識別路線，並且將貨物載到指定地點存放。

當然，還有語言模型的應用。例如結合檢索增強生成 ( RAG ) 跟上下文學習 ( in-context learning )，除了可以做備忘錄跟排程規劃以外，還能將實務上碰到的問題記錄下來，等到之後碰到類似的問題時，就能詢問 AI 並得到解答。

你或許會問，那為什麼不直接使用 ChatGPT 就好了？其實，對許多企業來說，內部資料往往具有高度機密性與商業價值，有些場域甚至連手機都禁止員工帶入，自然無法將資料上傳雲端。對於重視資安，又希望運用 AI 提升效率的企業與工廠而言，自行部署大型語言模型（self-hosted LLM）才是理想選擇。而這樣的應用，並不需要龐大的設備。研華的 SKY-602E3 塔式 GPU 伺服器，體積僅如後背包大小，卻能輕鬆支援語言模型的運作，實現高效又安全的 AI 解決方案。

但問題也接著浮現：要在這麼小的設備上跑大型 AI 模型，會不會太吃資源？這正是目前 AI 領域最前沿、最火熱的研究方向之一：如何幫 AI 模型進行「科學瘦身」，又不減智慧。接下來，我們就來看看科學家是怎麼幫 AI 減重的。

語言模型瘦身術之一：量化（Quantization）—用更精簡的數位方式來表示知識

當硬體資源有限，大模型卻越來越龐大，「幫模型減肥」就成了邊緣 AI 的重要課題。這其實跟圖片壓縮有點像：有些畫面細節我們肉眼根本看不出來，刪掉也不影響整體感覺，卻能大幅減少檔案大小。

模型量化的原理也是如此，只不過對象是模型裡面的參數。這些參數原先通常都是以「浮點數」表示，什麼是浮點數？其實就是你我都熟知的小數。舉例來說，圓周率是個無窮不循環小數，唸下去就會是3.141592653…但實際運算時，我們常常用 3.14 或甚至直接用 3，也能得到夠用的結果。降低模型參數中浮點數的精度就是這個意思！ 

然而，量化並不是那麼容易的事情。而且實際上，降低精度多少還是會影響到模型表現的。因此在設計時，工程師會精密調整，確保效能在可接受範圍內，達成「瘦身不減智」的目標。

模型剪枝（Model Pruning）—基於重要性的結構精簡

建立一個 AI 模型，其實就是在搭建一整套類神經網路系統，並訓練類神經元中彼此關聯的參數。然而，在這麼多參數中，總會有一些參數明明佔了一個位置，卻對整體模型沒有貢獻。既然如此，不如果斷將這些「冗餘」移除。

這就像種植作物的時候，總會雜草叢生，但這些雜草並不是我們想要的作物，這時候我們就會動手清理雜草。在語言模型中也會有這樣的雜草存在，而動手去清理這些不需要的連結參數或神經元的技術，就稱為 AI 模型的模型剪枝（Model Pruning）。

模型剪枝的效果，大概能把100變成70這樣的程度，說多也不是太多。雖然這樣的縮減對於提升效率已具幫助，但若我們要的是一個更小幾個數量級的模型，僅靠剪枝仍不足以應對。最後還是需要從源頭著手，採取更治本的方法：一開始就打造一個很小的模型，並讓它去學習大模型的知識。這項技術被稱為「知識蒸餾」，是目前 AI 模型壓縮領域中最具潛力的方法之一。

知識蒸餾（Knowledge Distillation）—讓小模型學習大師的「精髓」

想像一下，一位經驗豐富、見多識廣的老師傅，就是那個龐大而強悍的 AI 模型。現在，他要培養一位年輕學徒—小型 AI 模型。與其只是告訴小型模型正確答案，老師傅 (大模型) 會更直接傳授他做判斷時的「思考過程」跟「眉角」，例如「為什麼我會這樣想？」、「其他選項的可能性有多少？」。這樣一來，小小的學徒模型，用它有限的「腦容量」，也能學到老師傅的「智慧精髓」，表現就能大幅提升！這是一種很高級的訓練技巧，跟遷移學習有關。

舉個例子，當大型語言模型在收到「晚餐：鳳梨」這組輸入時，它下一個會接的詞語跟機率分別為「炒飯：50%，蝦球：30%，披薩：15%，汁：5%」。在知識蒸餾的過程中，它可以把這套機率表一起教給小語言模型，讓小語言模型不必透過自己訓練，也能輕鬆得到這個推理過程。如今，許多高效的小型語言模型正是透過這項技術訓練而成，讓我們得以在資源有限的邊緣設備上，也能部署愈來愈強大的小模型 AI。

但是！即使模型經過了這些科學方法的優化，變得比較「苗條」了，要真正在邊緣環境中處理如潮水般湧現的資料，並且高速、即時、穩定地運作，仍然需要一個夠強的「引擎」來驅動它們。也就是說，要把這些經過科學千錘百鍊、但依然需要大量計算的 AI 模型，真正放到邊緣的現場去發揮作用，就需要一個強大的「硬體平台」來承載。

邊緣 AI 的強心臟：SKY-602E3 的三大關鍵

像研華的 SKY-602E3 塔式 GPU 伺服器，就是扮演「邊緣 AI 引擎」的關鍵角色！那麼，它到底厲害在哪？

一、核心算力
它最多可安裝 4 張雙寬度 GPU 顯示卡。為什麼 GPU 這麼重要？因為 GPU 的設計，天生就擅長做「平行計算」，這正好就是 AI 模型裡面那種海量數學運算最需要的！

你想想看，那麼多數據要同時處理，就像要請一大堆人同時算數學一樣，GPU 就是那個最有效率的工具人！而且，有多張 GPU，代表可以同時跑更多不同的 AI 任務，或者處理更大流量的數據。這是確保那些科學研究成果，在邊緣能真正「跑起來」、「跑得快」、而且「能同時做更多事」的物理基礎！

二、工程適應性——塔式設計。
邊緣環境通常不是那種恆溫恆濕的標準機房，有時是在工廠角落、辦公室一隅、或某個研究實驗室。這種塔式的機箱設計，體積相對緊湊，散熱空間也比較好（這對高功耗的 GPU 很重要！），部署起來比傳統機架式伺服器更有彈性。這就是把高性能計算，進行「工程化」，讓它能適應台灣多樣化的邊緣應用場景。

三、可靠性
SKY-602E3 用的是伺服器等級的主機板、ECC 糾錯記憶體、還有備援電源供應器等等。這些聽起來很硬的規格，背後代表的是嚴謹的工程可靠性設計。畢竟在邊緣現場，系統穩定壓倒一切！你總不希望 AI 分析跑到一半就掛掉吧？這些設計確保了部署在現場的 AI 系統，能夠長時間、穩定地運作，把實驗室裡的科學成果，可靠地轉化成實際的應用價值。

台灣製造 × 在地智慧：打造專屬的邊緣 AI 解決方案

研華科技攜手八維智能，能幫助企業或機構提供客製化的AI解決方案。他們的技術能力涵蓋了自然語言處理、電腦視覺、預測性大數據分析、全端軟體開發與部署，及AI軟硬體整合。

無論是大小型語言模型的微調、工業瑕疵檢測的模型訓練、大數據分析，還是其他 AI 相關的服務，都能交給研華與八維智能來協助完成。他們甚至提供 GPU 與伺服器的租借服務，讓企業在啟動 AI 專案前，大幅降低前期投入門檻，靈活又實用。

台灣有著獨特的產業結構，從精密製造、城市交通管理，到因應高齡化社會的智慧醫療與公共安全，都是邊緣 AI 的理想應用場域。更重要的是，這些情境中許多關鍵資訊都具有高度的「時效性」。像是產線上的一處異常、道路上的突發狀況、醫療設備的即刻警示，這些都需要分秒必爭的即時回應。

如果我們還需要將數據送上雲端分析、再等待回傳結果，往往已經錯失最佳反應時機。這也是為什麼邊緣 AI，不只是一項技術創新，更是一條把尖端 AI 科學落地、真正發揮產業生產力與社會價值的關鍵路徑。讓數據在生成的那一刻、在事件發生的現場，就能被有效的「理解」與「利用」，是將數據垃圾變成數據黃金的賢者之石！

👉 更多研華Edge AI解決方案
👉 立即申請Server租借

出國旅行除了肢體語言的即時翻譯選擇！

今天要來分享最新的 AI 翻譯蒟蒻，之前我朋友要去法國參加研討會，但他不只不懂法文，連英文都不太行，所以他就來問我，有沒有什麼好用的 AI 即時翻譯？

我說沒有，結果他從法國回來後，反過來跟我分享了他實測各種翻譯 APP 的心得，其中一個我體驗完還真的覺得不錯用啊！

所以今天的影片我想要來跟你分享三件事：

1. 簡單聊一下 AI 語音識別的發展
2. 朋友大推的 Litok 翻譯 APP 的功能介紹
3. 最近超流行的 AirChat 空氣聊天室可以怎麼玩

最後，想問大家有沒有用過其他超好用的翻譯工具呢？

1. 我覺得 Litok 真是天降神物我下次英文會議馬上試用
2. 假的，都是假的，我還是靠自己的金耳朵實在
3. 身為工程師，自己用 Whisper 模型做的才好用
4. 其他也可以留言分享喔

如果，有其他想看的 AI 工具測試或相關問題，也可以留言發問

更多、更完整的內容，歡迎上泛科學院的 youtube 頻道觀看完整影片，並開啟訂閱獲得更多有趣的資訊！

前言：泛科學臉書粉專推廣〈在臺海危機下，淺談戰地醫療〉時，讀者們熱情分享檢傷分類經驗，與急救課程資訊。事後更有國軍弟兄私訊筆者，表示對相關中文資料的迫切需求。有別於先前介紹戰時的醫療制度與創傷急救，本文摘譯知名期刊《The Lancet》（中譯「刺胳針」或「柳葉刀」）的附屬刊物，概述俄烏戰爭中，烏克蘭承受的公衛挑戰；並分享俄裔美國心理學家 Elena Cherepanov 對當地心理健康應變的觀察。同時，再次歡迎大家提供更多專業資訊，討論臺灣應該如何備戰，謝謝。

公衛挑戰

疾病給烏克蘭帶來的負擔，在承平時期並沒有特別沉重。然而，俄烏戰爭不僅重擊當地醫療體系；難民的文化差異和語言隔閡，以及物資與藥品不足等，也造成周邊國家的壓力。戰爭期間，聯合國（UN）、世界衛生組織（WHO）、紅十字會（Red Cross）、明愛（Caritas）等單位，紛紛在當地和鄰國展開救援。學者訪談烏克蘭等多個歐洲國家的政府部門與民間組織，統整出一張俄烏戰爭的公衛挑戰清單：^[1]

• 產科照顧：對孕婦產前、生產和產後，以及新生兒的照顧，都被戰火打斷。^[1]
• 婦幼營養：食物、營養品，還有金錢的流通受阻，以致婦女與孩童營養不良。^[1]
• 長期處方：心血管疾病、糖尿病等慢性病，以及肺結核和愛滋病等既有的感染，不見得能夠獲得穩定的藥物供給，與即時的專業協助。^[1]
• 冷冽天候和長途跋涉：在嚴寒中逃難，容易造成肺炎、凍瘡、失溫，以及上呼吸道感染。需要庇護所、衣物和毛毯。^[1]
• 身體創傷急救：欠缺醫療器材和物資補給。人力方面，則得訓練社區志工，進行檢傷分類和急救。^[1]
• 精神創傷急救：除了土生土長的當地人，有些敘利亞、伊拉克和阿富汗難民，於俄烏戰爭中受到二次精神傷害。跨文化的精神健康服務，變得格外重要。^[1]
• 疫苗普及：當地COVID-19疫苗與兒童常規疫苗接種率偏低，而逃難的人口中，九成是婦女和兒童。^[1]
• 潔淨水源：缺乏安全的用水，難以防範傳染病的爆發。^[1]
• 性暴力與性販賣：須要保護機制、心理社會支持與女性衛生用品包（dignity kits）；以及生殖健康、安全墮胎和家暴處理等服務。^[1]

心理創傷

戰爭會帶來長期，甚至跨世代的心理傷害。^[2]出生於俄羅斯的心理學家 Elena Cherepanov，長年任教於美國，專攻心理創傷。曾於 2014 年烏克蘭東部戰亂時，透過 Skype 指導 170 名基輔與烏東的心理學家、心理健康工作者、社工人員與心理系學生。^[3]2022 年 2 月 23 日晚間，俄軍入侵烏克蘭。^[4]Cherepanov 博士在 11 月的《公衛前沿》（Frontiers in Public Health）期刊上，分享自己對戰爭的觀察。她將烏克蘭民眾在身心反應上的轉變，分為下列幾個時期：^[2]

1. 戰爭初期：基於歷史、文化、宗教和血脈的淵源，烏克蘭民眾難以接受鄰國入侵的事實，覺得慘遭背叛。^[2]性侵女性、綁架兒童，以及系統性安全檢查，蒐集個資，再強迫難民遷徙的過濾營（filtration camps）等，種族滅絕的事件頻傳。經由媒體報導，引來國際的同情與支持。^{[2, 5]}同時，手機和社群媒體即時分享的功能，雖能維繫人與人的連結，卻也帶來資訊真偽難辨的混亂。網路論壇中，起先充斥驚愕、顫抖、無法置信之類的留言。接著，當難民逐漸抵達鄰近友邦，依然持續哭泣、失眠、做惡夢。在高度警戒的狀態下，有些人拒絕使用安眠藥。心理衝擊也可能以生理形式呈現，例如：噁心想吐，多半起因於戰時的緊張情緒，而非食物中毒。^[2]
2. 戰爭滿月：到了 3 月底，烏克蘭民眾開始產生對未來的憂慮。失去親人、家園和戰前的生活，精神與情緒疲乏麻木，有些便拒絕前往庇護所。一邊是無法控制的憤怒和躁動，增加家庭衝突；另一邊，又因為不得不拋下被徵召或羸弱的至親，而遺留心靈創傷。目擊殺掠、性侵和虐待，或是與父母分離的兒童，出現依戀問題和行為退化，表現得比真實年齡還幼小。原本乖巧的孩子，也可能變得黏人、冷漠、挑釁或有攻擊性。^[2]
3. 戰爭近期：烏克蘭群眾開始習慣戰爭的狀態，一些長期或原有的問題，例如：酗酒或家庭失和等，又再度浮現。^[2]

在人道危機中，老年人和身心障礙者等族群，面臨減少的援助與增加的阻礙，更是顯得脆弱。一方面害怕離開熟悉的環境，另方面是為了避免成為家人的負擔，他們有些選擇留下來，因而容易喪命於原本能預防的傷害。^[2]

心理健康資源

烏克蘭的心理健康體系，在開戰初期，被突如其來的龐大需求，搞得措手不及。所幸專業人員兩個月內便上了軌道。除了一般面對面的服務，Cherepanov 博士表示，當地還有下列選擇：^[2]

1. 遠距醫療：COVID-19 疫情期間變得普及的遠距科技，正好於戰時派上用場，提供危險地區心理諮詢。^[2]
2. 網路社群：通訊軟體 Telegram 和社交平臺 Facebook上，支持性團體林立。在俄烏戰爭期間，成為烏克蘭人媒合供需，互通有無的重要管道。緊急心理問題的求助貼文，也會引來早就離鄉背井的相關從業人員，即時回覆。有些團體從世界各地，聘僱幾百名通俄語和烏克蘭語的心理工作者，每天答覆 200 至 300 則訊息。也有在 2020 年白羅斯（Belarus；舊譯「白俄羅斯」）政治危機時，成立的臉書社團，用既有的經驗，協助烏克蘭人度過難關。^[2]
3. 聊天機器人：操烏克蘭語、俄語和白羅斯語的聊天機器人 Faino 和 GotoHelp，效益如何還有待評估。^[2]

心理急救

心理急救（Psychological First Aid）是一套用來給予身陷危機者心理支持，加強其調適能力，並滿足基本需求的對策。有別於精神科的臨床技巧，無論是專業醫療人員或一般民眾，都可以學習並執行。^[6]世界衛生組織的心理急救指南，建議大眾注意重大危機事件發生的時間、地點和受難的對象，以及哪些單位參與救援。^[7]在擁有這些認知的前提下，進行下列心理急救的步驟：

1. 觀察（look）：在行動前先確認安全，以免自己陷入危險環境。接著，觀察受害者身心的基本需求，然後思考有哪些可運用的相關資源或服務。每個人對危機的反應不同，有些呈現在情緒上，例如：易怒或沮喪；有些則沉默或出現頭疼、疲憊等症狀。兒童、青少年、孕婦、老人、身心障礙者和被歧視的族群，特別需要關照。^[7]
2. 傾聽（listen）：簡單地報上自己的名字，以及所屬的組織。情勢允許的話，將人帶到安全且寧靜的地方。用溫和的語氣，鼓勵他專注於緩慢的呼吸。給予陪伴，別讓情緒低落者獨處。以尊重的態度，全神貫注地聆聽對方的憂慮，試圖釐清需求的優先順序。務必維護對方隱私，不要任意轉述。^[7]
3. 連結（link）：協助受害者獲得水、食物、住所和醫療等資源，並提供局勢與計劃的最新動態。動盪時期的資訊混亂，必要盡可能地查證並隨時更新。切勿為了安撫人心，就擅自捏造。針對特定文化背景及宗教信仰，可轉介給相關社群；或是透過社福單位，協尋親屬，兩者皆能帶來心靈慰藉。^[7]

在結束心理急救的階段性任務後，如果就這麼離開，或許會太突然。要讓受助者理解，接手的專業人士會負責以後的事務。然後選擇適當的時機，與他們道別，並奉上誠摯的祝福。^[7]

烏克蘭經驗

Cherepanov 博士指出，在沒有中央統籌的狀況下，烏克蘭等地的心理健康從業人員，冒著生命危險，自發性地付出，並組織社會資源。他們讓世人看到，唯有喚起大眾對心理創傷的重視，才能強化社會韌性，以及減少對求助的汙名化。必要訓練專業人員、醫療工作者、教師和志工，心理急救的能力；並建立社區型的支援體系，共同分擔責任。^[2]

延伸閱讀

1. 高振傑、蘇逸人（2021）《心理急救手冊》中華民國紅十字會。
2. 「UCLA早期心理急救模式」（2010）災難與創傷心理資訊網。
3. 《紅十字會與紅新月會社會心理急救資源冊》（2018）香港紅十字會與紅新月會。

1. Kumar BN, James R, Hargreaves S, et al. (2022) ‘Meeting the health needs of displaced people fleeing Ukraine: Drawing on existing technical guidance and evidence’. The Lancet Regional Health – Europe.
2. Cherepanov E. (2022) ‘Mental health providers in Ukraine need support but they are not helpless: Professional self-organization and innovative practices’. Frontiers in Public Health, 10:1009431.
3. Smith, K. (2015) ‘Trauma in Ukraine’. Monitor on Psychology, 46(4).
4. United Nations. (17 JAN 2023) ‘The UN and the war in Ukraine: key information’. Regional Information Center for Western Europe.
5. Ochab EU. (30 OCT 2022) ‘What Are Putin’s ‘Filtration Camps’ And Why Are They Concerning?’. Forbes.
6. Schafer A, Snider L, Sammour R. (2016) ‘A reflective learning report about the implementation and impacts of Psychological First Aid (PFA) in Gaza’. Disaster Health, 3(1): 1-10.
7. Snider L, van Ommeren M, Schafer A. (02 OCT 2011) ‘Psychological first aid: Guide for field workers’. World Health Organization.