Loading [MathJax]/extensions/tex2jax.js

0

0
0

文字

分享

0
0
0

學用落差、費用高昂,21 世紀人才到底還要不要讀大學?──2019 教育創新國際年會

Suzuki
・2019/10/23 ・2016字 ・閱讀時間約 4 分鐘 ・SR值 492 ・五年級

現代科技日新月異,每隔幾年就有新工作冒出來,當我們永遠無法把最新的東西給學生時,老師到底要教什麼呢?

因應教育部 108 新課綱上路,《親子天下》2019 教育創新國際年會以「素養深學習」為題,邀請英探策略 (Entangled Solutions) 副董事合夥人 Patrick Erker 和 Google 台灣董事總經理簡立峰,從企業的角度談未來人才的樣貌,以及學校教育的因應對策。

花了這麼多錢讀書,卻沒辦法找到穩定工作?

傳統上來說,我們傾向用學歷或工作經歷來介紹自己,不過,Erker 則覺得,如果想要了解他,倒不如從那些對他來說重要的關係開始瞭解起;比如說,自從兒子出生,他便不斷思考未來的教育、學習和工作,對於自己的孩子來說,究竟會變成什麼樣子?

派翠克・厄克 (Patrick Erker) 以自身經驗,分享線在人才培育的困境,以及對於未來人才的展望。圖/親子天下提供

如今蘋果電腦、Google 公司、IBM 等知名企業,選人已不用學歷當首要考量了,顯示學、用存在一定差距。Erker 曾任 BCG 亨德森智庫「數位時代下的學習與人才養成」研究計畫負責人,根據當時協助企業解決 AI 時代下人才培育困境的經驗,他發現目前社會上出現三個矛盾:

-----廣告,請繼續往下閱讀-----
  1. 世界進步,大家卻缺乏安定感
    比起以前,大家過得更富有、壽命更長了,但並沒有過得更幸福,因為產業變動太快,一生都要經歷好幾次失業,生活變得很不安定。
  2. 教育程度提高,企業卻找不到人
    《財富》雜誌評選全美最大的 500 家公司中,有 93% 的公司覺得留住人才很困難。根據最新的數據,美國更是有多達 7 百萬個工作職缺。為什麼大家的教育程度提高,公司卻找不到人才呢?
  3. 教育成本跟薪資所得不成比例
    美國的學費每年調漲,但收入提高卻很有限,這說明學位不再有價值,職場也不需要有學位作為保障。

學用落差巨大,就表示讀大學不再重要?

Patrick Erker 提到,現在許多企業希望招募「T 型人才」,T 型人才必須具備跨領域能力,以及專業知識的深度。在數位時代下,許多硬實力像是程式語言、文書處理等技能容易被淘汰。因此,企業除了在意實質的能力外,更看重「軟實力」,如:快速應對各種變化、與他人合作解決問題、獲得他人信任,以及在面對困難時保持幽默感等等。

如今許多企業重視軟實力,想尋找 T 型人才。圖/flickr

這說明學校不能再埋頭只教知識與事實,而是應該培養孩子面對未來不被取代的能力與態度。

面對這些矛盾,Erker 認為,我們的教育方式必須跟著改變,如果以產品開發模式來比喻人才養成,則應該從「瀑布型」(Waterfall) 開發模式轉由「敏捷型」(agile)。

「瀑布型」人才培育方式就像現在的教育制度,由上而下,從小學到大學一步步學習,然後出社會工作,過程中很少有機會回到上個步驟。然而,「敏捷型」不一樣,是玩耍、學習進職場,然後回去學習、再進職場,一直在學習與工作中轉動。

Patrick Erker 認為「大學可能不是孩子必走的路」,然而,「這不代表大學沒有價值,而是孩子可能更早知道他們要什麼。」Erker 表示,當孩子對自己的未來很確定,他就可以創造自己的求學模式,提早進入職業訓練,但對未來不確定者仍能繼續上大學。

-----廣告,請繼續往下閱讀-----
以 LeBron Raymone James 為例,如果已經有一技之長,那上大學還是唯一選擇嗎?圖/ wikimedia commons

簡立峰則從過往在台大任教、中國研究院,以及現今在 Google 工作的經驗,認為數位時代下,老師與家長應該「適性教育」。「孩子不是到了大學才是長大,12、13 歲的孩子就很有想法了」他表示,他們已能用數位資源去找資料,甚至完成想做的事了,應該讓孩子有權選擇自己的學習方式,讀不讀大學因人而異。

面對素養教育很緊張?父母們,陪著孩子成長吧!

另一方面,使用手機和電腦是數位原生世代孩子的特性,在新課綱強調科技運用的狀況下,不少家長憂心網路成癮的狀況。簡立峰認為,父母應該注意一件事,孩子在「用電腦」不一定等於玩電腦,必須讓孩子有數位能力,「善用數位工具去做事情,航行人生」。

Erker 則認為,孩子玩網路遊戲的時間變多,其實是他們沒有玩遊戲以外的事情可以做,因此父母應該引導孩子、找更有趣的事情給他做,把他們從網路的世界引出來,而不是一味命令孩子不要玩手機。

面對數位時代,素養教育不再只是學校的事情,Patrick Erker 和簡立峰一致認同「父母扮演重要角色」。Erker 表示,可以透過故事、童話帶領孩子思考,幫助他們認識世界,理解世界的複雜,並藉由寓意讓他們了解到:在解決問題時更要顧及道德與他人。

-----廣告,請繼續往下閱讀-----

簡立峰則發現台灣教育中最欠缺「勇敢」,「台灣最大的是海,不是島,最重要的是出去。」他認為,父母得先在變動時代下獨立,放手讓孩子出去,孩子才能勇敢學習。

放手,讓孩子勇敢出航吧!圖/giphy
-----廣告,請繼續往下閱讀-----
文章難易度
Suzuki
18 篇文章 ・ 0 位粉絲
超純社會組學生,對未知的一切感到好奇,意外掉入科技與科學領域,希望在猛點頭汲取知識的同時,也能將箇中妙趣分享給大家。

0

1
0

文字

分享

0
1
0
ECU: 汽車大腦的演化與挑戰
鳥苷三磷酸 (PanSci Promo)_96
・2025/07/02 ・3793字 ・閱讀時間約 7 分鐘

本文與 威力暘電子 合作,泛科學企劃執行。

想像一下,當你每天啟動汽車時,啟動的不再只是一台車,而是一百台電腦同步運作。但如果這些「電腦」突然集體當機,後果會有多嚴重?方向盤可能瞬間失靈,安全氣囊無法啟動,整台車就像失控的高科技廢鐵。這樣的「系統崩潰」風險並非誇張劇情,而是真實存在於你我日常的駕駛過程中。

今天,我們將深入探討汽車電子系統「逆天改運」的科學奧秘。究竟,汽車的「大腦」—電子控制單元(ECU),是如何從單一功能,暴增至上百個獨立系統?而全球頂尖的工程師們,又為何正傾盡全力,試圖將這些複雜的系統「砍掉重練」、整合優化?

第一顆「汽車大腦」的誕生

時間回到 1980 年代,當時的汽車工程師們面臨一項重要任務:如何把汽油引擎的每一滴燃油都壓榨出最大動力?「省油即省錢」是放諸四海皆準的道理。他們發現,關鍵其實潛藏在一個微小到幾乎難以察覺的瞬間:火星塞的點火時機,也就是「點火正時」。

如果能把點火的精準度控制在「兩毫秒」以內,這大約是你眨眼時間的百分之一到千分之一!引擎效率就能提升整整一成!這不僅意味著車子開起來更順暢,還能直接省下一成的油耗。那麼,要如何跨過這道門檻?答案就是:「電腦」的加入!

-----廣告,請繼續往下閱讀-----

工程師們引入了「微控制器」(Microcontroller),你可以把它想像成一顆專注於特定任務的迷你電腦晶片。它能即時讀取引擎轉速、進氣壓力、油門深度、甚至異常爆震等各種感測器的訊號。透過內建的演算法,在千分之一秒、甚至微秒等級的時間內,精準計算出最佳的點火角度,並立刻執行。

從此,引擎的性能表現大躍進,油耗也更漂亮。這正是汽車電子控制單元(ECU)的始祖—專門負責點火的「引擎控制單元」(Engine Control Unit)。

汽車電子控制單元的始祖—專門負責點火的「引擎控制單元」(Engine Control Unit)/ 圖片來源:shutterstock

ECU 的失控暴增與甜蜜的負荷

第一顆 ECU 的成功,在 1980 年代後期點燃了工程師們的想像:「這 ECU 這麼好用,其他地方是不是也能用?」於是,ECU 的應用範圍不再僅限於點火,燃油噴射量、怠速穩定性、變速箱換檔平順度、ABS 防鎖死煞車,甚至安全氣囊的引爆時機……各種功能都交給專屬的 ECU 負責 。

然而,問題來了:這麼多「小電腦」,它們之間該如何有效溝通?

-----廣告,請繼續往下閱讀-----

為了解決這個問題,1986 年,德國的博世(Bosch)公司推出了一項劃時代的發明:控制器區域網路(CAN Bus)。你可以將它想像成一條專為 ECU 打造的「神經網路」。各個 ECU 只需連接到這條共用的線路上,就能將訊息「廣播」給其他單元。

更重要的是,CAN Bus 還具備「優先通行」機制。例如,煞車指令或安全氣囊引爆訊號這類攸關人命的重要訊息,絕對能搶先通過,避免因資訊堵塞而延誤。儘管 CAN Bus 解決了 ECU 之間的溝通問題,但每顆 ECU 依然需要獨立的電源線、接地線,並連接各種感測器和致動器。結果就是,一輛汽車的電線總長度可能達到 2 到 4 公里,總重量更高達 50 到 60 公斤,等同於憑空多載了一位乘客的重量。

另一方面,大量的 ECU 與錯綜複雜的線路,也讓「電子故障」開始頻繁登上汽車召回原因的榜首。更別提這些密密麻麻的線束,簡直是設計師和維修技師的惡夢。要檢修這些電子故障,無疑讓人一個頭兩個大。

大量的 ECU 與錯綜複雜的線路,也讓「電子故障」開始頻繁登上汽車召回原因的榜首。/圖片來源:shutterstock

汽車電子革命:從「百腦亂舞」到集中治理

到了2010年代,汽車電子架構迎來一場大改革,「分區架構(Zonal Architecture)」搭配「中央高效能運算(HPC)」逐漸成為主流。簡單來說,這就像在車內建立「地方政府+中央政府」的管理系統。

-----廣告,請繼續往下閱讀-----

可以想像,整輛車被劃分為幾個大型區域,像是車頭、車尾、車身兩側與駕駛艙,就像數個「大都會」。每個區域控制單元(ZCU)就像「市政府」,負責收集該區所有的感測器訊號、初步處理與整合,並直接驅動該區的馬達、燈光等致動器。區域先自理,就不必大小事都等中央拍板。

而「中央政府」則由車用高效能運算平台(HPC)擔任,統籌負責更複雜的運算任務,例如先進駕駛輔助系統(ADAS)所需的環境感知、物體辨識,或是車載娛樂系統、導航功能,甚至是未來自動駕駛的決策,通通交由車輛正中央的這顆「超級大腦」執行。

乘著這波汽車電子架構的轉型浪潮中, 2008 年成立的台灣本土企業威力暘電子,便精準地切入了這個趨勢,致力於開發整合 ECU 與區域控制器(Domain Controller)功能的模組化平台。他們專精於開發電子排檔、多功能方向盤等各式汽車電子控制模組。為了確保各部件之間的溝通順暢,威力暘提供的解決方案,就像是將好幾個「分區管理員」的職責,甚至一部分「超級大腦」的功能,都整合到一個更強大的硬體平台上。

這些模組不僅擁有強大的晶片運算能力,可同時支援 ADAS 與車載娛樂,還能兼容多種通訊協定,大幅簡化車內網路架構。如此一來,車廠在追求輕量化和高效率的同時,也能顧及穩定性與安全性。

-----廣告,請繼續往下閱讀-----
2008 年威力暘電子致力於開發整合 ECU 與區域控制器(Domain Controller)功能的模組化平台 /圖片來源:shutterstock

萬無一失的「汽車大腦」:威力暘的四大策略

然而,「做出來」與「做好」之間,還是有差別。要如何確保這顆集結所有功能的「汽車大腦」不出錯?具體來說,威力暘電子憑藉以下四大策略,築起其產品的可靠性與安全性:

  1. AUTOSAR : 導入開放且標準化的汽車軟體架構 AUTOSAR。分為應用層、運行環境層(RTE)和基礎軟體層(BSW)。就像在玩「樂高積木」,ECU 開發者能靈活組合模組,專注在核心功能開發,從根本上提升軟體的穩定性和可靠性。
  2. V-Model 開發流程:這是一種強調嚴謹、能在早期發現錯誤的軟體開發流程。就像打勾 V 字形般,左側從上而下逐步執行,右側則由下而上層層檢驗,確保每個階段的安全要求都確實落實。
  3. 基於模型的設計 MBD(Model-Based Design) 威力暘的工程師們會利用 MatLab®/Simulink® 等工具,把整個 ECU 要控制的系統(如煞車),用數學模型搭建起來,然後在虛擬環境中進行大量的模擬和測試。這等於在實體 ECU 誕生前,就能在「數位雙生」世界中反覆演練、預先排除設計缺陷,,並驗證安全機制是否有效。
  4. Automotive SPICE (ASPICE) : ASPICE 是國際公認的汽車軟體「品質管理系統」,它不直接評估最終 ECU 產品本身的安全性,而是深入檢視團隊在軟體開發的「整個過程」,也就是「方法論」和「管理紀律」是否夠成熟、夠系統化,並只根據數據來評估品質。

既然 ECU 掌管了整輛車的運作,其能否正常運作,自然被視為最優先項目。為此,威力暘嚴格遵循汽車業中一本堪稱「安全聖經」的國際標準:ISO 26262。這套國際標準可視為一本針對汽車電子電氣系統(特別是 ECU)的「超嚴格品管手冊」和「開發流程指南」,從概念、設計、測試到生產和報廢,都詳細規範了每個安全要求和驗證方法,唯一目標就是把任何潛在風險降到最低

有了上述這四項策略,威力暘確保其產品從設計、生產到交付都符合嚴苛的安全標準,才能通過 ISO 26262 的嚴格檢驗。

然而,ECU 的演進並未就此停下腳步。當ECU 的數量開始精簡,「大腦」變得更集中、更強大後,汽車產業又迎來了新一波革命:「軟體定義汽車」(Software-Defined Vehicle, SDV)。

-----廣告,請繼續往下閱讀-----

軟體定義汽車 SDV:你的愛車也能「升級」!

未來的汽車,會越來越像你手中的智慧型手機。過去,車輛功能在出廠時幾乎就「定終身」,想升級?多半只能換車。但在軟體定義汽車(SDV)時代,汽車將搖身一變成為具備強大運算能力與高速網路連線的「行動伺服器」,能夠「二次覺醒」、不斷升級。透過 OTA(Over-the-Air)技術,車廠能像推送 App 更新一樣,遠端傳送新功能、性能優化或安全修補包到你的車上。

不過,這種美好願景也將帶來全新的挑戰:資安風險。當汽車連上網路,就等於向駭客敞開潛在的攻擊入口。如果車上的 ECU 或雲端伺服器被駭,輕則個資外洩,重則車輛被遠端鎖定或惡意操控。為了打造安全的 SDV,業界必須遵循像 ISO 21434 這樣的車用資安標準。

威力暘電子運用前面提到的四大核心策略,確保自家產品能符合從 ISO 26262 到 ISO 21434 的國際認證。從品質管理、軟體開發流程,到安全認證,這些努力,讓威力暘的模組擁有最高的網路與功能安全。他們的產品不僅展現「台灣智造」的彈性與創新,也擁有與國際大廠比肩的「車規級可靠度」。憑藉這些實力,威力暘已成功打進日本 YAMAHA、Toyota,以及歐美 ZF、Autoliv 等全球一線供應鏈,更成為 DENSO 在台灣少數核准的控制模組夥伴,以商用車熱系統專案成功打入日系核心供應鏈,並自 2025 年起與 DENSO 共同展開平台化量產,驗證其流程與品質。

毫無疑問,未來車輛將有更多運作交由電腦與 AI 判斷,交由電腦判斷,比交由人類駕駛還要安全的那一天,離我們不遠了。而人類的角色,將從操作者轉為監督者,負責在故障或斷網時擔任最後的保險。透過科技讓車子更聰明、更安全,人類甘願當一個「最弱兵器」,其實也不錯!

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

2
0

文字

分享

0
2
0
拆解邊緣AI熱潮:伺服器如何提供穩固的運算基石?
鳥苷三磷酸 (PanSci Promo)_96
・2025/05/21 ・5071字 ・閱讀時間約 10 分鐘

本文與 研華科技 合作,泛科學企劃執行。

每次 NVIDIA 執行長黃仁勳公開發言,總能牽動整個 AI 產業的神經。然而,我們不妨設想一個更深層的問題——如今的 AI 幾乎都倚賴網路連線,那如果哪天「網路斷了」,會發生什麼事?

想像你正在自駕車打個盹,系統突然警示:「網路連線中斷」,車輛開始偏離路線,而前方竟是萬丈深谷。又或者家庭機器人被駭,開始暴走跳舞,甚至舉起刀具向你走來。

這會是黃仁勳期待的未來嗎?當然不是!也因為如此,「邊緣 AI」成為業界關注重點。不靠雲端,AI 就能在現場即時反應,不只更安全、低延遲,還能讓數據當場變現,不再淪為沉沒成本。

什麼是邊緣 AI ?

邊緣 AI,乍聽之下,好像是「孤單站在角落的人工智慧」,但事實上,它正是我們身邊最可靠、最即時的親密數位夥伴呀。

當前,像是企業、醫院、學校內部的伺服器,個人電腦,甚至手機等裝置,都可以成為「邊緣節點」。當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。簡單來說,就是將原本集中在遠端資料中心的運算能力,「搬家」到更靠近數據源頭的地方。

-----廣告,請繼續往下閱讀-----

那麼,為什麼需要這樣做?資料放在雲端,集中管理不是更方便嗎?對,就是不好。

當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。/ 圖片來源:MotionArray

第一個不好是物理限制:「延遲」。
即使光速已經非常快,數據從你家旁邊的路口傳到幾千公里外的雲端機房,再把分析結果傳回來,中間還要經過各種網路節點轉來轉去…這樣一來一回,就算只是幾十毫秒的延遲,對於需要「即刻反應」的 AI 應用,比如說工廠裡要精密控制的機械手臂、或者自駕車要判斷路況時,每一毫秒都攸關安全與精度,這點延遲都是無法接受的!這是物理距離與網路架構先天上的限制,無法繞過去。

第二個挑戰,是資訊科學跟工程上的考量:「頻寬」與「成本」。
你可以想像網路頻寬就像水管的粗細。隨著高解析影像與感測器數據不斷來回傳送,湧入的資料數據量就像超級大的水流,一下子就把水管塞爆!要避免流量爆炸,你就要一直擴充水管,也就是擴增頻寬,然而這樣的基礎建設成本是很驚人的。如果能在邊緣就先處理,把重要資訊「濃縮」過後再傳回雲端,是不是就能減輕頻寬負擔,也能節省大量費用呢?

第三個挑戰:系統「可靠性」與「韌性」。
如果所有運算都仰賴遠端的雲端時,一旦網路不穩、甚至斷線,那怎麼辦?很多關鍵應用,像是公共安全監控或是重要設備的預警系統,可不能這樣「看天吃飯」啊!邊緣處理讓系統更獨立,就算暫時斷線,本地的 AI 還是能繼續運作與即時反應,這在工程上是非常重要的考量。

所以你看,邊緣運算不是科學家們沒事找事做,它是順應數據特性和實際應用需求,一個非常合理的科學與工程上的最佳化選擇,是我們想要抓住即時數據價值,非走不可的一條路!

邊緣 AI 的實戰魅力:從工廠到倉儲,再到你的工作桌

知道要把 AI 算力搬到邊緣了,接下來的問題就是─邊緣 AI 究竟強在哪裡呢?它強就強在能夠做到「深度感知(Deep Perception)」!

-----廣告,請繼續往下閱讀-----

所謂深度感知,並非僅僅是對數據進行簡單的加加減減,而是透過如深度神經網路這類複雜的 AI 模型,從原始數據裡面,去「理解」出更高層次、更具意義的資訊。

研華科技為例,旗下已有多項邊緣 AI 的實戰應用。以工業瑕疵檢測為例,利用物件偵測模型,快速將工業產品中的瑕疵挑出來,而且由於 AI 模型可以使用同一套參數去檢測,因此品管上能達到一致性,減少人為疏漏。尤其在高產能工廠中,檢測速度必須快、狠、準。研華這套 AI 系統每分鐘最高可處理 8,000 件產品,替工廠節省大量人力,同時確保品質穩定。這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。

這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。/ 圖片提供:研華科技

此外,在智慧倉儲場域,研華與威剛合作,研華與威剛聯手合作,在 MIC-732AO 伺服器上搭載輝達的 Nova Orin 開發平台,打造倉儲系統的 AMR(Autonomous Mobile Robot) 自走車。這跟過去在倉儲系統中使用的自動導引車 AGV 技術不一樣,AMR 不需要事先規劃好路線,靠著感測器偵測,就能輕鬆避開障礙物,識別路線,並且將貨物載到指定地點存放。

當然,還有語言模型的應用。例如結合檢索增強生成 ( RAG ) 跟上下文學習 ( in-context learning ),除了可以做備忘錄跟排程規劃以外,還能將實務上碰到的問題記錄下來,等到之後碰到類似的問題時,就能詢問 AI 並得到解答。

你或許會問,那為什麼不直接使用 ChatGPT 就好了?其實,對許多企業來說,內部資料往往具有高度機密性與商業價值,有些場域甚至連手機都禁止員工帶入,自然無法將資料上傳雲端。對於重視資安,又希望運用 AI 提升效率的企業與工廠而言,自行部署大型語言模型(self-hosted LLM)才是理想選擇。而這樣的應用,並不需要龐大的設備。研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。

但問題也接著浮現:要在這麼小的設備上跑大型 AI 模型,會不會太吃資源?這正是目前 AI 領域最前沿、最火熱的研究方向之一:如何幫 AI 模型進行「科學瘦身」,又不減智慧。接下來,我們就來看看科學家是怎麼幫 AI 減重的。

-----廣告,請繼續往下閱讀-----

語言模型瘦身術之一:量化(Quantization)—用更精簡的數位方式來表示知識

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。這其實跟圖片壓縮有點像:有些畫面細節我們肉眼根本看不出來,刪掉也不影響整體感覺,卻能大幅減少檔案大小。

模型量化的原理也是如此,只不過對象是模型裡面的參數。這些參數原先通常都是以「浮點數」表示,什麼是浮點數?其實就是你我都熟知的小數。舉例來說,圓周率是個無窮不循環小數,唸下去就會是3.141592653…但實際運算時,我們常常用 3.14 或甚至直接用 3,也能得到夠用的結果。降低模型參數中浮點數的精度就是這個意思! 

然而,量化並不是那麼容易的事情。而且實際上,降低精度多少還是會影響到模型表現的。因此在設計時,工程師會精密調整,確保效能在可接受範圍內,達成「瘦身不減智」的目標。

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。/ 圖片來源:MotionArray

模型剪枝(Model Pruning)—基於重要性的結構精簡

建立一個 AI 模型,其實就是在搭建一整套類神經網路系統,並訓練類神經元中彼此關聯的參數。然而,在這麼多參數中,總會有一些參數明明佔了一個位置,卻對整體模型沒有貢獻。既然如此,不如果斷將這些「冗餘」移除。

這就像種植作物的時候,總會雜草叢生,但這些雜草並不是我們想要的作物,這時候我們就會動手清理雜草。在語言模型中也會有這樣的雜草存在,而動手去清理這些不需要的連結參數或神經元的技術,就稱為 AI 模型的模型剪枝(Model Pruning)。

-----廣告,請繼續往下閱讀-----

模型剪枝的效果,大概能把100變成70這樣的程度,說多也不是太多。雖然這樣的縮減對於提升效率已具幫助,但若我們要的是一個更小幾個數量級的模型,僅靠剪枝仍不足以應對。最後還是需要從源頭著手,採取更治本的方法:一開始就打造一個很小的模型,並讓它去學習大模型的知識。這項技術被稱為「知識蒸餾」,是目前 AI 模型壓縮領域中最具潛力的方法之一。

知識蒸餾(Knowledge Distillation)—讓小模型學習大師的「精髓」

想像一下,一位經驗豐富、見多識廣的老師傅,就是那個龐大而強悍的 AI 模型。現在,他要培養一位年輕學徒—小型 AI 模型。與其只是告訴小型模型正確答案,老師傅 (大模型) 會更直接傳授他做判斷時的「思考過程」跟「眉角」,例如「為什麼我會這樣想?」、「其他選項的可能性有多少?」。這樣一來,小小的學徒模型,用它有限的「腦容量」,也能學到老師傅的「智慧精髓」,表現就能大幅提升!這是一種很高級的訓練技巧,跟遷移學習有關。

舉個例子,當大型語言模型在收到「晚餐:鳳梨」這組輸入時,它下一個會接的詞語跟機率分別為「炒飯:50%,蝦球:30%,披薩:15%,汁:5%」。在知識蒸餾的過程中,它可以把這套機率表一起教給小語言模型,讓小語言模型不必透過自己訓練,也能輕鬆得到這個推理過程。如今,許多高效的小型語言模型正是透過這項技術訓練而成,讓我們得以在資源有限的邊緣設備上,也能部署愈來愈強大的小模型 AI。

但是!即使模型經過了這些科學方法的優化,變得比較「苗條」了,要真正在邊緣環境中處理如潮水般湧現的資料,並且高速、即時、穩定地運作,仍然需要一個夠強的「引擎」來驅動它們。也就是說,要把這些經過科學千錘百鍊、但依然需要大量計算的 AI 模型,真正放到邊緣的現場去發揮作用,就需要一個強大的「硬體平台」來承載。

-----廣告,請繼續往下閱讀-----

邊緣 AI 的強心臟:SKY-602E3 的三大關鍵

像研華的 SKY-602E3 塔式 GPU 伺服器,就是扮演「邊緣 AI 引擎」的關鍵角色!那麼,它到底厲害在哪?

一、核心算力
它最多可安裝 4 張雙寬度 GPU 顯示卡。為什麼 GPU 這麼重要?因為 GPU 的設計,天生就擅長做「平行計算」,這正好就是 AI 模型裡面那種海量數學運算最需要的!

你想想看,那麼多數據要同時處理,就像要請一大堆人同時算數學一樣,GPU 就是那個最有效率的工具人!而且,有多張 GPU,代表可以同時跑更多不同的 AI 任務,或者處理更大流量的數據。這是確保那些科學研究成果,在邊緣能真正「跑起來」、「跑得快」、而且「能同時做更多事」的物理基礎!

二、工程適應性——塔式設計。
邊緣環境通常不是那種恆溫恆濕的標準機房,有時是在工廠角落、辦公室一隅、或某個研究實驗室。這種塔式的機箱設計,體積相對緊湊,散熱空間也比較好(這對高功耗的 GPU 很重要!),部署起來比傳統機架式伺服器更有彈性。這就是把高性能計算,進行「工程化」,讓它能適應台灣多樣化的邊緣應用場景。

三、可靠性
SKY-602E3 用的是伺服器等級的主機板、ECC 糾錯記憶體、還有備援電源供應器等等。這些聽起來很硬的規格,背後代表的是嚴謹的工程可靠性設計。畢竟在邊緣現場,系統穩定壓倒一切!你總不希望 AI 分析跑到一半就掛掉吧?這些設計確保了部署在現場的 AI 系統,能夠長時間、穩定地運作,把實驗室裡的科學成果,可靠地轉化成實際的應用價值。

-----廣告,請繼續往下閱讀-----
研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。/ 圖片提供:研華科技

台灣製造 × 在地智慧:打造專屬的邊緣 AI 解決方案

研華科技攜手八維智能,能幫助企業或機構提供客製化的AI解決方案。他們的技術能力涵蓋了自然語言處理、電腦視覺、預測性大數據分析、全端軟體開發與部署,及AI軟硬體整合。

無論是大小型語言模型的微調、工業瑕疵檢測的模型訓練、大數據分析,還是其他 AI 相關的服務,都能交給研華與八維智能來協助完成。他們甚至提供 GPU 與伺服器的租借服務,讓企業在啟動 AI 專案前,大幅降低前期投入門檻,靈活又實用。

台灣有著獨特的產業結構,從精密製造、城市交通管理,到因應高齡化社會的智慧醫療與公共安全,都是邊緣 AI 的理想應用場域。更重要的是,這些情境中許多關鍵資訊都具有高度的「時效性」。像是產線上的一處異常、道路上的突發狀況、醫療設備的即刻警示,這些都需要分秒必爭的即時回應。

如果我們還需要將數據送上雲端分析、再等待回傳結果,往往已經錯失最佳反應時機。這也是為什麼邊緣 AI,不只是一項技術創新,更是一條把尖端 AI 科學落地、真正發揮產業生產力與社會價值的關鍵路徑。讓數據在生成的那一刻、在事件發生的現場,就能被有效的「理解」與「利用」,是將數據垃圾變成數據黃金的賢者之石!

👉 更多研華Edge AI解決方案
👉 立即申請Server租借

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----

討論功能關閉中。

0

1
0

文字

分享

0
1
0
一顆科技巨星的隕落(下)—英特爾的沒落
賴昭正_96
・2025/03/20 ・4190字 ・閱讀時間約 8 分鐘

商業上的成功蘊含著自身毀滅的種子:成功會滋生自滿,自滿會導致失敗。只有偏執狂才能生存。
-Andrew Grove(英特爾首席執行官)

話說英特爾於 1986 年冒著丟掉大客戶百年 IBM 的危險,轉向成立僅 3 年多的小電腦公司推銷其最新微處理器的賭博,得到了回報:康柏電腦公司一炮而紅的成功加速客戶對新 80386 晶片的要求。90 年代中後期英特爾更大力投資新的微處理器設計,促進了個人電腦產業的快速成長,成為市場佔有率高達 90% 的微處理器主要供應商,使其自 1992 年以來一直保持半導體銷售額排名第一的地位,於 1999 年將英特爾推上代表美國 30 主要工業的道瓊指數之一成員。

但到了 2000 年代,特別是 2010 年代末期,英特爾面臨日益激烈的競爭,導致其在 PC 市場的主導地位和市場佔有率下降。儘管如此,截至 2024 年第三季度,英特爾仍以 62% 的市佔率遙遙領先 x86 市場、更是筆記型電腦的明顯贏家(72%)。可是為什麼今天英特爾股價竟然倒退了 28 年,回到 1996 年底的價位呢(註一)?為什麼它已經不能再代表美國主要工業,於 2024 年 11 月 8 日被踢出道瓊工業指數,為英偉達(Nvidia,臺灣與香港譯為「輝達」)取代呢?

是什麼原因讓英特爾失去產業龍頭的位置? 圖/pixabay

英特爾的失足

在回答此問題之前,筆者得先指出:個人電腦到了 2000 年初已不再是一高利潤的高科技,而是一種日用商品。當初將英特爾培養壯大的 IBM 於 2004 年年底完全退出了個人電腦的市場;而避免侵權透過逆向工程、製造出第一台 IBM 個人電腦相容機的康柏公司,也在個人電腦市場的價格競爭日益激烈、及想打入主機電腦市場的錯誤政策下,於 2002 年被惠普 ( Hewlett-Packard ) 收購「消失」了。

冰凍三尺,非一日之寒。Google 的人工智慧謂:「英特爾在晶片產業落後的主要原因是多種因素」,包括:
(1)未能洞悉智慧型手機的崛起,在行動晶片市場明顯落後,錯失創新機會給高通(Qualcomm Inc.)等競爭對手;
(2)依賴過時的製造流程,未能像台積電、AMD、和英偉達(註二)一樣採用更靈活晶片設計和外包製造,來應付快速不斷變化的市場需求,導致失去了高效能運算和人工智慧等關鍵領域的市場;
(3)一些分析師認為英特爾在個人電腦市場長期佔據主導地位可能導致高階主管自滿,不願適應不斷變化的產業動態。

-----廣告,請繼續往下閱讀-----

筆者認為前述的(1)及(2)都是果,真正的原因只有(3)一個。80 年代,當英特爾的晶片和微軟的軟體成為快速發展之個人電腦行業的雙引擎時,公司充滿活力,專注於其在個人電腦和資料中心伺服器的特殊領域。英特爾高層曾半開玩笑地將公司描述為「地球上最大的單細胞有機體」:一個孤立的、獨立的世界。像 IBM 一樣,數十年的成功和高利潤也催生了英特爾目中無人及自大之企業文化!這種開會又開會、討論又討論、開不完的會、討不完的論正是公司成熟的標註。

英特爾企業文化

想當初英特爾剛成立時,諾伊斯只聽了幾秒鐘霍夫有關微處理器的激進想法後,就立即說:「做吧」!真是不可同日而語。又如到了 1983 年,其主要記憶體晶片業務受到日本半導體製造商加劇競爭而大大降低獲利能力時,格羅夫立即迅速地不怕「…微處理器是個非常大的麻煩」,脫胎換骨成為微處理器主要供應商━又豈是 90 年代不遺餘力地捍衛其微處理器市場地位而與 AMD 鬥爭的英特爾所能比?

事實上英特爾也曾多次嘗試成為人工智慧晶片領域的領導者,但都以失敗告終(註三):專案被創建、持續多年,然後要麼是因為英特爾領導層失去耐心,要麼是技術不足而突然被關閉。為了保護和擴大公司的賺錢支柱(x86 的數代晶片),英特爾對新型晶片設計的投資總是退居二線。史丹佛大學電機工程教授、英特爾前董事普盧默 ( James Plummer ) 曾謂:「這項技術是英特爾皇冠上的寶石——專有且利潤豐厚——他們會盡一切努力來維持這一點的」。英特爾的領導者有時也承認這個問題,例如英特爾前執行長巴雷特 ( Craig Barrett ) 就曾將 x86 晶片業務比作一種毒害周圍競爭植物的雜酚油灌木叢。

微軟 Copilot AI

英特爾能再放光芒嗎?

在一連串的機會錯失,決策錯誤及執行不力下,英特爾於 2021 年任命曾經主導其發展人工智慧晶片、2009 年離職去擔任 EMC 總裁的基辛格(Patrick Gelsinger)回來當執行長,積極嘗試透過其所謂的「五年、四個節點」進程追趕台積電。這位浪子回頭,被請回來拯救公司的基辛格於去年 4 月 25 日宣稱:即將推出的英特爾 3 奈米製程伺服器晶片的需求很高,可以贏得那些轉找競爭對手的客戶,謂『我們正在重建客戶信任。他們現在看著我們說:「哦,英特爾回來了。」』…但半年後,董事會對他的扭虧為盈計畫完全失去了信心,給了他辭職或被解僱的選擇。基辛格於 12 月 1 日辭職,現由領導英特爾全球財務部門和投資者關係的津斯納 ( David Zinsner ) 擔任臨時聯合執行長,正在務色下一任執行長。

-----廣告,請繼續往下閱讀-----

英特爾現在的處境事實上很像 1993 年的 IBM:在官僚體制、大型電腦利潤下滑,及失去個人電腦的主導權後,其股票從 1987 年 7 月的最高點倒退了 26 年!當總裁兼執行長阿克斯(John Ackers ) 於當年元月宣布首次下調股息 55% 及離職後,遴選委員會竟然找不到任何人願意來收拾這個爛攤子━曾幾何時 IBM 執行長還是眾人夢寐以求的職位呀!最後選委會只好推薦自告奮勇、完全外行(註四)、銷售菸草和食品的 RJR Nabisco 公司的首席執行官郭士納(Louis Gerstner Jr.)!郭士納在自傳中回憶說:重振 IBM 所面臨的最嚴峻挑戰是改變其企業文化。現 IBM 雖然不再像以前在科技界一言九鼎,但其股票已「趕上時代」屢創歷史新高,為道瓊工業指數中歷史最悠久的高科技成員(1979 年起);郭士納也被視為美國商界的偶像,IBM 轉型和重拾技術領導地位的救星。

IBM 和英特爾的股價走勢圖。圖/作者提供

股票名嘴克萊默(Jim Cramer)在年初謂:「我們需要將英特爾視為資產負債表非常糟糕的國寶」,因此有必要幫助英特爾公司渡過難關。美國政府顯然也同意,商務部根據 CHIPS 激勵計劃的商業製造設施資助機會,已經給英特爾公司提供高達 78.65 億美元的直接資助。但如前面所提到的 IBM 如何啟動發展個人電腦,錢真的是萬能嗎?英特爾能重新燃燒發光嗎?

英特爾不像 1993 年的 IBM 具有百年的歷史,各方面人才濟濟:多項技術創新和最多的專利,包括自動櫃員機、動態隨機存取記憶體 、軟碟、硬碟、磁條卡、關聯式資料庫、Fortran 和 SQL 程式語言、UPC 條碼、以及本文所提到之個人電腦等;其研究部是世界上最大的工業研究機構,員工因科學研究和發明而獲得了各種認可,包括六項諾貝爾獎和六項圖靈獎(Turing Award,註五)。因此筆者懷疑英特爾能夠重新奪回業界領先地位;CFRA Research 技術分析師齊諾 ( Angelo Zino ) 表示:「目前來看,它們重返輝煌的可能性非常渺茫。」

以目前來看,英特爾技術劣勢難以逆轉,重返業界領導地位機會渺茫。圖/unsplash

結論

這顆科技巨星真的要隕落了嗎?真的是「一失足成千古恨,再回頭已百年身」嗎?英特爾第三任首席執行官(1987-1998)格羅夫真的不幸言中了嗎:「商業上的成功蘊含著自身毀滅的種子」?當然,像英特爾這麼有成就的公司要徹底消失是不太可能,因此最可能的命運應該是分割拍賣或像仙童半導體公司一樣被其它公司收購(註六)。事實上去年高通公司就曾與英特爾洽談收購事宜,但最終放棄了這個想法。

-----廣告,請繼續往下閱讀-----

最後讓我們在這裡以同時被 IBM 培養狀大、在個人電腦上一起嘯吒風雲的微軟公司,其創辦人蓋茨(Bill Gates)元月 8 日的美聯社訪談來結束本文吧。蓋茨聲稱:如果英特爾沒有在 70 年代初期取得技術突破,創造出能夠驅動個人電腦的微型晶片,他的職業道路可能會有所不同。他接著表示:微軟也像英特爾一樣,在 18 年前錯過了從個人電腦到智慧型手機的轉變,但微軟已經恢復元氣,而英特爾的困境卻惡化到需要尋找新執行長的地步(註七),他說:

他們錯過了人工智慧晶片革命,(因為晶片設計和製造方面落後)其製造能力達不到英偉達和高通等公司認為是簡單的標準。我認為基辛格非常勇敢,他敢說:「不,我要解決設計方面的問題,我要解決晶圓廠方面的問題。」我(曾)希望為了他自己、為了國家,他能夠成功。我希望英特爾能夠復甦,但目前看來它們的處境相當艱難。

今天微軟公司已是全美市值最大的前三名公司之一,而英特爾卻淪落至此,能不讓人感嘆造化弄人嗎?

(2025 年 2 月 3 日補註)本文完稿於元月 15 日;英特爾元月 30 日第四季業績報告謂:營收連續三季下滑,較去年同期下降 7%;本季淨虧損總計 1.26 億美元(即每股 3 美分),而去年同期的淨收入為 26.7 億美元(即每股 63 美分)。今年第一季的業績指引令分析師失望!

備註

  • (註一)同一期間道瓊股指上升了 7 倍多。
  • (註二)這三家公司現在全是中國人在主導。在英特爾全盛時期,這三家全是在後者的陰影下求生存;而現今這三家的市值均遠遠超過英特爾!
  • (註三)2005 年,當英特爾的晶片在大多數個人電腦中充當了大腦時,執行長歐德寧( Paul Otellini)就已經意識到了圖形晶片最終可能會在資料中心承擔重要的工作,向董事會提出了一個令人震驚的想法:以高達 200 億美元收購電腦圖形晶片的矽谷新貴英偉達(英偉達的市值現已超過 3 兆美元)。但因英特爾在吸收公司方面的記錄不佳,董事會拒絕了這個提議,歐德寧退縮了!反觀 AMD 於 2006 年收購英偉達對手 Array Technology Inc. 後,現正挑戰英偉達的圖形晶片市場。
  • (註四)在 1993 年三月宣布將擔任執行長的記者招待會上,被問及用什麼牌子的計算機時,新執行長說他有一台筆記本電腦,但不記得是什麼牌子。
  • (註五)公認為計算機科學領域的最高榮譽,被稱為「計算機界的諾貝爾獎」。
  • (註六)仙童半導體公司於 2016 年 9 月被安森美(ON)半導體收購,品牌已不存在。
  • (註七)英特爾於 2025 年 3 月任命陳立武出任新執行長。

延伸閱讀:圖形處理單元與人工智能

-----廣告,請繼續往下閱讀-----

討論功能關閉中。

賴昭正_96
47 篇文章 ・ 59 位粉絲
成功大學化學工程系學士,芝加哥大學化學物理博士。在芝大時與一群留學生合創「科學月刊」。一直想回國貢獻所學,因此畢業後不久即回清大化學系任教。自認平易近人,但教學嚴謹,因此獲有「賴大刀」之惡名!於1982年時當選爲 清大化學系新一代的年青首任系主任兼所長;但壯志難酬,兩年後即辭職到美留浪,IBM顧問研究化學家退休 。晚期曾回台蓋工廠及創業,均應「水土不服」而鎩羽而歸。正式退休後,除了開始又爲科學月刊寫文章外,全職帶小孫女(半歲起);現已成七歲之小孫女的BFF(2015)。首先接觸到泛科學是因爲它轉載我的科學月刊上的一篇文章「愛因斯坦的最大的錯誤一宇宙論常數」。