Loading [MathJax]/extensions/tex2jax.js

0

0
1

文字

分享

0
0
1

如果你是一台自駕車,這些是你可能會遇到的考驗

做車的人_96
・2018/01/22 ・2869字 ・閱讀時間約 5 分鐘 ・SR值 512 ・六年級

文/郭長祐

圖/TayebMEZAHDIA @Pixabay

談及「自駕車」,或許會有人天真地認為,行車電腦只要運用前後保險桿上的超音波測距器(俗稱倒車雷達)來偵測前後車距離,以此來調控車速,以及用類似技術使汽車保持在車道內行駛不偏離,以及能在避障情況下完成改變車道、轉彎、停車等動作,就是完滿的自駕技術與程序。事實上,實現自駕車的技術與考驗遠大過於此。

難解的電車難題

自駕車如果遇到相似於倫理學問題「電車難題」的狀況,應當如何權衡判斷呢?圖/By McGeddon [CC BY-SA 4.0], viaWikipedia Commons
自駕車其實需要因應各種突發狀況,例如突然煞車失靈時當如何處置?是持續向前行駛,但可能因此使五名路人死傷,還是選擇改變方向,但會使另一方向的一名路人死傷?這時行車電腦當如何權衡判斷呢?

或許上述的例子過於特殊,實務上很難遇到,但確實點出自駕車實際上路,必然要面對複雜多變的情境。又如一個小女生為了追一個皮球而跑到馬路上,這時若不改變方向女孩將被車輾過,右轉則會撞向其他路人,左轉有可能就撞上水泥牆,車內乘客也會受傷,或者是一隻狗跑到馬路上,或前方貨車的油桶鬆綁滾到馬路上,這些情境自駕車都必須事先備妥研判能力,事發時才能正確快速因應,例如爆胎時只能讓汽車放開油門,緩緩向前到耗盡慣性而停止,若這時嘗試踩煞車或轉動方向盤,反而可能招致全車翻滾的危險。

-----廣告,請繼續往下閱讀-----

科學家、工程師努力卸除社會對自駕車上路的心防

即便自駕車具有克服各種車況、情境的能力,自駕車上路依然有其他層面的挑戰,其中社會接納度至為關鍵。根據調查,有 78% 的受訪者表示不敢搭乘自駕車,以及有 41% 的汽車駕駛不願意跟自駕車一同上路,深怕自駕車出狀況殃及他們。

關於此,自駕車業者與研發團隊必須付出更多努力、甚至更有創意的做法才能使社會接受。過去百事可樂曾有一個蒙眼試驗廣告,邀請一群人蒙上眼睛後試喝兩種可樂,實驗證明單憑口感很難精準分辨可口可樂與百事可樂,表示消費者認為先出現的可口可樂口味更佳是種迷思,進而使百事可樂的銷售大增。

根據相似的心理學,或許在自駕車技術成熟後,可以安排實驗證實一般人無法分辨自駕車與人工駕駛的行為;甚至安排一個逼真的假駕駛,悄然在路上行駛一段時間後再告知大眾,以展現自駕車與一般駕駛幾無差別,或許可以說服社會大眾卸除部分心防與多慮。

除了科技突破,自駕車想上路,還得解決社會大眾的疑慮。目前看來,科學家與工程師們還有一大段路要走。 圖/ifinnsson @Pixabay

當然,除了心理層面外,實質上也要讓自駕車的互動更逼近人為駕駛,例如變換車道會打方向燈,前車過近會按喇叭,對向來車有危險行為時,會讓大燈遠近交替切換作為警示。其他如砂石車經過會刻意保持較遠距離避免意外,同時當關上車窗,因為很多高速行駛的砂石車常有砂石掉落,高速下噴濺起的砂石有時會傷到車內的乘客,或者前方有大型車輛時當把車內空調改成封閉循環,避免吸到大車排出的廢氣,維持車內空氣品質,保障乘客健康。做到這些,人們才能逐漸接納自駕車。

-----廣告,請繼續往下閱讀-----

另外,人們也擔心行車電腦是否會被駭客入侵並操控,輕則癱瘓交通重則犯罪,畢竟真人是不會被駭的,但電腦會。這一樣有待人工智慧科學家、工程師的努力,才能讓社會大眾接受與肯定自駕車的上路安全性。

目前自駕車的發展還是有些卡關的地方?

談及自駕車面臨的挑戰,除了需要提升緊急狀況的因應能力以及社會觀感外,自駕車的自駕基本功也有待磨練。美國汽車工程師學會(Society of Automotive Engineers,簡稱 SAE)把自駕程度分成六級:

零級(level 0):完全人為操作。
第一級(level 1):某些自動化功能可單獨作用,例如定速巡航,駕駛設定好想要的車速後腳就可以放開油門,讓汽車自動以定速操控油門;
第二級(level 2):多個自動化功能同時作用,但仍需要駕駛關注,必要時仍需要人為介入,例如自動停車;
第三級(level 3):汽車幾乎可全程自主駕駛,必要時才有人為介入;
第四級(level 4):完全不用人為介入,但僅限高速公路或車輛較少時才能如此;
第五級(level 5):一切自動,堪稱終極的自駕。

目前車廠已可達三級水準,若干宣稱達四級,但尚無人宣示已實現第五級,僅有晶片商宣稱已推出可滿足第五級自駕車所需運算力的車用電腦系統。

-----廣告,請繼續往下閱讀-----

上述為行車電腦自主駕駛的程度,但人們關切的自駕車安全程度則仍待商確。目前業界確實有一些初步討論,有科學家發表論文,期望用數學公式(Shai Shalev-Shwartz et. al, 2017 )來釐清自駕車碰撞事故的責任歸屬,不過論文發表後有許多爭議與質疑聲浪 ,可能還需要一段時間發展。

計算前車與後車安全距離的公式,詳見Mobileye 提出的自駕車事故公式 圖/Mobileye

另外政府也必須針對自駕車上路而增訂、修訂法規,目前世界各國政府都在拉高車輛安全要求,過去已要求汽車一定要有霧燈與前座安全氣囊才能出廠,現在也開始要求輪胎一定要安裝胎壓感測監督系統(Tire Pressure Monitoring System,簡稱 TPMS)才能出廠,進一步要求一定要配置防翻滾系統等,自駕車也當比照辦理。

有了自駕車,世界可能會很不一樣

談及自駕車,難道所設想的都是例外狀況與災禍嗎?答案應該為否,除弊之外自然也有興利的部分。自駕車若真能實現,也可能帶來更多的美好與便利。未來自駕車預先檢視全程路況,並對進行最佳化路程規劃,自動避開車潮,反而比人為習慣駕駛、記憶駕駛更快到目的地,甚更省行車能源,甚因行車操控更佳使零件更長壽而降低保修次數與花費,或因更佳、更可預設的行車狀況而降低車險費用。

就社會層面的考量,自駕車絕對不可能違反交通規則如超速或闖紅燈,自然可以省下讓交通警察舉發開單的社會成本;甚至更完善的大型自駕車系統可以調節車流分配,從而降低交通顛峰時間的塞車情況,節省龐大的時間成本。

-----廣告,請繼續往下閱讀-----
路程規劃、車流調節、共享自駕車……,自駕車若真的普及,可能使我們的生活產生現在難以想像的新面貌。 圖/TeroVesalainen@Pixabay

進一步的,若自駕車夠普及,其實可以實現共享自駕車的願景,如同現在路上有 O-bike 就可以騎,只要針對使用的路程付費即可。而完全自主駕駛後,車內座位也可以完全打通,成為行動辦公室,或在車內共桌用餐、玩牌等,都有機會實現。在愛心傘夠多的情況下,就不再需要自己買傘,同理,到處都有車可搭,還有人要買私家車嗎?而免去私家車自然也就減少了相關的成本,包括每台車閒置時的成本、私人停車場的土地空間、甚至高額的停車費支出等。

最後,各位想像的自駕車未來又是怎樣呢?還有哪些挑戰呢?也請各位不吝與我們分享!

參考資料:

《做車的人》系列內容由裕隆集團委託,泛科學企劃執行

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
文章難易度
做車的人_96
3 篇文章 ・ 0 位粉絲
「教練,我好想做一輛車。」不用拜託,你真的可以。 我們是一群做車的人,希望帶給大家第一手的車界知識,讓你更懂車是怎麼造出來的。我們希望台灣能有自己的汽車文化,更希望我們都能為這文化驕傲。 本專欄由裕隆汽車贊助。

0

1
0

文字

分享

0
1
0
ECU: 汽車大腦的演化與挑戰
鳥苷三磷酸 (PanSci Promo)_96
・2025/07/02 ・3793字 ・閱讀時間約 7 分鐘

-----廣告,請繼續往下閱讀-----

本文與 威力暘電子 合作,泛科學企劃執行。

想像一下,當你每天啟動汽車時,啟動的不再只是一台車,而是一百台電腦同步運作。但如果這些「電腦」突然集體當機,後果會有多嚴重?方向盤可能瞬間失靈,安全氣囊無法啟動,整台車就像失控的高科技廢鐵。這樣的「系統崩潰」風險並非誇張劇情,而是真實存在於你我日常的駕駛過程中。

今天,我們將深入探討汽車電子系統「逆天改運」的科學奧秘。究竟,汽車的「大腦」—電子控制單元(ECU),是如何從單一功能,暴增至上百個獨立系統?而全球頂尖的工程師們,又為何正傾盡全力,試圖將這些複雜的系統「砍掉重練」、整合優化?

第一顆「汽車大腦」的誕生

時間回到 1980 年代,當時的汽車工程師們面臨一項重要任務:如何把汽油引擎的每一滴燃油都壓榨出最大動力?「省油即省錢」是放諸四海皆準的道理。他們發現,關鍵其實潛藏在一個微小到幾乎難以察覺的瞬間:火星塞的點火時機,也就是「點火正時」。

如果能把點火的精準度控制在「兩毫秒」以內,這大約是你眨眼時間的百分之一到千分之一!引擎效率就能提升整整一成!這不僅意味著車子開起來更順暢,還能直接省下一成的油耗。那麼,要如何跨過這道門檻?答案就是:「電腦」的加入!

-----廣告,請繼續往下閱讀-----

工程師們引入了「微控制器」(Microcontroller),你可以把它想像成一顆專注於特定任務的迷你電腦晶片。它能即時讀取引擎轉速、進氣壓力、油門深度、甚至異常爆震等各種感測器的訊號。透過內建的演算法,在千分之一秒、甚至微秒等級的時間內,精準計算出最佳的點火角度,並立刻執行。

從此,引擎的性能表現大躍進,油耗也更漂亮。這正是汽車電子控制單元(ECU)的始祖—專門負責點火的「引擎控制單元」(Engine Control Unit)。

汽車電子控制單元的始祖—專門負責點火的「引擎控制單元」(Engine Control Unit)/ 圖片來源:shutterstock

ECU 的失控暴增與甜蜜的負荷

第一顆 ECU 的成功,在 1980 年代後期點燃了工程師們的想像:「這 ECU 這麼好用,其他地方是不是也能用?」於是,ECU 的應用範圍不再僅限於點火,燃油噴射量、怠速穩定性、變速箱換檔平順度、ABS 防鎖死煞車,甚至安全氣囊的引爆時機……各種功能都交給專屬的 ECU 負責 。

然而,問題來了:這麼多「小電腦」,它們之間該如何有效溝通?

-----廣告,請繼續往下閱讀-----

為了解決這個問題,1986 年,德國的博世(Bosch)公司推出了一項劃時代的發明:控制器區域網路(CAN Bus)。你可以將它想像成一條專為 ECU 打造的「神經網路」。各個 ECU 只需連接到這條共用的線路上,就能將訊息「廣播」給其他單元。

更重要的是,CAN Bus 還具備「優先通行」機制。例如,煞車指令或安全氣囊引爆訊號這類攸關人命的重要訊息,絕對能搶先通過,避免因資訊堵塞而延誤。儘管 CAN Bus 解決了 ECU 之間的溝通問題,但每顆 ECU 依然需要獨立的電源線、接地線,並連接各種感測器和致動器。結果就是,一輛汽車的電線總長度可能達到 2 到 4 公里,總重量更高達 50 到 60 公斤,等同於憑空多載了一位乘客的重量。

另一方面,大量的 ECU 與錯綜複雜的線路,也讓「電子故障」開始頻繁登上汽車召回原因的榜首。更別提這些密密麻麻的線束,簡直是設計師和維修技師的惡夢。要檢修這些電子故障,無疑讓人一個頭兩個大。

大量的 ECU 與錯綜複雜的線路,也讓「電子故障」開始頻繁登上汽車召回原因的榜首。/圖片來源:shutterstock

汽車電子革命:從「百腦亂舞」到集中治理

到了2010年代,汽車電子架構迎來一場大改革,「分區架構(Zonal Architecture)」搭配「中央高效能運算(HPC)」逐漸成為主流。簡單來說,這就像在車內建立「地方政府+中央政府」的管理系統。

-----廣告,請繼續往下閱讀-----

可以想像,整輛車被劃分為幾個大型區域,像是車頭、車尾、車身兩側與駕駛艙,就像數個「大都會」。每個區域控制單元(ZCU)就像「市政府」,負責收集該區所有的感測器訊號、初步處理與整合,並直接驅動該區的馬達、燈光等致動器。區域先自理,就不必大小事都等中央拍板。

而「中央政府」則由車用高效能運算平台(HPC)擔任,統籌負責更複雜的運算任務,例如先進駕駛輔助系統(ADAS)所需的環境感知、物體辨識,或是車載娛樂系統、導航功能,甚至是未來自動駕駛的決策,通通交由車輛正中央的這顆「超級大腦」執行。

乘著這波汽車電子架構的轉型浪潮中, 2008 年成立的台灣本土企業威力暘電子,便精準地切入了這個趨勢,致力於開發整合 ECU 與區域控制器(Domain Controller)功能的模組化平台。他們專精於開發電子排檔、多功能方向盤等各式汽車電子控制模組。為了確保各部件之間的溝通順暢,威力暘提供的解決方案,就像是將好幾個「分區管理員」的職責,甚至一部分「超級大腦」的功能,都整合到一個更強大的硬體平台上。

這些模組不僅擁有強大的晶片運算能力,可同時支援 ADAS 與車載娛樂,還能兼容多種通訊協定,大幅簡化車內網路架構。如此一來,車廠在追求輕量化和高效率的同時,也能顧及穩定性與安全性。

-----廣告,請繼續往下閱讀-----
2008 年威力暘電子致力於開發整合 ECU 與區域控制器(Domain Controller)功能的模組化平台 /圖片來源:shutterstock

萬無一失的「汽車大腦」:威力暘的四大策略

然而,「做出來」與「做好」之間,還是有差別。要如何確保這顆集結所有功能的「汽車大腦」不出錯?具體來說,威力暘電子憑藉以下四大策略,築起其產品的可靠性與安全性:

  1. AUTOSAR : 導入開放且標準化的汽車軟體架構 AUTOSAR。分為應用層、運行環境層(RTE)和基礎軟體層(BSW)。就像在玩「樂高積木」,ECU 開發者能靈活組合模組,專注在核心功能開發,從根本上提升軟體的穩定性和可靠性。
  2. V-Model 開發流程:這是一種強調嚴謹、能在早期發現錯誤的軟體開發流程。就像打勾 V 字形般,左側從上而下逐步執行,右側則由下而上層層檢驗,確保每個階段的安全要求都確實落實。
  3. 基於模型的設計 MBD(Model-Based Design) 威力暘的工程師們會利用 MatLab®/Simulink® 等工具,把整個 ECU 要控制的系統(如煞車),用數學模型搭建起來,然後在虛擬環境中進行大量的模擬和測試。這等於在實體 ECU 誕生前,就能在「數位雙生」世界中反覆演練、預先排除設計缺陷,,並驗證安全機制是否有效。
  4. Automotive SPICE (ASPICE) : ASPICE 是國際公認的汽車軟體「品質管理系統」,它不直接評估最終 ECU 產品本身的安全性,而是深入檢視團隊在軟體開發的「整個過程」,也就是「方法論」和「管理紀律」是否夠成熟、夠系統化,並只根據數據來評估品質。

既然 ECU 掌管了整輛車的運作,其能否正常運作,自然被視為最優先項目。為此,威力暘嚴格遵循汽車業中一本堪稱「安全聖經」的國際標準:ISO 26262。這套國際標準可視為一本針對汽車電子電氣系統(特別是 ECU)的「超嚴格品管手冊」和「開發流程指南」,從概念、設計、測試到生產和報廢,都詳細規範了每個安全要求和驗證方法,唯一目標就是把任何潛在風險降到最低

有了上述這四項策略,威力暘確保其產品從設計、生產到交付都符合嚴苛的安全標準,才能通過 ISO 26262 的嚴格檢驗。

然而,ECU 的演進並未就此停下腳步。當ECU 的數量開始精簡,「大腦」變得更集中、更強大後,汽車產業又迎來了新一波革命:「軟體定義汽車」(Software-Defined Vehicle, SDV)。

-----廣告,請繼續往下閱讀-----

軟體定義汽車 SDV:你的愛車也能「升級」!

未來的汽車,會越來越像你手中的智慧型手機。過去,車輛功能在出廠時幾乎就「定終身」,想升級?多半只能換車。但在軟體定義汽車(SDV)時代,汽車將搖身一變成為具備強大運算能力與高速網路連線的「行動伺服器」,能夠「二次覺醒」、不斷升級。透過 OTA(Over-the-Air)技術,車廠能像推送 App 更新一樣,遠端傳送新功能、性能優化或安全修補包到你的車上。

不過,這種美好願景也將帶來全新的挑戰:資安風險。當汽車連上網路,就等於向駭客敞開潛在的攻擊入口。如果車上的 ECU 或雲端伺服器被駭,輕則個資外洩,重則車輛被遠端鎖定或惡意操控。為了打造安全的 SDV,業界必須遵循像 ISO 21434 這樣的車用資安標準。

威力暘電子運用前面提到的四大核心策略,確保自家產品能符合從 ISO 26262 到 ISO 21434 的國際認證。從品質管理、軟體開發流程,到安全認證,這些努力,讓威力暘的模組擁有最高的網路與功能安全。他們的產品不僅展現「台灣智造」的彈性與創新,也擁有與國際大廠比肩的「車規級可靠度」。憑藉這些實力,威力暘已成功打進日本 YAMAHA、Toyota,以及歐美 ZF、Autoliv 等全球一線供應鏈,更成為 DENSO 在台灣少數核准的控制模組夥伴,以商用車熱系統專案成功打入日系核心供應鏈,並自 2025 年起與 DENSO 共同展開平台化量產,驗證其流程與品質。

毫無疑問,未來車輛將有更多運作交由電腦與 AI 判斷,交由電腦判斷,比交由人類駕駛還要安全的那一天,離我們不遠了。而人類的角色,將從操作者轉為監督者,負責在故障或斷網時擔任最後的保險。透過科技讓車子更聰明、更安全,人類甘願當一個「最弱兵器」,其實也不錯!

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----
文章難易度

討論功能關閉中。

0

2
0

文字

分享

0
2
0
拆解邊緣AI熱潮:伺服器如何提供穩固的運算基石?
鳥苷三磷酸 (PanSci Promo)_96
・2025/05/21 ・5071字 ・閱讀時間約 10 分鐘

本文與 研華科技 合作,泛科學企劃執行。

每次 NVIDIA 執行長黃仁勳公開發言,總能牽動整個 AI 產業的神經。然而,我們不妨設想一個更深層的問題——如今的 AI 幾乎都倚賴網路連線,那如果哪天「網路斷了」,會發生什麼事?

想像你正在自駕車打個盹,系統突然警示:「網路連線中斷」,車輛開始偏離路線,而前方竟是萬丈深谷。又或者家庭機器人被駭,開始暴走跳舞,甚至舉起刀具向你走來。

這會是黃仁勳期待的未來嗎?當然不是!也因為如此,「邊緣 AI」成為業界關注重點。不靠雲端,AI 就能在現場即時反應,不只更安全、低延遲,還能讓數據當場變現,不再淪為沉沒成本。

什麼是邊緣 AI ?

邊緣 AI,乍聽之下,好像是「孤單站在角落的人工智慧」,但事實上,它正是我們身邊最可靠、最即時的親密數位夥伴呀。

當前,像是企業、醫院、學校內部的伺服器,個人電腦,甚至手機等裝置,都可以成為「邊緣節點」。當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。簡單來說,就是將原本集中在遠端資料中心的運算能力,「搬家」到更靠近數據源頭的地方。

-----廣告,請繼續往下閱讀-----

那麼,為什麼需要這樣做?資料放在雲端,集中管理不是更方便嗎?對,就是不好。

當數據在這些邊緣節點進行運算,稱為邊緣運算;而在邊緣節點上運行 AI ,就被稱為邊緣 AI。/ 圖片來源:MotionArray

第一個不好是物理限制:「延遲」。
即使光速已經非常快,數據從你家旁邊的路口傳到幾千公里外的雲端機房,再把分析結果傳回來,中間還要經過各種網路節點轉來轉去…這樣一來一回,就算只是幾十毫秒的延遲,對於需要「即刻反應」的 AI 應用,比如說工廠裡要精密控制的機械手臂、或者自駕車要判斷路況時,每一毫秒都攸關安全與精度,這點延遲都是無法接受的!這是物理距離與網路架構先天上的限制,無法繞過去。

第二個挑戰,是資訊科學跟工程上的考量:「頻寬」與「成本」。
你可以想像網路頻寬就像水管的粗細。隨著高解析影像與感測器數據不斷來回傳送,湧入的資料數據量就像超級大的水流,一下子就把水管塞爆!要避免流量爆炸,你就要一直擴充水管,也就是擴增頻寬,然而這樣的基礎建設成本是很驚人的。如果能在邊緣就先處理,把重要資訊「濃縮」過後再傳回雲端,是不是就能減輕頻寬負擔,也能節省大量費用呢?

第三個挑戰:系統「可靠性」與「韌性」。
如果所有運算都仰賴遠端的雲端時,一旦網路不穩、甚至斷線,那怎麼辦?很多關鍵應用,像是公共安全監控或是重要設備的預警系統,可不能這樣「看天吃飯」啊!邊緣處理讓系統更獨立,就算暫時斷線,本地的 AI 還是能繼續運作與即時反應,這在工程上是非常重要的考量。

所以你看,邊緣運算不是科學家們沒事找事做,它是順應數據特性和實際應用需求,一個非常合理的科學與工程上的最佳化選擇,是我們想要抓住即時數據價值,非走不可的一條路!

邊緣 AI 的實戰魅力:從工廠到倉儲,再到你的工作桌

知道要把 AI 算力搬到邊緣了,接下來的問題就是─邊緣 AI 究竟強在哪裡呢?它強就強在能夠做到「深度感知(Deep Perception)」!

-----廣告,請繼續往下閱讀-----

所謂深度感知,並非僅僅是對數據進行簡單的加加減減,而是透過如深度神經網路這類複雜的 AI 模型,從原始數據裡面,去「理解」出更高層次、更具意義的資訊。

研華科技為例,旗下已有多項邊緣 AI 的實戰應用。以工業瑕疵檢測為例,利用物件偵測模型,快速將工業產品中的瑕疵挑出來,而且由於 AI 模型可以使用同一套參數去檢測,因此品管上能達到一致性,減少人為疏漏。尤其在高產能工廠中,檢測速度必須快、狠、準。研華這套 AI 系統每分鐘最高可處理 8,000 件產品,替工廠節省大量人力,同時確保品質穩定。這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。

這樣的效能來自於一台僅有膠囊咖啡機大小的邊緣設備—IPC-240。/ 圖片提供:研華科技

此外,在智慧倉儲場域,研華與威剛合作,研華與威剛聯手合作,在 MIC-732AO 伺服器上搭載輝達的 Nova Orin 開發平台,打造倉儲系統的 AMR(Autonomous Mobile Robot) 自走車。這跟過去在倉儲系統中使用的自動導引車 AGV 技術不一樣,AMR 不需要事先規劃好路線,靠著感測器偵測,就能輕鬆避開障礙物,識別路線,並且將貨物載到指定地點存放。

當然,還有語言模型的應用。例如結合檢索增強生成 ( RAG ) 跟上下文學習 ( in-context learning ),除了可以做備忘錄跟排程規劃以外,還能將實務上碰到的問題記錄下來,等到之後碰到類似的問題時,就能詢問 AI 並得到解答。

你或許會問,那為什麼不直接使用 ChatGPT 就好了?其實,對許多企業來說,內部資料往往具有高度機密性與商業價值,有些場域甚至連手機都禁止員工帶入,自然無法將資料上傳雲端。對於重視資安,又希望運用 AI 提升效率的企業與工廠而言,自行部署大型語言模型(self-hosted LLM)才是理想選擇。而這樣的應用,並不需要龐大的設備。研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。

但問題也接著浮現:要在這麼小的設備上跑大型 AI 模型,會不會太吃資源?這正是目前 AI 領域最前沿、最火熱的研究方向之一:如何幫 AI 模型進行「科學瘦身」,又不減智慧。接下來,我們就來看看科學家是怎麼幫 AI 減重的。

-----廣告,請繼續往下閱讀-----

語言模型瘦身術之一:量化(Quantization)—用更精簡的數位方式來表示知識

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。這其實跟圖片壓縮有點像:有些畫面細節我們肉眼根本看不出來,刪掉也不影響整體感覺,卻能大幅減少檔案大小。

模型量化的原理也是如此,只不過對象是模型裡面的參數。這些參數原先通常都是以「浮點數」表示,什麼是浮點數?其實就是你我都熟知的小數。舉例來說,圓周率是個無窮不循環小數,唸下去就會是3.141592653…但實際運算時,我們常常用 3.14 或甚至直接用 3,也能得到夠用的結果。降低模型參數中浮點數的精度就是這個意思! 

然而,量化並不是那麼容易的事情。而且實際上,降低精度多少還是會影響到模型表現的。因此在設計時,工程師會精密調整,確保效能在可接受範圍內,達成「瘦身不減智」的目標。

當硬體資源有限,大模型卻越來越龐大,「幫模型減肥」就成了邊緣 AI 的重要課題。/ 圖片來源:MotionArray

模型剪枝(Model Pruning)—基於重要性的結構精簡

建立一個 AI 模型,其實就是在搭建一整套類神經網路系統,並訓練類神經元中彼此關聯的參數。然而,在這麼多參數中,總會有一些參數明明佔了一個位置,卻對整體模型沒有貢獻。既然如此,不如果斷將這些「冗餘」移除。

這就像種植作物的時候,總會雜草叢生,但這些雜草並不是我們想要的作物,這時候我們就會動手清理雜草。在語言模型中也會有這樣的雜草存在,而動手去清理這些不需要的連結參數或神經元的技術,就稱為 AI 模型的模型剪枝(Model Pruning)。

-----廣告,請繼續往下閱讀-----

模型剪枝的效果,大概能把100變成70這樣的程度,說多也不是太多。雖然這樣的縮減對於提升效率已具幫助,但若我們要的是一個更小幾個數量級的模型,僅靠剪枝仍不足以應對。最後還是需要從源頭著手,採取更治本的方法:一開始就打造一個很小的模型,並讓它去學習大模型的知識。這項技術被稱為「知識蒸餾」,是目前 AI 模型壓縮領域中最具潛力的方法之一。

知識蒸餾(Knowledge Distillation)—讓小模型學習大師的「精髓」

想像一下,一位經驗豐富、見多識廣的老師傅,就是那個龐大而強悍的 AI 模型。現在,他要培養一位年輕學徒—小型 AI 模型。與其只是告訴小型模型正確答案,老師傅 (大模型) 會更直接傳授他做判斷時的「思考過程」跟「眉角」,例如「為什麼我會這樣想?」、「其他選項的可能性有多少?」。這樣一來,小小的學徒模型,用它有限的「腦容量」,也能學到老師傅的「智慧精髓」,表現就能大幅提升!這是一種很高級的訓練技巧,跟遷移學習有關。

舉個例子,當大型語言模型在收到「晚餐:鳳梨」這組輸入時,它下一個會接的詞語跟機率分別為「炒飯:50%,蝦球:30%,披薩:15%,汁:5%」。在知識蒸餾的過程中,它可以把這套機率表一起教給小語言模型,讓小語言模型不必透過自己訓練,也能輕鬆得到這個推理過程。如今,許多高效的小型語言模型正是透過這項技術訓練而成,讓我們得以在資源有限的邊緣設備上,也能部署愈來愈強大的小模型 AI。

但是!即使模型經過了這些科學方法的優化,變得比較「苗條」了,要真正在邊緣環境中處理如潮水般湧現的資料,並且高速、即時、穩定地運作,仍然需要一個夠強的「引擎」來驅動它們。也就是說,要把這些經過科學千錘百鍊、但依然需要大量計算的 AI 模型,真正放到邊緣的現場去發揮作用,就需要一個強大的「硬體平台」來承載。

-----廣告,請繼續往下閱讀-----

邊緣 AI 的強心臟:SKY-602E3 的三大關鍵

像研華的 SKY-602E3 塔式 GPU 伺服器,就是扮演「邊緣 AI 引擎」的關鍵角色!那麼,它到底厲害在哪?

一、核心算力
它最多可安裝 4 張雙寬度 GPU 顯示卡。為什麼 GPU 這麼重要?因為 GPU 的設計,天生就擅長做「平行計算」,這正好就是 AI 模型裡面那種海量數學運算最需要的!

你想想看,那麼多數據要同時處理,就像要請一大堆人同時算數學一樣,GPU 就是那個最有效率的工具人!而且,有多張 GPU,代表可以同時跑更多不同的 AI 任務,或者處理更大流量的數據。這是確保那些科學研究成果,在邊緣能真正「跑起來」、「跑得快」、而且「能同時做更多事」的物理基礎!

二、工程適應性——塔式設計。
邊緣環境通常不是那種恆溫恆濕的標準機房,有時是在工廠角落、辦公室一隅、或某個研究實驗室。這種塔式的機箱設計,體積相對緊湊,散熱空間也比較好(這對高功耗的 GPU 很重要!),部署起來比傳統機架式伺服器更有彈性。這就是把高性能計算,進行「工程化」,讓它能適應台灣多樣化的邊緣應用場景。

三、可靠性
SKY-602E3 用的是伺服器等級的主機板、ECC 糾錯記憶體、還有備援電源供應器等等。這些聽起來很硬的規格,背後代表的是嚴謹的工程可靠性設計。畢竟在邊緣現場,系統穩定壓倒一切!你總不希望 AI 分析跑到一半就掛掉吧?這些設計確保了部署在現場的 AI 系統,能夠長時間、穩定地運作,把實驗室裡的科學成果,可靠地轉化成實際的應用價值。

-----廣告,請繼續往下閱讀-----
研華的 SKY-602E3 塔式 GPU 伺服器,體積僅如後背包大小,卻能輕鬆支援語言模型的運作,實現高效又安全的 AI 解決方案。/ 圖片提供:研華科技

台灣製造 × 在地智慧:打造專屬的邊緣 AI 解決方案

研華科技攜手八維智能,能幫助企業或機構提供客製化的AI解決方案。他們的技術能力涵蓋了自然語言處理、電腦視覺、預測性大數據分析、全端軟體開發與部署,及AI軟硬體整合。

無論是大小型語言模型的微調、工業瑕疵檢測的模型訓練、大數據分析,還是其他 AI 相關的服務,都能交給研華與八維智能來協助完成。他們甚至提供 GPU 與伺服器的租借服務,讓企業在啟動 AI 專案前,大幅降低前期投入門檻,靈活又實用。

台灣有著獨特的產業結構,從精密製造、城市交通管理,到因應高齡化社會的智慧醫療與公共安全,都是邊緣 AI 的理想應用場域。更重要的是,這些情境中許多關鍵資訊都具有高度的「時效性」。像是產線上的一處異常、道路上的突發狀況、醫療設備的即刻警示,這些都需要分秒必爭的即時回應。

如果我們還需要將數據送上雲端分析、再等待回傳結果,往往已經錯失最佳反應時機。這也是為什麼邊緣 AI,不只是一項技術創新,更是一條把尖端 AI 科學落地、真正發揮產業生產力與社會價值的關鍵路徑。讓數據在生成的那一刻、在事件發生的現場,就能被有效的「理解」與「利用」,是將數據垃圾變成數據黃金的賢者之石!

👉 更多研華Edge AI解決方案
👉 立即申請Server租借

-----廣告,請繼續往下閱讀-----
-----廣告,請繼續往下閱讀-----

討論功能關閉中。

0

1
0

文字

分享

0
1
0
特斯拉 Cybercab 登場!自駕車事故責任該由誰承擔?
PanSci_96
・2024/07/30 ・1411字 ・閱讀時間約 2 分鐘

特斯拉即將在 2024 年 10 月推出無人計程車,並且 Robotaxi 的正式名稱,將取名為 Cybercab。
等等,在無人車正式上路之前,我先問你一個重要問題。如果我開特斯拉自駕車撞死人,要負責的是我這個駕駛、乘客,還是特斯拉與馬斯克?

你敢開自駕車嗎?肇事責任是誰負責? 圖/envato

自駕車撞死人:駕駛、乘客,還是特斯拉負責?

當你駕駛特斯拉自駕車撞死人,責任歸屬是個複雜問題。無人車上路前,了解現行法律與技術界限至關重要。如果你強行介入自駕車運行,解除自駕功能後的事故責任由你全擔。如果不干預,事故責任可能由車商承擔。然而,最終誰來負責,仍取決於多方因素,包括車輛技術和法律規定。

這是個很現實的電車難題,應該說自駕車難題。如果你駕駛的自駕車正在失控向人群駛去,你是否有勇氣按下緊急剎車,承擔一切責任?

這類問題正是現在無人駕駛技術面臨的道德和法律挑戰。

-----廣告,請繼續往下閱讀-----
歡迎訂閱 Pansci Youtube 頻道 獲取更多深入淺出的科學知識!

電車難題再現:自駕車技術的進展與挑戰

自駕車並不是未來的幻想,而是已經在我們的日常生活中逐漸實現的技術。特斯拉和其他汽車製造商已經展示了他們的自動駕駛系統,這些系統能夠完成從停車到高速公路駕駛的各種操作。目前的自駕技術主要依賴於先進駕駛輔助系統(ADAS),這些系統結合了多種技術以提升駕駛的安全性和效率。

ADAS 並不是一個新概念,它可以追溯到 1950 年代的汽車巡航控制系統,隨後在 1970 年代加入了防鎖死煞車系統和車身動態穩定系統。現代的 ADAS 功能更加多樣化,包括防撞系統、車道偏離警示、盲點監控、自適應巡航和駕駛監控等,這些功能大大降低了人為失誤導致的事故風險。

自駕車三隻眼睛:相機、光達和雷達的全面解析

自駕車依賴於三種主要感知技術:相機、光達和雷達。相機負責辨識交通號誌和行人,光達則通過發射紅外雷射光脈衝繪製 3D 地圖,雷達在惡劣天氣中表現尤為出色,能夠在雨天、霧天和沙塵暴中提供穩定的數據。

自駕車的決策過程可以分為感知、決策和控制三個步驟。感知階段依賴於相機、光達和雷達提供的數據,決策階段則依靠 AI 算法來判斷最佳行動方案,最後由控制系統執行決策。這些技術的進步使得自駕車在面對複雜的交通情況時,能夠做出更準確的反應。

-----廣告,請繼續往下閱讀-----

全球無人計程車競賽:各國如何迎接自動駕駛未來

特斯拉並不是唯一的自駕車領導者,Google 的 Waymo 和通用汽車的 Cruise 已經在無人計程車領域取得了重大進展。中國的自動駕駛公司小馬智行和百度的蘿蔔快跑也已成功讓無人計程車在主要城市上路營運。根據預測,到 2025 年,全球將有約 800 萬輛 3 級或 4 級的自駕車在道路上行駛。

特斯拉的 Cybercab 無人計程車即將上路,標誌著自駕車技術進入新的階段。隨著技術的不斷進步和法律框架的完善,自駕車將在未來的交通系統中扮演越來越重要的角色。然而,自駕車事故責任的問題仍需進一步探討和解決,以確保這一新技術能夠安全、可靠地服務於社會。

-----廣告,請繼續往下閱讀-----

討論功能關閉中。

PanSci_96
1262 篇文章 ・ 2418 位粉絲
PanSci的編輯部帳號,會發自產內容跟各種消息喔。