跳到主要內容

高效能、低延遲 「邊緣AI」正起飛

聯合報/A7版/財經要聞
鍾張涵
2025年5月4日   人氣: 58   開始朗讀

網路識讀

廣達董事長林百里、廣達副董事長梁次震看好人工智慧(AI)長線發展,認為「AI還有許多應用、滿地開花,成本會每年大幅降低」。要成就AI新應用,為AI邊緣運算提供支援的AI資料中心、邊緣伺服器最為關鍵,邊緣伺服器也將進入飛速成長期。

 

美國高通副總裁暨台灣、東南亞與紐澳區總裁劉思泰進一步指出,「邊緣AI」的發展更形重要,不僅將重構人機互動模式,也是現有產業鏈與國家政策擬定時必須重視的關鍵。

 

劉思泰說,過去AI的運算多依賴雲端完成,但在全球超過七十億人口、每天數以億計裝置向雲端發送請求的情況下,這樣的運作模式在資源消耗與延遲控制方面很難長期維持。有研究指出,AI模型執行一次查詢所耗資源約為傳統搜尋的八至十倍。若所有AI任務均仰賴雲端處理,將對網路頻寬、能源與運算資源構成巨大壓力。

 

所謂的「邊緣AI」,是在地端或邊緣設備上運行AI模型,而非依賴雲端伺服器來處理數據。據研調機構Market Research Future預估,二○二三年邊緣AI硬體規模為廿六點八六億美元,二○三二年將升至一五九點八八億美元,年複合成長率達百分之廿二點三。

 

「裝置、AI模型、邊緣運算三者結合不只推動技術發展,更創造龐大的商業機會。世界上有超過一萬種終端裝置:從手機、手表、電腦、車載系統到頭戴式顯示器等,每種裝置都有不同使用者、不同需求」,劉思泰說,「這樣的多樣性正是創新的沃土」。

 

邊緣伺服器更是邊緣運算基礎架構中的重要設備,可負責在資料來源或用戶端附近進行即時資料處理分析,與集中式雲端相比,它具備分散部署的特性,有助降低資料傳輸延遲並提升反應速度;其外型通常是機架式、刀鋒式或Compact工業電腦。

 

根據應用需求,邊緣伺服器有「高效能運算(HPC)」、「超融合架構(HCI)」、「MEC邊緣伺服器」三種類型。

 

目前,邊緣AI應用場景包括工業自動化、自動駕駛、智慧城市、智慧醫療、安全監控、智能家居、智慧零售。研華嵌入式事業群副總經理楊宏理就以DeepSeek為例,強調隨著DeepSeek開源推理模型問世,AI從雲端延伸到邊緣運算將更加迅速。

 

「高效能、低延遲的智能邊緣運算解決方案需求會更迫切。」楊宏理認為,邊緣AI生態鏈會開始成形,台灣廠商也要能研發出包括邊緣AI加速模組、邊緣AI產業應用、邊緣AI伺服器等創新產品,才能擴大全球邊緣運算影響力。

 

在全球科技巨擘如美國四大雲端服務供應商(CSP)廠、輝達、AMD、高通、英特爾積極整合與開發下,台灣除了半導體外,其他廠商也正各擅勝場,傳統電子代工廠如廣達、緯創、和碩、仁寶、英業達、鴻海、技嘉等,工業電腦廠如研華、凌華、樺漢、振樺電、華擎、艾訊等正戮力轉型,都積極成為生態鏈與AI戰場的下一關鍵。

 

相關文章

辨識網路健康資訊,你可以怎麼做? -從COVID-19訊息疫情談起-
辨識網路健康資訊,你可以怎麼做? -從COVID-19訊息疫情談起-

隨著COVID-19疫情爆發,「資訊疫情」(infodemic)隨起流行,過量資訊如傳染般地擴散,其準確性卻有待商榷。誤導性的健康資訊與其他形式的不準確內容(例如:政治錯誤訊息)不同,因其傳播者通常會透過銷售產品或提供服務來獲取經濟利益。例如,許多TikTok網紅在沒有受過正規的醫學培訓下,向數百萬觀眾推廣口服避孕藥;在沒有科學依據的情況下,聲稱飲用以水稀釋的硼砂可治療癌症......

短影音對青少年的影響
短影音對青少年的影響

隨著科技的進步及網路的普及,各種影音平臺也如雨後春筍般地出現,短影音(short video)形式的影音內容,最近更是受到青少年的喜愛。短影音顧名思義即是影片的時間非常的短,通常只有15秒到5分鐘的時間,表達一個概念或故事。短影音的崛起,除了反映行動裝置與高速行動網路的普及外,也反映出現代人生活型態的改變,像是在零碎的時間內(等人、等車、等餐,等上課,甚至是等泡麵),隨手可拿取手機或其他行動裝置來瀏覽短小訊息或收看短則影音。由於這些裝置幾乎都隨時處於待機的狀態,因此使用者連「等開機」的時間都不需

相關影片

氣噗噗大挑戰
氣噗噗大挑戰
如果短影音是…
如果短影音是…
另一個我
另一個我
有圖有真相?
有圖有真相?

返回網路識讀新聞列表

頁首