廣達董事長林百里、廣達副董事長梁次震看好人工智慧(AI)長線發展,認為「AI還有許多應用、滿地開花,成本會每年大幅降低」。要成就AI新應用,為AI邊緣運算提供支援的AI資料中心、邊緣伺服器最為關鍵,邊緣伺服器也將進入飛速成長期。
美國高通副總裁暨台灣、東南亞與紐澳區總裁劉思泰進一步指出,「邊緣AI」的發展更形重要,不僅將重構人機互動模式,也是現有產業鏈與國家政策擬定時必須重視的關鍵。
劉思泰說,過去AI的運算多依賴雲端完成,但在全球超過七十億人口、每天數以億計裝置向雲端發送請求的情況下,這樣的運作模式在資源消耗與延遲控制方面很難長期維持。有研究指出,AI模型執行一次查詢所耗資源約為傳統搜尋的八至十倍。若所有AI任務均仰賴雲端處理,將對網路頻寬、能源與運算資源構成巨大壓力。
所謂的「邊緣AI」,是在地端或邊緣設備上運行AI模型,而非依賴雲端伺服器來處理數據。據研調機構Market Research Future預估,二○二三年邊緣AI硬體規模為廿六點八六億美元,二○三二年將升至一五九點八八億美元,年複合成長率達百分之廿二點三。
「裝置、AI模型、邊緣運算三者結合不只推動技術發展,更創造龐大的商業機會。世界上有超過一萬種終端裝置:從手機、手表、電腦、車載系統到頭戴式顯示器等,每種裝置都有不同使用者、不同需求」,劉思泰說,「這樣的多樣性正是創新的沃土」。
邊緣伺服器更是邊緣運算基礎架構中的重要設備,可負責在資料來源或用戶端附近進行即時資料處理分析,與集中式雲端相比,它具備分散部署的特性,有助降低資料傳輸延遲並提升反應速度;其外型通常是機架式、刀鋒式或Compact工業電腦。
根據應用需求,邊緣伺服器有「高效能運算(HPC)」、「超融合架構(HCI)」、「MEC邊緣伺服器」三種類型。
目前,邊緣AI應用場景包括工業自動化、自動駕駛、智慧城市、智慧醫療、安全監控、智能家居、智慧零售。研華嵌入式事業群副總經理楊宏理就以DeepSeek為例,強調隨著DeepSeek開源推理模型問世,AI從雲端延伸到邊緣運算將更加迅速。
「高效能、低延遲的智能邊緣運算解決方案需求會更迫切。」楊宏理認為,邊緣AI生態鏈會開始成形,台灣廠商也要能研發出包括邊緣AI加速模組、邊緣AI產業應用、邊緣AI伺服器等創新產品,才能擴大全球邊緣運算影響力。
在全球科技巨擘如美國四大雲端服務供應商(CSP)廠、輝達、AMD、高通、英特爾積極整合與開發下,台灣除了半導體外,其他廠商也正各擅勝場,傳統電子代工廠如廣達、緯創、和碩、仁寶、英業達、鴻海、技嘉等,工業電腦廠如研華、凌華、樺漢、振樺電、華擎、艾訊等正戮力轉型,都積極成為生態鏈與AI戰場的下一關鍵。