Copyright 2017-2025 北方報 版權所有 京ICP備16071829-1號
當物聯網從 “互聯” 邁向 “智聯”,邊緣計算也正經歷從 “輔助算力補充” 到 “核心決策中樞” 的關鍵轉型。
當前,全球超過70%的物聯網設備仍受限于低能效、弱AI算力的硬件瓶頸——要么因能效不足無法支撐續航表現,要么因難以運行復雜模型無法落地端側推理,尤其在工業預測性維護、智能穿戴多模態交互、邊緣大語言模型(LLM)部署等場景中,“算力與功耗平衡”、“安全與靈活性兼顧” 已成為邊緣AI規模普及和行業突破的核心痛點。
多年來,Arm持續賦能邊緣AI技術創新和生態打造。年初發布首個集成Armv9架構的邊緣AI計算平臺,日前又宣布將其集成至Arm Flexible Access方案中,進一步降低智能邊緣設備的研發門檻。在助力智能、高效、安全的AI應用規模落地,激發邊緣計算市場繁榮和推動技術突破的同時,Arm通過推動物聯網終端從“數據采集”向“智能決策”跨越,為全球邊緣AI計算發展按下“加速鍵”。
Armv9:領先架構釋放邊緣AI價值
當前,AI正在加速經歷從云端向邊緣的轉移。這源于邊緣AI所具有的一系列優勢,包括更快的響應、更好的安全隱私保護、更低的成本,而隨著未來70%的推理將在邊緣側進行,邊緣AI被視為發揮AI能力的最大價值所在。
傳統的物聯網時代,廣泛多樣的IoT設備以強調連接為特征,而在AI時代,邊緣側的IoT終端面臨更高的能力要求,比如實時在線的感知能力,多模態的人機交互能力,本地化的數據處理能力,更高參數的大模型支撐能力,以及安全可靠的穩定性等等。
因此,邊緣側終端的能力因為AI時代的到來需要重新被塑造,而這則需要更加具備能效和性能,以及更加靈活性的計算平臺予以支撐,從而承接邊緣AI快速發展變化的市場需求。
作為半導體產業鏈的基石類計算平臺公司,在AI領域深耕多年的Arm已為邊緣側人工智能時代的到來做好充分準備。
數年前,Arm便推出了面向AI時代發展的Armv9架構,并持續進行優化,目前已經迭代到Armv9.3版本,使其在AI加速、安全性以及能效表現方面實現顯著跨越。
今年2月,Arm發布了首次集成Armv9架構的全新一代邊緣AI計算平臺,搭載了超高能效的 Arm Cortex-A320 CPU和Arm Ethos-U85 NPU。
近日,在深圳舉辦的“Arm Unlocked”活動上,Arm物聯網事業部硬件產品管理高級總監Lionel Belnet介紹Armv9邊緣AI計算平臺。
結合Armv9架構所具備的機器學習 (ML) 性能,如Neon、SVE2等向量處理技術,與Ethos-U85的高能效優勢,最新一代Arm邊緣AI計算平臺顯著提升了端側Transformer網絡的執行效率,與上一代平臺相比,實現了8倍的ML計算性能提升,使邊緣AI設備能夠輕松運行超過10億參數的大模型,助力大模型與生成式AI在物聯網領域的落地。
同時,新平臺實現了“CPU+NPU”的深度融合,比如Cortex-A320可以為Ethos-U85提供更高的內存容量與帶寬,讓大模型在U85上輕松執行。如果開發者有不希望在U85上運行的AI操作,可以回退到Cortex-A320,使得AI計算和大模型能夠根據實際的場景和工作負載需求實現靈活執行。
此外,新一代平臺集成了先進的Armv9安全技術,如指針驗證 (PAC)、分支目標識別 (BTI) 和內存標記擴展 (MTE)等,為工業、農業等領域邊緣側關鍵用例提供可靠的數據安全保護能力。
在軟件和開發工具方面,Arm還將Kleidi AI擴展至物聯網領域,適配Llama.cpp、ExecuTorch、MediaPipe等主流AI框架,實現70%性能提升并降低IoT應用開發的門檻。
整體而言,憑借面向AI時代打造的最新 架構Armv9的加持,新一代邊緣AI計算平臺,在性能、能效、安全性、靈活性等方面實現了顯著提升,充分滿足邊緣AI發展需求的同時,也為加速邊緣AI側的技術創新和市場繁榮進一步奠定了基礎。