4月9日,Arm宣布推出Ethos-U85 神經(jīng)網(wǎng)絡(luò)處理器(NPU),其MAC(乘加累計運算)單元可從128個擴展到2048個,其算力可實現(xiàn)在1GHz頻率下達到4TOPs,能夠為工廠自動化、商用零售、智能家居等高性能邊緣AI應(yīng)用提供支持。此次發(fā)布會同時發(fā)布了全新物聯(lián)網(wǎng)參考設(shè)計平臺——Arm Corstone-320。
當(dāng)前微處理器被部署到包括工業(yè)機器視覺、可穿戴設(shè)備和消費者機器人等在內(nèi)的諸多高性能物聯(lián)網(wǎng)系統(tǒng)中,且各場景對人工智能功能提出了更高的要求。Ethos-U85由此推出,目標(biāo)是與Armv9 Cortex-A CPU相結(jié)合,加速處理機器學(xué)習(xí)(ML)任務(wù),提供更高能效的邊緣推理能力,從而滿足上述場景對人工智能功能的更高需求。
據(jù)了解,Ethos-U85性能相較前代產(chǎn)品提升四倍,能效提高20%,可支持Transformer架構(gòu)和卷積神經(jīng)網(wǎng)絡(luò)(CNN)以實現(xiàn)AI推理。Transformer架構(gòu)適用于視覺和生成式AI用例,對理解視頻、填充圖像的缺失部分,分析來自多個攝像頭的數(shù)據(jù)以進行圖像分類和目標(biāo)檢測等任務(wù)非常有效。全新 Ethos-U85 NPU支持了TensorFlow Lite 和 PyTorch等AI框架。
Ethos-U85為開發(fā)者提供了與過往架構(gòu)一致的工具鏈,合作伙伴能夠利用現(xiàn)有的投資,實現(xiàn)開發(fā)體驗的無縫銜接。迄今,Arm Ethos NPU系列產(chǎn)品已有超過20家授權(quán)許可合作伙伴,其中,Alif Semiconductor 和英飛凌是全新Arm Ethos-U85 NPU的早期采用者。
Arm Corstone-320物聯(lián)網(wǎng)參考設(shè)計平臺集成了 Arm 最高性能的 Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的 Ethos-U85 NPU,為語音、音頻和視覺等廣泛的邊緣 AI 應(yīng)用提供所需的性能,例如實時圖像分類和目標(biāo)識別,或在智能音箱上啟用具有自然語言翻譯功能的語音助手。該參考設(shè)計平臺涵蓋了軟件、工具和支持,其中包括 Arm 虛擬硬件。該平臺的軟硬件結(jié)合特性將使開發(fā)者能夠在物理芯片就緒前便啟動軟件開發(fā)工作,從而加速推進產(chǎn)品進程,為日益復(fù)雜的邊緣 AI 設(shè)備縮短上市時間。
Arm此次發(fā)布的最新架構(gòu)主要面向邊緣側(cè),關(guān)于Arm此次發(fā)布的產(chǎn)品將在家電廠商探索結(jié)合人工智能技術(shù)新品中發(fā)揮什么作用,物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健向《中國電子報》記者作出如下回答:
第一是能夠提供更自然的交互能力。傳統(tǒng)智能家居,要使用其智能功能的話,需要用戶下載新的APP,這對于用戶而言,使用過程不夠友好。而搭載大模型的家用電器,其自然語言交互能力得到了極大的提升,采用Ethos-U85和Corstone-320的參考設(shè)計,可以比較輕松地將由支持自然語言交互的大模型壓縮的小模型部署到各種家電中。以支持用戶與家電直接以自然語言交互。
第二是可以發(fā)揮Arm在云邊端多領(lǐng)域產(chǎn)品優(yōu)勢。大模型之所以智能,是由于參數(shù)量大。當(dāng)前多數(shù)大模型部署在云端。家電廠商收集的用戶數(shù)據(jù)等,都集中在云端訓(xùn)練和優(yōu)化。但同時,為了增強用戶體驗,家電終端側(cè)、家庭網(wǎng)關(guān)邊側(cè),也會部署支持自然語言響應(yīng)的模型,這就要求設(shè)備可實現(xiàn)云邊端協(xié)同。馬健還補充道,在數(shù)據(jù)中心云、邊、端都有強有力的產(chǎn)品和統(tǒng)一的工具鏈支持,因此更具有生態(tài)優(yōu)勢。
責(zé)任編輯:姬曉婷
- QQ:61149512