在人工智能和機(jī)器學(xué)習(xí)的推動(dòng)下,邊緣計(jì)算的需求正在逐漸增加。相關(guān)機(jī)構(gòu)預(yù)測(cè),全球被創(chuàng)建、采集和復(fù)制的數(shù)據(jù)將急劇擴(kuò)張,至2025年達(dá)到175ZB(澤字節(jié))。為減輕數(shù)據(jù)在云端處理的負(fù)荷,越來(lái)越多的數(shù)據(jù)也將被置入邊緣側(cè)進(jìn)行運(yùn)算。作為電子設(shè)備的主控制芯片,MCU對(duì)于邊緣計(jì)算設(shè)備的數(shù)據(jù)處理和決策能力提升有著重要作用,將在邊緣AI的浪潮中迎來(lái)新的發(fā)展機(jī)遇,同時(shí)也面臨著更多的挑戰(zhàn)。
邊緣AI浪潮來(lái)襲 拓展MCU市場(chǎng)空間
物聯(lián)網(wǎng)(IoT)設(shè)備、工控、智能家居和智能穿戴等領(lǐng)域的需求,正在帶動(dòng)MCU市場(chǎng)的增長(zhǎng)。從長(zhǎng)期來(lái)看,在保證低功耗、強(qiáng)實(shí)時(shí)性的前提下,讓MCU具備更強(qiáng)的邊緣側(cè)計(jì)算和智能決策能力成為了下游市場(chǎng)的期許。
在這個(gè)過(guò)程中,邊緣AI成為智能設(shè)備發(fā)展的重點(diǎn)。邊緣AI是在物理世界的設(shè)備中部署AI應(yīng)用程序。之所以稱其為“邊緣AI”,是因?yàn)檫@種AI計(jì)算在靠近數(shù)據(jù)的位置完成。對(duì)比云端運(yùn)算,邊緣AI具備強(qiáng)實(shí)時(shí)性,數(shù)據(jù)處理不會(huì)因?yàn)殚L(zhǎng)途通信而產(chǎn)生延遲,而是能更快響應(yīng)終端用戶的需求,同時(shí)也可保證數(shù)據(jù)的隱私和安全。對(duì)比傳統(tǒng)邊緣計(jì)算只能響應(yīng)預(yù)先完成的程序輸入這一特性,邊緣AI又具備更強(qiáng)的靈活性,從而允許更多樣的信號(hào)輸入(包括文本、語(yǔ)音及多種聲光信號(hào)等)和針對(duì)特定類型任務(wù)的智能解決方案。
邊緣AI的以上特性,與MCU有著較強(qiáng)的契合度。一方面,MCU具備低功耗、低成本、實(shí)時(shí)性、開發(fā)周期短等特性,適合對(duì)成本和功耗敏感的邊緣智能設(shè)備。另一方面,人工智能算法的融入也能補(bǔ)強(qiáng)MCU,使其兼顧更高性能的數(shù)據(jù)處理任務(wù)。因此,“MCU+邊緣AI”正在圖像監(jiān)控、語(yǔ)音識(shí)別、健康狀況監(jiān)測(cè)等越來(lái)越多的領(lǐng)域得到應(yīng)用。此外,在IoT的基礎(chǔ)之上,MCU和邊緣AI的結(jié)合也將推動(dòng)AIoT(人工智能物聯(lián)網(wǎng))的發(fā)展,使各種設(shè)備能夠更加智能地互聯(lián)互通。數(shù)據(jù)機(jī)構(gòu)Mordor Intelligence預(yù)測(cè),邊緣人工智能硬件市場(chǎng)在2024至2029年間將以19.85%的年復(fù)合增長(zhǎng)率增長(zhǎng),2029年將達(dá)到75.2億美元。
“未來(lái)的MCU將面向?qū)I(yè)化、智能化方向發(fā)展?!北本┺人箓ビ?jì)算技術(shù)股份有限公司首席市場(chǎng)官劉帥告訴《中國(guó)電子報(bào)》記者,“其中智能化體現(xiàn)在兩方面,一是強(qiáng)化對(duì)AI算法和機(jī)器學(xué)習(xí)模型的支持,使得MCU擁有一定智能決策能力;二是性能提升,高端產(chǎn)品將采用多核設(shè)計(jì)以提升處理能力,滿足高性能的需求?!?/p>
集成AI加速器 強(qiáng)化MCU性能
邊緣AI為MCU帶來(lái)了諸多市場(chǎng)機(jī)遇,而想要滿足智能設(shè)備在邊緣側(cè)進(jìn)行人工智能的運(yùn)算需求,強(qiáng)化MCU的AI性能是重中之重。
“面向邊緣AI和端側(cè)AI需求,MCU需要做出以下調(diào)整以增強(qiáng)AI計(jì)算能力?!闭滓讋?chuàng)新MCU事業(yè)部產(chǎn)品市場(chǎng)總監(jiān)陳思偉表示,“一是集成AI加速器,如神經(jīng)網(wǎng)絡(luò)加速器或者專用的向量處理器,以加速AI推斷和訓(xùn)練任務(wù);二是優(yōu)化能效比,在保持性能的同時(shí)降低功耗,延長(zhǎng)設(shè)備續(xù)航時(shí)間;三是增強(qiáng)安全性,包括數(shù)據(jù)加密、安全引導(dǎo)和安全存儲(chǔ),以保護(hù)用戶數(shù)據(jù)不受攻擊;四是支持多模態(tài)感知;五是優(yōu)化系統(tǒng)集成,提供更多的硬件接口和軟件支持,使得開發(fā)人員能夠更輕松地將AI功能集成到邊緣設(shè)備中?!?/p>
在AI加速器方面,數(shù)字信號(hào)處理器(DSP)和神經(jīng)網(wǎng)絡(luò)處理器(NPU)都成為在MCU中集成的重要加速組件,讓MCU能夠在邊緣運(yùn)行AI算法。具體而言,DSP更適合信號(hào)處理任務(wù),包括音頻、視頻、通信等,而NPU則更聚焦于高效處理大量的矩陣運(yùn)算和并行計(jì)算任務(wù)。
為此,各大廠商積極布局。意法半導(dǎo)體于2023年推出STM32N6,采用Arm Cortex-M55內(nèi)核,集成ISP和NPU以提供機(jī)器視覺(jué)處理能力和AI算法部署。恩智浦推出MCX N系列MCU,具有雙核Arm Cortex-M33,并集成了eIQ Neutron NPU,據(jù)了解,該NPU可將機(jī)器學(xué)習(xí)推理性能提升約40倍。
作為大多數(shù)MCU內(nèi)核的供應(yīng)方,Arm也在邊緣側(cè)NPU上發(fā)力。4月,Arm推出Ethos-U85 NPU,作為一款A(yù)I微加速器,其支持Transformer架構(gòu)和CNN(卷積神經(jīng)網(wǎng)絡(luò)),配合Armv9 Cortex-A CPU可提供4TOPS的端側(cè)算力,助力AI推理。
Arm Ethos-U85 NPU(圖片來(lái)源:Arm)
“許多不同的處理器都可以實(shí)現(xiàn)人工智能。AI可以在Arm核中運(yùn)行,也可以在NPU、DSP當(dāng)中,不同處理器將會(huì)運(yùn)行不同算法,那么功耗也會(huì)不同。”恩智浦執(zhí)行副總裁兼安全連接邊緣業(yè)務(wù)總經(jīng)理Rafael Sotomayor表示,“是否在Arm核或者DSP中實(shí)現(xiàn)AI功能,這取決于工程團(tuán)隊(duì)的技術(shù)專長(zhǎng)。我們使用NPU來(lái)做,是因?yàn)椋◤奈覀兊募夹g(shù)出發(fā))速度更快,而且能耗更小。當(dāng)然,如果客戶對(duì)特定機(jī)器學(xué)習(xí)算法有要求,也可以繼續(xù)使用DSP?!?/p>
實(shí)現(xiàn)性能功耗成本平衡 構(gòu)建平臺(tái)化方案
盡管可以通過(guò)集成NPU等AI加速器使MCU支持AI算法,但是高性能往往會(huì)帶來(lái)更高的功耗。因此在提升性能的同時(shí),也要保證MCU在功耗和成本等諸多要素之間達(dá)到平衡。這不僅考驗(yàn)MCU廠商的芯片設(shè)計(jì)能力,也對(duì)公司整體成本和功耗優(yōu)化提出了更高要求。
使用自研NPU成為廠商平衡成本與效能的選擇之一。據(jù)悉,意法半導(dǎo)體所發(fā)布的STM32N6采用了自研的Neural-Art加速器,恩智浦MCX N系列所集成的eIQ Neutron NPU同樣為自研。這既有利于降低授權(quán)成本,也能保證在自身技術(shù)路徑下對(duì)NPU迭代節(jié)奏的合理把控。
eIQ Neutron神經(jīng)處理單元框圖(圖片來(lái)源:恩智浦)
同時(shí),內(nèi)核架構(gòu)的選項(xiàng)也在增加。當(dāng)前在MCU市場(chǎng)中,除少部分8位MCU使用CISC架構(gòu),Arm架構(gòu)的Cortex-M系列核由于功耗表現(xiàn)較好占據(jù)主流,而隨著RISC-V架構(gòu)逐漸發(fā)展,這一新興架構(gòu)也逐漸獲得廠商的青睞。據(jù)悉,ADI推出的MAX78000/2在集成專用神經(jīng)網(wǎng)絡(luò)加速器的基礎(chǔ)上,提供了Arm核與RISC-V核兩種方案,可在本地以低功耗執(zhí)行AI處理,最大程度地降低CNN運(yùn)算的能耗和延遲。
劉帥向記者表示,采用RISC-V架構(gòu)能夠?yàn)镸CU廠商帶來(lái)更多優(yōu)勢(shì),一方面,RISC-V內(nèi)核靈活可裁剪,可根據(jù)具體應(yīng)用需求進(jìn)行定制;另一方面,由于RISC-V架構(gòu)更加簡(jiǎn)潔,功耗也更低。此外,相比ARM架構(gòu),作為開源架構(gòu)的RISC-V也能降低授權(quán)費(fèi)用和開發(fā)成本。
而站在客戶的視角,除了需要MCU產(chǎn)品在高性能、低功耗、低成本等多方面達(dá)成平衡,也希望MCU廠商能夠提供平臺(tái)化的整套解決方案。
“過(guò)去客戶的選擇是自下而上的——先選擇芯片,再思考需要何種軟件、應(yīng)用等?,F(xiàn)在則是從應(yīng)用層開始,自上而下到芯片,以獲取技術(shù)支撐?!盧afael Sotomayor指出,“這些技術(shù)非常復(fù)雜,不僅涉及人工智能,還涉及信息安全、功能安全、視覺(jué)、音頻等。因此,幫助客戶簡(jiǎn)化技術(shù)的復(fù)雜性,成為廠商為客戶提供產(chǎn)品和服務(wù)的核心價(jià)值。”今年4月,恩智浦宣布與英偉達(dá)合作,將英偉達(dá)TAO工作組件集成在恩智浦eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境中,以便開發(fā)者加速開發(fā),并部署經(jīng)過(guò)訓(xùn)練的AI模型。
ADI基于MAX78000/2,提供了開發(fā)工具M(jìn)AX78000EVKIT#,以幫助開發(fā)者實(shí)現(xiàn)平穩(wěn)的評(píng)估和開發(fā)體驗(yàn)。意法半導(dǎo)體同樣推出云端開發(fā)者平臺(tái)STM32Cube.AI,支持使用者在云端對(duì)已有資源進(jìn)行配置,進(jìn)一步降低邊緣人工智能技術(shù)開發(fā)的復(fù)雜度。
綜合來(lái)看,面對(duì)邊緣AI浪潮所帶來(lái)的挑戰(zhàn),MCU廠商正在積極探索,并展示出多樣化的發(fā)展路徑。盡管架構(gòu)及AI加速器等方案的“最優(yōu)解”目前還未有定數(shù),但是對(duì)于MCU而言,在保證低功耗和低成本等基本特性的前提下,不斷提升計(jì)算能力和安全性能來(lái)適應(yīng)越發(fā)復(fù)雜的邊緣計(jì)算環(huán)境,已是大勢(shì)所趨。
責(zé)任編輯:趙強(qiáng)
- QQ:61149512