技術(shù)
導(dǎo)讀:安謀科技正式發(fā)布了自研新一代人工智能處理器“周易”X2 NPU,稱“周易”X2 NPU不僅在算力、精度、靈活性等方面進(jìn)行了大幅提升,還針對(duì)車(chē)載、邊緣計(jì)算等應(yīng)用場(chǎng)景進(jìn)行了專門(mén)優(yōu)化。
由于芯片緊缺情況緩解,國(guó)際車(chē)企銷(xiāo)量正在回升。根據(jù)統(tǒng)計(jì)數(shù)據(jù),2023年2月中國(guó)汽車(chē)市場(chǎng)恢復(fù),占世界汽車(chē)份額32%,中國(guó)車(chē)企的發(fā)展機(jī)會(huì)儼然來(lái)臨。
此時(shí)隨著車(chē)企都陸續(xù)以提高智能化水平為提高競(jìng)爭(zhēng)力的主要手段,越來(lái)越多的攝像頭、傳感器等感知設(shè)備被安裝進(jìn)汽車(chē)中,對(duì)算力、幀率、數(shù)據(jù)安全性、人機(jī)交互能力等多方面的需求水漲船高。
從邏輯上說(shuō),智能化需要人工智能技術(shù)支撐,優(yōu)秀的AI產(chǎn)品離不開(kāi)NPU的運(yùn)行支持。
3月28日,安謀科技正式發(fā)布了自研新一代人工智能處理器“周易”X2 NPU,稱“周易”X2 NPU不僅在算力、精度、靈活性等方面進(jìn)行了大幅提升,還針對(duì)車(chē)載、邊緣計(jì)算等應(yīng)用場(chǎng)景進(jìn)行了專門(mén)優(yōu)化。同時(shí),安謀科技正式發(fā)布“周易”NPU軟件開(kāi)源計(jì)劃,通過(guò)開(kāi)放源碼,滿足客戶更自主、更靈活的算法移植需求,攜手合作伙伴共建國(guó)內(nèi)NPU產(chǎn)業(yè)生態(tài)。
物聯(lián)傳媒了解到,新勢(shì)力汽車(chē)品牌是“周易”X2 NPU準(zhǔn)的重要合作伙伴,并且“周易”X2 NPU已經(jīng)面向客戶正式交付,預(yù)計(jì)今年會(huì)有多款搭載“周易”X2 NPU的芯片產(chǎn)品面世。
“最開(kāi)始是支持芯片客戶,之后會(huì)從生態(tài)、軟件合作伙伴到應(yīng)用,甚至參與或支持一些標(biāo)準(zhǔn)法規(guī)的建立。希望到2030年,能夠?qū)崿F(xiàn)支持中國(guó)自動(dòng)駕駛成熟量產(chǎn)方案的落地?!卑仓\科技執(zhí)行副總裁、產(chǎn)品研發(fā)負(fù)責(zé)人劉澍在發(fā)布會(huì)上表示。
汽車(chē)AI應(yīng)用場(chǎng)景:區(qū)別于手機(jī),算力和帶寬需求突出
以手機(jī)拍照為例,AI應(yīng)用主要是對(duì)一路視頻的處理,比如去噪聲、虛化背景、美顏、超分辨率等,最終的用戶對(duì)象是人。
反觀汽車(chē)場(chǎng)景,因?yàn)橹悄荞{駛汽車(chē)均部署多個(gè)攝像頭,因此AI首先就要完成多路視頻的融合處理,以及還要對(duì)不同種類(lèi)傳感器收集來(lái)的數(shù)據(jù)進(jìn)行匯總分析,支撐設(shè)備自動(dòng)做出決策。
顯然,落地于汽車(chē)的AI處理能力與手機(jī)或其他物聯(lián)網(wǎng)終端相比風(fēng)格迥異,突出的特征表現(xiàn)在“對(duì)算力有更大的需求”:
智能音箱、掃地機(jī)器人、智能攝像頭等AIoT設(shè)備的算力要求一般在1TOPS-4TOPS范圍內(nèi);手機(jī)、智能座艙的算力要求一般是10TOPS-30TOPS;PC的算力需求一般在45TOPS;高級(jí)駕駛輔助系統(tǒng)(ADAS)的算力要求則可能達(dá)到幾百TOPS級(jí)別。
對(duì)照“周易”X2 NPU的產(chǎn)品介紹,其采用第三代“周易”架構(gòu),支持多核Cluster,最高可達(dá)320TOPS算力。
如何做到算力提升?
據(jù)安謀科技NPU產(chǎn)品總監(jiān)楊磊介紹:“周易”X2有一個(gè)集群(Cluster)的概念,有多個(gè)NPU的核,比如說(shuō)有1到4個(gè)核,這樣就構(gòu)成了一個(gè)Cluster,這樣算力就有成倍的提升。Cluster內(nèi)部有總線的互聯(lián),用于數(shù)據(jù)的溝通和維護(hù),也有內(nèi)部的存儲(chǔ)系統(tǒng),協(xié)調(diào)不同的核間的數(shù)據(jù)通信。再往上一級(jí)還支持多個(gè)Cluster,這樣整個(gè)算力又可以成倍向上提升,所以“周易”X2 NPU這代產(chǎn)品是通過(guò)了多核構(gòu)成Cluster,多個(gè)Cluster構(gòu)成了一個(gè)子系統(tǒng)的方案完成大算力產(chǎn)品形態(tài)的交付。其中有一個(gè)很核心的功能,就是任務(wù)調(diào)度器,它可以同時(shí)調(diào)度多個(gè)Cluster的多個(gè)核心。
另外,隨著汽車(chē)和手機(jī)圖像數(shù)據(jù)的分辨率越來(lái)越大,高分辨率不僅對(duì)算力要求提升,對(duì)帶寬的需求也是成倍增加。節(jié)省帶寬同時(shí)成為一項(xiàng)重要的需求。
“通過(guò)采用i-Tiling的技術(shù)方案,‘周易’X2 NPU大幅減少了帶寬需求,降低了系統(tǒng)成本。i-Tiling的原理是把一個(gè)很大的圖片拆分成若干個(gè)小塊,這樣每一個(gè)tile就變得很小,小的好處是可以在芯片上,也就是芯片內(nèi)部的memory緩存在內(nèi)部,這樣就不需要把這個(gè)數(shù)據(jù)從外面的設(shè)備中做讀寫(xiě)操作,從而從根本上節(jié)省了對(duì)外部帶寬的需求?!睏罾谡f(shuō),“我們采用了這樣的技術(shù)之后,就可以把40G帶寬縮減到只需要4G帶寬就可以完成這個(gè)工作?!?/p>
圖:“周易”X2 NPU主要產(chǎn)品特征
另外,“周易”NPU不只是提供硬件的NPU IP,還支持提供上層一整套完整的“周易”Compass軟件平臺(tái),通過(guò)平臺(tái)中模型編譯器等工具組件調(diào)試性能、分析異常。汽車(chē)領(lǐng)域客戶也可以基于平臺(tái)自定義算子,構(gòu)建具有獨(dú)特優(yōu)勢(shì)的技術(shù)或方案。
行業(yè)碎片化情況下,開(kāi)源計(jì)劃打開(kāi)需求“白盒”
安謀科技統(tǒng)計(jì)了過(guò)去一年里國(guó)內(nèi)60個(gè)用到NPU的芯片項(xiàng)目,發(fā)現(xiàn)其中大概55%的項(xiàng)目用的是自研NPU,剩下部分是基于IP的解決方案。
尤其在汽車(chē)場(chǎng)景,起因是硬件終端企業(yè)高度重視算法和數(shù)據(jù)的安全性,假設(shè)在軟件部署過(guò)程中遇到問(wèn)題,仍然希望獨(dú)立完成需求的開(kāi)發(fā)和測(cè)試,對(duì)將資源開(kāi)放給芯片廠或IP公司存在顧慮。當(dāng)企業(yè)都選擇自建生態(tài)、自研芯片時(shí),可以想象行業(yè)碎片化將要加重,應(yīng)用繁榮也將受到阻礙。
為此,企業(yè)更強(qiáng)烈的訴求是“白盒開(kāi)發(fā)”:即軟件部署的過(guò)程中工具鏈?zhǔn)且栽创a的形式提供的,他們可以基于NPU做出新的算子,并且獨(dú)立實(shí)現(xiàn)。
“周易”NPU軟件開(kāi)源計(jì)劃應(yīng)運(yùn)而生。
開(kāi)源好處:在滿足合作伙伴更自主、更靈活的算法移植需求的同時(shí),進(jìn)一步提升軟件開(kāi)發(fā)效率,避免重復(fù)造輪。
開(kāi)源內(nèi)容:在“周易”NPU軟件開(kāi)源計(jì)劃下,安謀科技已率先對(duì)外開(kāi)放NPU中間表示層規(guī)范、模型解析器、模型優(yōu)化器、驅(qū)動(dòng)等,并向相關(guān)合作伙伴提供“周易” Compass軟件平臺(tái),包括軟件模擬器、調(diào)試器、C編譯器等在內(nèi)的多種軟件工具。并且這也只是NPU開(kāi)源計(jì)劃的第一步,后續(xù)還將逐步開(kāi)放更多資源,如模型量化、算子實(shí)現(xiàn)等源代碼。
圖:“周易”NPU軟件開(kāi)源計(jì)劃(綠色部分是第一階段開(kāi)源內(nèi)容)
開(kāi)源成果:“周易”NPU軟件開(kāi)源計(jì)劃已經(jīng)有第一批合作伙伴率先加入,其中不乏來(lái)自AIoT、智能汽車(chē)、智能操作系統(tǒng)等領(lǐng)域的明星企業(yè)。
楊磊指出:“最新的一代V3架構(gòu)是免費(fèi)授權(quán)的。從擴(kuò)大生態(tài)的角度,合作伙伴不一定非要用安謀科技的NPU,可以通過(guò)參與開(kāi)源的項(xiàng)目來(lái)自己做NPU,從而共建一個(gè)軟件的生態(tài)?!?/p>
另外,2022年7月起安謀科技開(kāi)啟了生態(tài)伙伴計(jì)劃。不僅關(guān)注NPU,安謀科技整個(gè)自研矩陣都是“計(jì)劃”中的一部分,面向產(chǎn)業(yè)鏈上下游所有可能的參與者,幫助他們構(gòu)建產(chǎn)品及方案。截止目前,共有40多家合作伙伴參與到“計(jì)劃”中,包括汽車(chē)領(lǐng)域內(nèi)的芯片提供商、tier1、tier2和算法廠商,AIoT、高性能計(jì)算等領(lǐng)域的合作伙伴。
安謀科技持續(xù)推進(jìn)“產(chǎn)品自研”之路
根據(jù)物聯(lián)傳媒了解,“周易”NPU 2018年立項(xiàng),2019年第一顆搭載“周易”的芯片成功面世。截止目前,“周易”推出了Z系列和X系列兩大類(lèi)產(chǎn)品:
Z系列主要面向AIoT場(chǎng)景,特征是算力要求不高、對(duì)成本敏感,比如智能音箱、掃地機(jī)器人、電視機(jī)、機(jī)頂盒、安防攝像頭等。
X系列主要面向大算力場(chǎng)景,例如手機(jī)、PC、汽車(chē)的智能座艙、自動(dòng)駕駛汽車(chē)等。
值得一提的是,無(wú)論是面向新興的AIoT市場(chǎng)還是更大規(guī)模計(jì)算領(lǐng)域,Z系列與X系列實(shí)際共用了一套NPU架構(gòu),例如本次“周易”X2是第一款基于V3架構(gòu)的NPU,相比于V1、V2架構(gòu),V3架構(gòu)更強(qiáng)調(diào)并行性和可擴(kuò)展性,但V3架構(gòu)支持向前兼容V1、V2的軟件。安謀科技的一站式服務(wù),也體現(xiàn)在從硬件IP到軟件平臺(tái)的全面覆蓋上。
安謀科技NPU研發(fā)高級(jí)總監(jiān)孫錦鴻為此表示:“安謀科技擁有超過(guò)130位工程師組成的NPU研發(fā)團(tuán)隊(duì),負(fù)責(zé)開(kāi)發(fā)包含硬件和軟件的NPU全棧研發(fā),人員主要分布在上海、深圳、北京?!?/p>
而從公司整體業(yè)務(wù)發(fā)展方向來(lái)看,安謀科技作為芯片IP領(lǐng)域的明星企業(yè),近5年來(lái)都堅(jiān)定自研產(chǎn)品路線,構(gòu)建了“周易”NPU、“星辰”CPU、“山?!盨PU、“玲瓏”ISP、“玲瓏”VPU 五大產(chǎn)品線,自研IP已經(jīng)向超過(guò)160個(gè)本土客戶進(jìn)行授權(quán),客戶基于自研IP的芯片出貨量已經(jīng)超過(guò)2億顆。
對(duì)這家公司的未來(lái)發(fā)展,安謀科技執(zhí)行副總裁、產(chǎn)品研發(fā)負(fù)責(zé)人劉澍強(qiáng)調(diào):
“我們不是追求更多、更雜,而是更精、更專??萍夹袠I(yè)是日新月異的,國(guó)際上的領(lǐng)先公司都在向更高的領(lǐng)域、更個(gè)性化的領(lǐng)域突破。作為中國(guó)科技產(chǎn)業(yè)的一份子,安謀科技同樣希望在更新、更高性能的領(lǐng)域如智能汽車(chē)產(chǎn)業(yè)、邊緣服務(wù)器產(chǎn)業(yè)等貢獻(xiàn)力量……”