近年來(lái)，伴隨著人工智能技術(shù)與應(yīng)用的快速發(fā)展與迭代，其對(duì)算力的要求不斷提高，而作為算力核心的人工智能芯片，自然而然也受到了產(chǎn)業(yè)界的強(qiáng)烈關(guān)注。其中，作為深度學(xué)習(xí)和人工智能領(lǐng)域的專用芯片——NPU，正在逐漸走向“舞臺(tái)中央”。

　　NPU：高效能、低功耗、穩(wěn)定性

　　NPU，即神經(jīng)網(wǎng)絡(luò)處理器，是一種專門設(shè)計(jì)用于加速人工智能（AI）和機(jī)器學(xué)習(xí)（ML）應(yīng)用的芯片，它采用了數(shù)據(jù)驅(qū)動(dòng)并行計(jì)算架構(gòu)，使得NPU在處理視頻、圖像等多媒體數(shù)據(jù)時(shí)具有超強(qiáng)的性能，旨在高效、低功耗地執(zhí)行機(jī)器學(xué)習(xí)尤其是深度學(xué)習(xí)任務(wù)。

　　相較于傳統(tǒng)的CPU和GPU，NPU在AI計(jì)算方面具有更高的效能和更低的功耗。NPU針對(duì)深度學(xué)習(xí)算法所需的復(fù)雜計(jì)算進(jìn)行了優(yōu)化，能夠高效地完成深度學(xué)習(xí)、圖像識(shí)別等任務(wù)，大幅提升了AI處理的性能。而且由于NPU的特定優(yōu)化，使其在運(yùn)行AI任務(wù)時(shí)功耗更低，延長(zhǎng)了設(shè)備的續(xù)航時(shí)間。此外，NPU通常具有很好的容錯(cuò)性和可靠性，即使在高負(fù)載、復(fù)雜計(jì)算任務(wù)的情況下，也能夠保持穩(wěn)定的計(jì)算性能。

　　一開始，NPU主要用于提升智能手機(jī)的相機(jī)功能、電池續(xù)航和安全性等。如今，隨著AI技術(shù)與應(yīng)用的普及，NPU已逐漸成為人工智能技術(shù)中不可或缺的組成部分之一，其優(yōu)勢(shì)愈發(fā)明顯，并正在快速地?cái)U(kuò)展到更多應(yīng)用場(chǎng)景中。當(dāng)前，NPU被廣泛應(yīng)用于人臉識(shí)別、智能語(yǔ)音、自動(dòng)駕駛、智能安防、智能家居、智慧醫(yī)療、工業(yè)質(zhì)檢等各種人工智能應(yīng)用場(chǎng)景中，為各行各業(yè)帶來(lái)更多的智能化解決方案。

　　邊緣智能，NPU或是最佳選擇

　　前不久，高通發(fā)布了《通過(guò)NPU和異構(gòu)計(jì)算開啟終端側(cè)生成式AI》報(bào)告，其中提到：“隨著生成式AI用例需求在有著多樣化要求和計(jì)算需求的垂直領(lǐng)域不斷增加，需要專為AI定制設(shè)計(jì)的全新計(jì)算架構(gòu)……通過(guò)結(jié)合NPU使用合適的處理器，異構(gòu)計(jì)算能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航，賦能全新增強(qiáng)的生成式AI體驗(yàn)?！?/p>

　　近年來(lái)，隨著物聯(lián)網(wǎng)設(shè)備的廣泛部署與大數(shù)據(jù)的爆炸式增長(zhǎng)，對(duì)于能夠即時(shí)處理和分析數(shù)據(jù)的需求愈發(fā)迫切。加上近段時(shí)間，大模型持續(xù)向邊緣側(cè)和端側(cè)滲透，AI計(jì)算和推理工作逐步從云端轉(zhuǎn)移到邊緣和端側(cè)，于是邊緣計(jì)算逐漸成為了AI應(yīng)用的重要場(chǎng)景，端、邊緣市場(chǎng)的AI算力需求也由此逐漸爆發(fā)。

　　那么，在此背景下，NPU易開發(fā)、高效能、低功耗等優(yōu)勢(shì)逐漸凸顯出來(lái)，憑借著其在邊緣設(shè)備上執(zhí)行機(jī)器學(xué)習(xí)和深度學(xué)習(xí)任務(wù)的能力，能夠有效地執(zhí)行圖像識(shí)別、語(yǔ)音處理等AI任務(wù)，從而在邊緣設(shè)備上實(shí)現(xiàn)快速的智能決策和響應(yīng)。

　　當(dāng)下，在人工智能的高速發(fā)展下，NPU作為人工智能時(shí)代的核心驅(qū)動(dòng)力之一，其發(fā)展與應(yīng)用正深刻改變著各行各業(yè)，其不僅賦予了終端設(shè)備更強(qiáng)大的智能化能力，也為千行百業(yè)的數(shù)智化升級(jí)提供了有力支持。未來(lái)，隨著技術(shù)的不斷進(jìn)步和應(yīng)用領(lǐng)域的持續(xù)拓展，NPU將更加智能、高效、節(jié)能，成為推動(dòng)社會(huì)智能化轉(zhuǎn)型的中堅(jiān)力量，為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)更多的驚喜。

　　NPU相關(guān)企業(yè)布局

　　芯原股份：宣布集成了芯原神經(jīng)網(wǎng)絡(luò)處理器（NPU）IP的人工智能（AI）類芯片已在全球范圍內(nèi)出貨超過(guò)1億顆。

　　國(guó)科微：公司通過(guò)自主研發(fā)成功推出了NPU，實(shí)現(xiàn)了低中高算力的全場(chǎng)景布局，打造全系邊端AI芯片標(biāo)配NPU技術(shù)，賦能多元化智能應(yīng)用場(chǎng)景落地。

　　瑞芯微：公司新推出的SoC芯片大部分搭載了自研NPU，可以在低待機(jī)功耗的同時(shí)提供優(yōu)秀的邊緣AI算力，滿足市場(chǎng)對(duì)智能化、算力的需求。

　　北京君正：公司的NPU技術(shù)已應(yīng)用于T40、T41、A1等芯片中，且已量產(chǎn)銷售。

　　云天勵(lì)飛：DeepEdge10作為首顆云天自研的SOC芯片，搭載新一代自研NPU（NNP400T）。

　　智微智能：公司提供AI服務(wù)器和AIBOX邊緣設(shè)備，推出基于GPU、多家ASIC AI加速卡、ARM NPU的多系列產(chǎn)品。

　　全志科技：公司深入分析AI算法的應(yīng)用場(chǎng)景，主動(dòng)積極推進(jìn)NPU和DSP的AI專用算力在終端產(chǎn)品應(yīng)用的落地。

　　高通：提出通過(guò)NPU和異構(gòu)計(jì)算將開啟終端側(cè)生成式AI時(shí)代。其Hexagon NPU面向低功耗、高性能的AI推理而設(shè)計(jì)，通過(guò)定制設(shè)計(jì)NPU和控制指令集架構(gòu)（ISA），能夠快速進(jìn)行設(shè)計(jì)演進(jìn)和擴(kuò)展。其中，高通的Hexagon NPU在終端側(cè)AI推理方面表現(xiàn)出色，其性能提升達(dá)到98%，能效提升達(dá)到40%。

　　英特爾：正式發(fā)布新一代酷睿Ultra移動(dòng)處理器，該處理器還集成了用于客戶端的片上AI加速器“神經(jīng)網(wǎng)絡(luò)處理單元（NPU）”，AI性能高達(dá)48 TOPS，最高達(dá)上一代產(chǎn)品的4倍，能夠相應(yīng)提高生成式AI的性能。

　　AMD：宣布推出Ethos-U85 NPU。作為Arm面向邊緣AI的第三代NPU產(chǎn)品，Ethos-U85在性能方面提升了四倍；較上一代產(chǎn)品在能效方面擁有20%的提升，還可在常用神經(jīng)網(wǎng)絡(luò)上實(shí)現(xiàn)85%的利用率。

　　……