相信每個人可能都經(jīng)歷過這樣一種挫敗感——當(dāng)你拿起手機調(diào)出語音轉(zhuǎn)文字功能口述一封郵件時，卻發(fā)現(xiàn)手機并未聯(lián)網(wǎng)，無法使用這一功能。現(xiàn)在，隨著新一代邊緣人工智能芯片的問世，人工智能可直接嵌入各類設(shè)備當(dāng)中，將大大減少這種令人挫敗的情況發(fā)生。

我們預(yù)測，2020年邊緣人工智能芯片——執(zhí)行或加速設(shè)備內(nèi)，而非遠程數(shù)據(jù)中心的機器學(xué)習(xí)任務(wù)的芯片或芯片部件——銷量將超過7.5億片，創(chuàng)造26億美元的收入。這一數(shù)據(jù)是德勤2017年預(yù)測3億片邊緣人工智能芯片銷量的兩倍以上，三年復(fù)合年均增長率高達36%。此外，我們還預(yù)測邊緣人工智能芯片市場將繼續(xù)加速發(fā)展，增長速度將超過芯片市場整體平均水平。至2024年，邊緣人工智能芯片銷量預(yù)計將超過——甚至可能遠遠超過——15億片，年銷量增長率將達到至少20%，是半導(dǎo)體行業(yè)整體長期預(yù)測9%的復(fù)合年均增長率的兩倍以上。

這些邊緣人工智能芯片很大可能將流向數(shù)量日益增長的消費級設(shè)備，如高端智能手機、平板電腦、智能音箱及可穿戴設(shè)備等，同時亦將應(yīng)用于多個企業(yè)市場——機器人、攝像頭、傳感器及其他物聯(lián)網(wǎng)設(shè)備。兩者均是十分重要的市場。消費級邊緣人工智能芯片市場規(guī)模遠大于企業(yè)市場，但其增長速度可能相對較慢，2020至2024年的復(fù)合年均增長率預(yù)計將為18%。

企業(yè)級邊緣人工智能芯片市場發(fā)展時間雖然較短，直到2017年才出現(xiàn)首個商用企業(yè)級邊緣人工智能芯片，但增長速度更快，同一時段的復(fù)合年均增長率預(yù)測將高達50%。

至2024年，邊緣人工智能芯片銷量預(yù)計將超過15億片，甚至可能遠遠超過這一數(shù)據(jù)，年銷量增長率將達到至少20%，是半導(dǎo)體行業(yè)整體長期預(yù)測9%的復(fù)合年均增長率的兩倍以上。

無所不在：人工智能計算的廣泛覆蓋

直至最近，人工智能計算幾乎都只能通過數(shù)據(jù)中心、企業(yè)核心設(shè)備或電信邊緣處理器遠程完成，而非設(shè)備本身。原因在于，人工智能計算極度占用處理器資源，需要成百上千個不同類型的（傳統(tǒng)）芯片來執(zhí)行運算。而硬件的體積、成本及耗用功率決定了人工智能計算陣列不可能被放置于任何比手提箱還小的容器中。

如今，邊緣人工智能芯片徹底改變了這種局面。邊緣人工智能芯片體積更小，成本更低，耗用功率更少，產(chǎn)生的熱量更少，能夠集成于智能手機等手持設(shè)備以及機器人等非消費級設(shè)備，使這些設(shè)備自身能夠執(zhí)行處理器密集型人工智能計算，從而減少或消除了將大量數(shù)據(jù)發(fā)送至遠程位置的需要，極大提升了設(shè)備的可用性和速度，以及數(shù)據(jù)的安全性和保密性。

當(dāng)然，并非所有的人工智能計算都必須通過設(shè)備完成。對部分應(yīng)用程序而言，將數(shù)據(jù)發(fā)送至遠程人工智能計算陣列進行處理可能合乎需要，甚至是更優(yōu)選擇——比如當(dāng)數(shù)據(jù)量遠遠超出設(shè)備邊緣人工智能芯片的處理能力的時候。實際上，大多數(shù)時候人工智能計算均將采用混合方式：一部分由設(shè)備自身執(zhí)行，另一部分通過云完成。任何情況下的優(yōu)先組合方式均將取決于需要完成的人工智能計算類型。

在這里解釋一下“電信邊緣”的含義。電信邊緣計算——圖2所描述的“遠邊緣網(wǎng)絡(luò)”——指由微型數(shù)據(jù)中心執(zhí)行的計算，這些微型數(shù)據(jù)中心位置盡可能與客戶相近，位于電信公司的土地上，由電信公司所有和運營。它們目前采用與數(shù)據(jù)中心相似的人工智能芯片（體積大、成本高、功耗大），但隨著時間的推移可能會開始裝備本章所討論的部分同類型邊緣人工智能芯片（消費級或企業(yè)級）。但是與邊緣設(shè)備計算不同，電信邊緣計算所使用的芯片位于電信公司網(wǎng)絡(luò)而非實際終端設(shè)備的邊緣。此外，并非所有電信邊緣計算都屬于人工智能智能計算。

據(jù)行業(yè)分析，2020年電信邊緣計算市場（包括人工智能的所有類型計算）的收入將達到210億美元，相比2019年的增長率將超過100%，同時2021年該市場預(yù)計還將以超過50%的增速繼續(xù)增長。這一市場各類別的精確細分并未向公眾公開，但分析認(rèn)為，2020年其人工智能部分預(yù)計依然處于剛剛起步的階段，收入規(guī)模不會超過10億美元，在電信邊緣計算支出總額中的占比亦不會超過5%。

消費級邊緣人工智能：

價格亦可親民

2020年，無論在銷售數(shù)量和銷售額方面，消費級設(shè)備市場均將占整個邊緣人工智能芯片市場超過九成的份額。這些邊緣人工智能芯片絕大部分將流向高端智能手機，當(dāng)前在用的所有消費級邊緣人工智能芯片中超過70%均用于智能手機。這意味著在2020年及未來數(shù)年，人工智能芯片的發(fā)展將主要由智能手機推動——智能手機的銷量以及采用邊緣人工智能芯片的比例均會影響人工智能芯片的增長。銷量方面的趨勢較為樂觀。在經(jīng)歷了2019年的低迷增長后（銷量同比下降了2.5%），2020年智能手機銷量有望達到15.6億部，與2018年銷量基本持平，增長2.8%。我們認(rèn)為，2020年智能手機市場將有超過三分之一的手機配備邊緣人工智能芯片。

采用邊緣人工智能芯片的設(shè)備并非只有智能手機，其他設(shè)備如平板電腦、可穿戴設(shè)備及智能音箱等亦將配備這種芯片（圖3）。短期內(nèi)，這些非智能手機設(shè)備對邊緣人工智能芯片銷量的影響遠不及智能手機，原因是設(shè)備的市場沒有增長（如平板電腦），或是市場規(guī)模過小，難以產(chǎn)生實質(zhì)性影響（如2020年智能音箱和可穿戴設(shè)備的整體銷量預(yù)計僅達到1.25億臺）。然而，許多可穿戴設(shè)備和智能音箱均依賴邊緣人工智能芯片，因此其滲透率已經(jīng)是較高水平。

邊緣人工智能芯片絕大部分將流向高端智能手機，當(dāng)前在用的所有消費級邊緣人工智能芯片中超過70%均用于智能手機。

智能手機邊緣人工智能芯片的經(jīng)濟分析

目前，僅價格最高的智能手機——即價格分布中排名前三分之一的手機——才可能配備邊緣人工智能芯片。盡管如此，部分價格低于1,000美元的手機亦配備了人工智能。一些由中國企業(yè)制造、配備人工智能的手機，如小米9等，在西方國家的售價甚至低于500美元。此外，如下文所述，智能手機配備人工智能芯片并不意味著其價格會令消費者望而卻步。

智能手機邊緣人工智能芯片的成本計算雖然是一個間接的過程，但也可能得出較為可靠的預(yù)測。不能直接計算成本原因在于，智能手機的“人工智能芯片”并不僅僅只是將一片單獨的芯片安裝在手機里。如今的智能手機，厚度僅有七八毫米，內(nèi)部并沒有空間放置多個獨立的芯片。許多各類不同的必備功能（處理、圖形、內(nèi)存、聯(lián)網(wǎng)及現(xiàn)在的人工智能）均集成在同一被稱為系統(tǒng)級芯片應(yīng)用程序處理器的硅芯片膜上?！叭斯ぶ悄苄酒保ㄈ羰謾C配備）指整片硅芯片膜中用于執(zhí)行或加速機器學(xué)習(xí)計算的部分，其制造材料與芯片的其他部分完全相同，亦采用相同的制造工序和工具。

它由數(shù)以億計的標(biāo)準(zhǔn)晶體管組成，但與芯片的常規(guī)處理或圖形部分的排列方式不同，即具有不同的架構(gòu)。該人工智能部分通常（并未總是）被稱為神經(jīng)處理單元。

邊緣人工智能芯片在中國

中國5G商用推進，人工智能應(yīng)用場景較為豐富且受政府支持，前期優(yōu)秀的人工智能廠商及初創(chuàng)公司發(fā)展至一定規(guī)模，加速了產(chǎn)業(yè)鏈的成熟并催生了更多機會，人工智能邊緣計算將會是未來最重要的市場之一。國內(nèi)的人工智能公司正研發(fā)推出邊緣計算芯片，并與韓國等芯片制造強國的公司合作，提高高性能芯片的制造能力。相較于云計算，邊緣計算高效、安全的邊緣側(cè)數(shù)據(jù)處理能力吸引越來越多的老牌芯片企業(yè)、科技巨頭和初創(chuàng)企業(yè)成為市場參與者。

目前在中國，邊緣計算芯片最主要的市場仍為智慧安防領(lǐng)域，且落地應(yīng)用布局較為成熟。未來，隨著技術(shù)進步及5G的全面鋪開，無人駕駛、智慧家居、智能交通、智能制造等領(lǐng)域可能迎來更大的增長空間。但邊緣計算芯片市場仍面臨挑戰(zhàn)，終端設(shè)備的電池容量有限，要求AI芯片的能效較低需具備更卓越的算力性能，才能更好的服務(wù)端的人工智能計算需求。而中國的基礎(chǔ)芯片制造存在短板，在制造和封裝、高速接口和集成電路IP核方面還需要技術(shù)積累和時間沉淀。

迄今為止，三星、Apple及華為三家公司已制作了其手機處理器的圖像，用于展示其硅芯片膜的所有功能，使分析人員能夠清楚看到芯片上用于不同功能的部分。如三星的Exynos9820芯片照片便顯示，整個芯片內(nèi)約5%的區(qū)域被用于人工智能處理器。三星整個系統(tǒng)級芯片應(yīng)用程序處理器的成本預(yù)估為70.50美元，是整個手機中成本第二高的部件（僅次于顯示屏），占設(shè)備材料總成本17%。假設(shè)人工智能部分的成本與芯片上的其他部件相同，Exynos芯片的邊緣人工智能神經(jīng)網(wǎng)絡(luò)處理器約占芯片總成本的5%，單片成本約為3.50美元。

同樣，Apple公司的A12仿生芯片將約7%的區(qū)域用于機器學(xué)習(xí)。整個芯片的成本預(yù)估為72美元，因此其邊緣人工智能部分的成本為5.10美元。華為麒麟970芯片成本預(yù)估為52.50美元，其用于神經(jīng)網(wǎng)絡(luò)處理器的部分占2.1%，因而成本則為1.10美元。（芯片膜區(qū)域并非衡量芯片總成本中人工智能成本占比的唯一方法，但據(jù)華為所稱，麒麟970的神經(jīng)網(wǎng)絡(luò)處理器含有1.5億個晶體管，占整個芯片全部55億個晶體管的2.7%。如此計算，其神經(jīng)網(wǎng)絡(luò)處理器的成本稍高，為1.42美元。）

雖然成本區(qū)間差異較大，但我們亦可合理地將神經(jīng)網(wǎng)絡(luò)處理器的平均成本假定為每片芯片3.50美元。盡管價格較低，這一數(shù)據(jù)乘以5億部智能手機的銷量（還未算上平板電腦、音箱及可穿戴設(shè)備），便是一個規(guī)模巨大的市場。更重要的，面對3.50美元的平均制造成本——最低甚至僅為1美元，是否在智能手機處理芯片中增加專用的邊緣人工智能神經(jīng)網(wǎng)絡(luò)處理器便成為一個無需考慮的問題。假設(shè)價格會上漲，制造成本增加1美元，但轉(zhuǎn)至終端客戶后的價格也僅增加不過2美元。這意味著即使是價格低至250美元的智能手機，亦可配備神經(jīng)網(wǎng)絡(luò)處理器及其附帶的功能——更優(yōu)化的攝像頭、離線語音助理等，而價格僅會上漲不到1%。

智能手機及其他設(shè)備制造商可采用不同方法獲取邊緣人工智能芯片，其決定主要受到手機機型和地域（有時候）等因素的影響。部分制造商從專門制造和銷售應(yīng)用程序處理器/調(diào)制解調(diào)器但不制造手機的第三方公司購買應(yīng)用程序處理器/調(diào)制解調(diào)器。高通和聯(lián)發(fā)科便是兩個著名的例子——2018年，這兩家公司在智能手機系統(tǒng)級芯片市場中的份額共達到了約60%。高通和聯(lián)發(fā)科均提供一系列價格不一的系統(tǒng)級芯片；雖然并非所有芯片均含有邊緣人工智能芯片，其高端產(chǎn)品通常都有配備，包括高通的驍龍845和855，以及聯(lián)發(fā)科的Helio P60。

另一方面，Apple公司卻并不使用外部應(yīng)用程序處理器芯片，而是使用自己設(shè)計的系統(tǒng)級芯片處理器，如A11、A12和A13仿生芯片，這些處理器均配備了邊緣人工智能。三星、華為等其他設(shè)備制造商則采用了混合策略，從外購市場硅芯片供應(yīng)商采購系統(tǒng)級芯片的同時使用自身設(shè)計制造的芯片（如三星的Exynos 9820、華為的麒麟970/980）。

邊緣人工智能芯片能做什么？

也許把問題改成“有什么是邊緣人工智能芯片做不到的？”會更貼切。如今，機器學(xué)習(xí)使各種技術(shù)能力成為現(xiàn)實，包括但不限于生物測定測定、面部檢測與識別、增強及虛擬現(xiàn)實相關(guān)的各類技術(shù)、趣圖過濾、語音識別、語言翻譯、語音協(xié)助……以及照片、照片、照片！從隱去皺紋到添加3D特效到實現(xiàn)超弱光攝影，邊緣人工智能硬件和軟件——而非鏡頭或感光元件的像素大小——已成為高端智能手機攝像頭實現(xiàn)差異化競爭的決定性因素。

雖然所有這些功能亦可通過未配備邊緣人工智能芯片的處理器甚至云技術(shù)實現(xiàn)，利用邊緣人工智能芯片執(zhí)行這些功能能夠顯著提升效率和速度，并減少功耗（從而提升電池壽命）。在設(shè)備內(nèi)執(zhí)行這些處理過程亦能夠保障隱私性和安全性——個人信息不離開手機便無法被攔截或濫用。同時配備邊緣人工智能芯片的手機，即使在未連接網(wǎng)絡(luò)的情況下亦能夠?qū)崿F(xiàn)所有這些功能。

企業(yè)級邊緣人工智能：

機遇誕生的沃土

如果智能手機和其他設(shè)備使用的邊緣人工智能處理器如此強大，為何不將他們用于企業(yè)級應(yīng)用程序呢？事實上，這早已出現(xiàn)在一些用例之中，如某些自動飛行無人機。配備智能手機系統(tǒng)級芯片應(yīng)用程序處理器的無人機，能夠?qū)崟r完全在設(shè)備內(nèi)部執(zhí)行導(dǎo)航避障功能，而無需連接至任何網(wǎng)絡(luò)。

然而，針對智能手機或平板電腦進行優(yōu)化的芯片并非許多企業(yè)級或工業(yè)級應(yīng)用程序的最佳選擇。這種情況與芯片制造商在上世紀(jì)80年代面臨的中央處理器狀況類似。當(dāng)時的中央處理器具有強大的計算能力和高度的靈活性，性能出色，是個人電腦這一多用途工具的絕佳選擇。

但是，將同樣的中央處理器用于諸如自動調(diào)溫器等設(shè)備中，只為增加一點點智能，卻根本毫無意義。那時，中央處理器體積太大，無法裝入自動調(diào)溫器狹小的空間中，同時功耗遠遠高于現(xiàn)在的水平，成本更是達到每個約200美元，對于總成本僅需20美元以下的設(shè)備而言太過高昂。為解決這此不足，一個完整的產(chǎn)業(yè)應(yīng)運而生，生產(chǎn)出具備電腦中央處理器部分功能，但體積更小、成本更低、功耗更少的芯片。

且慢。如前所述，智能手機系統(tǒng)級芯片的邊緣人工智能部分僅占總芯片區(qū)域約5%，在總成本中僅占據(jù)3.50美元，同時功耗較整個系統(tǒng)級芯片低約95%。那能否僅制造具備內(nèi)存等少量其他必要功能的邊緣人工智能部分，從而使成本更低、耗電更少且體積更小呢？

一些企業(yè)已經(jīng)這樣做了，還有更多企業(yè)會參與進來。例如，英特爾和谷歌目前正在向開發(fā)者銷售內(nèi)部開發(fā)的獨立邊緣人工智能芯片。英偉達是領(lǐng)先的圖形處理器制造商，生產(chǎn)通常用于數(shù)據(jù)中心人工智能加速的圖形處理器——體積大，耗電達數(shù)百瓦，成本亦高達數(shù)千美元。如今，該公司銷售的是定制化人工智能專用芯片（非圖形處理器），適用于體積更小、成本更低、功耗更少的邊緣設(shè)備。高通——領(lǐng)先的智能手機及其他消費級設(shè)備外購市場內(nèi)置邊緣人工智能處理核心的系統(tǒng)級芯片制造商——也已發(fā)布兩款獨立的邊緣人工智能芯片，性能較其制造的系統(tǒng)級芯片更為強大，但成本更低、體積更小、耗電更少。華為亦是如此。

總體上，共有50家不同公司據(jù)稱正在研發(fā)各種類型的人工智能加速器。除27家從事專用集成電路芯片的企業(yè)外，現(xiàn)場可編程門陣列制造商亦提供邊緣人工智能芯片版本，用于數(shù)據(jù)中心以外的領(lǐng)域。2019年市場上的獨立邊緣人工智能芯片均面向開發(fā)者，他們基本是一次購買一片，每片價格約為80美元。購買數(shù)量達到數(shù)千或數(shù)百萬片時，設(shè)備制造商的采購成本會遠低于此——有些低至1美元（甚至更低），有些為數(shù)十美元?，F(xiàn)在，以智能手機邊緣人工智能芯片為例，我們假設(shè)平均成本約3.50美元。

上世紀(jì)80年代，中央處理器具有強大的計算能力和高度的靈活性，性能出色，是個人電腦這一多用途工具的絕佳選擇。

除價格相對較貴外，獨立的邊緣人工智能處理器具有體積小的優(yōu)勢。部分處理器甚至小到可以裝入U盤之中，最大的亦可安裝于信用卡大小的主板上。這些處理器功耗相對較低，僅為1-10瓦。相比之下，一個性能十分強大、擁有16個圖形處理器和兩個中央處理器的數(shù)據(jù)中心組件成本高達40萬美元，重達350磅（約160公斤），功耗達到10,000瓦。

隨著這些芯片的應(yīng)用，邊緣人工智能可為企業(yè)開創(chuàng)更多新的機遇，尤其在物聯(lián)網(wǎng)應(yīng)用程序領(lǐng)域。利用邊緣人工智能芯片，企業(yè)可極大增強自身能力，能夠深入分析（而不僅僅是收集）來自聯(lián)網(wǎng)設(shè)備的數(shù)據(jù)，并將分析結(jié)果轉(zhuǎn)換為行動，同時避免將大量數(shù)據(jù)發(fā)送至云端產(chǎn)生的高昂成本、復(fù)雜問題和安全挑戰(zhàn)。

人工智能芯片能夠助力解決的問題包括：

數(shù)據(jù)安全和隱私。數(shù)據(jù)的收集、儲存和向云端轉(zhuǎn)移會不可避免地使企業(yè)面臨網(wǎng)絡(luò)安全和隱私方面的威脅，即使在企業(yè)十分重視數(shù)據(jù)保護的情況下亦是如此。隨著時間的推移，這種極為重要的風(fēng)險愈發(fā)需要企業(yè)高度重視予以解決。各國政府正不斷推出個人身份信息的相關(guān)法規(guī)，消費者對企業(yè)收集的信息亦愈加警惕——有80%的消費者表示并不認(rèn)為企業(yè)正在盡力采取措施保護消費者的隱私。部分設(shè)備（如智能音箱）正逐步應(yīng)用于病人隱私監(jiān)管更為嚴(yán)格的醫(yī)院等環(huán)境之中。

通過在內(nèi)部實現(xiàn)大量數(shù)據(jù)的處理，邊緣人工智能芯片可有效減少個人或企業(yè)數(shù)據(jù)被攔截或濫用的風(fēng)險。例如，具備機器學(xué)習(xí)處理功能的安全攝像頭可進行視頻分析，確定具有相關(guān)意義的視頻片段，并僅將這些片段發(fā)送至云端，從而降低隱私風(fēng)險。機器學(xué)習(xí)芯片亦能夠識別更為廣泛的語音指令，從而減少需要在云端進行分析的音頻量。準(zhǔn)確度更高的語音識別還能帶來額外的助益，使智能音箱能夠更準(zhǔn)確地檢測到“喚醒詞”，從而避免聽取不相關(guān)的對話內(nèi)容。

低聯(lián)網(wǎng)要求。要將數(shù)據(jù)發(fā)送至云端處理，設(shè)備必須聯(lián)網(wǎng)。而在某些情況下，設(shè)備聯(lián)網(wǎng)并不現(xiàn)實。以無人機為例。基于無人機的運行環(huán)境，設(shè)備可能會難以保持聯(lián)網(wǎng)狀態(tài)，同時聯(lián)網(wǎng)及將數(shù)據(jù)上傳至云端還會降低電池壽命。在澳大利亞新南威爾士，人們利用內(nèi)置人工智能的無人機在沙灘上巡邏，以確保游泳者的安全。這些無人機能夠識別被卷入激流的游泳者，或在他們受到鯊魚及鱷魚攻擊前向其發(fā)出危險警告——這均在未聯(lián)網(wǎng)的情況下完成。

（超）大數(shù)據(jù)。物聯(lián)網(wǎng)設(shè)備能夠產(chǎn)生大量的數(shù)據(jù)。例如，空客A-350噴氣式飛機配備了超過6,000個感應(yīng)器，每飛行一天便能產(chǎn)生2.5太字節(jié)的數(shù)據(jù)。33全球范圍內(nèi)的攝像頭每天產(chǎn)生的數(shù)據(jù)高達2,500拍字節(jié)。若將這些數(shù)據(jù)全部發(fā)送至云端進行存儲和分析，不僅成本高昂，操作也極為復(fù)雜。將機器學(xué)習(xí)處理器裝在端點（感應(yīng)器抑或攝像頭）便能解決這一問題。例如，攝像頭可配備視覺處理器——這是一種低功率系統(tǒng)級芯片處理器，專用于對數(shù)字圖像進行分析或預(yù)處理。內(nèi)置邊緣人工智能芯片的設(shè)備能夠?qū)崟r分析數(shù)據(jù)，并僅向云端傳輸具有相關(guān)性的數(shù)據(jù)作進一步分析，同時忽略其他數(shù)據(jù)，從而降低存儲和帶寬成本。

功率限制。低功率機器學(xué)習(xí)芯片甚至能使電池容量小的設(shè)備在不過度消耗功率的情況下執(zhí)行人工智能計算。例如，ARM芯片正逐漸應(yīng)用于呼吸器中以進行數(shù)據(jù)分析，如吸氣肺容量和藥物進入肺部的流動等。呼吸器自身便能完成這種人工智能分析，并將結(jié)果發(fā)送至智能手機應(yīng)用，幫助醫(yī)療保健專業(yè)人員為哮喘病患者制定定制化的護理方案。除當(dāng)前可用的低功率邊緣人工智能神經(jīng)網(wǎng)絡(luò)處理器外，科技公司亦在開發(fā)“微型化機器學(xué)習(xí)”——設(shè)備上的深度學(xué)習(xí)，大小形同微控制器單元（類似于前述的系統(tǒng)級芯片，但體積更小，結(jié)構(gòu)較為簡單，功耗更低，僅消耗數(shù)毫瓦甚至微瓦電量）。例如，谷歌正在為TensorFlow Lite開發(fā)另一版本，以使微控制器能夠進行數(shù)據(jù)分析，將需要發(fā)送至芯片外的數(shù)據(jù)壓縮至數(shù)個字節(jié)。

低延遲要求。無論通過有線還是無線網(wǎng)絡(luò)，利用遠程數(shù)據(jù)中心執(zhí)行人工智能計算意味著將會出現(xiàn)至少1-2毫秒的來回延遲，這是最好的情況；最差情況下的延遲可達數(shù)十甚至數(shù)百毫秒。采用邊緣人工智能芯片在設(shè)備上執(zhí)行人工智能計算，可將這種延遲降低至納秒級——這在要求設(shè)備必須瞬時完成數(shù)據(jù)收集、處理并據(jù)此采取行動的應(yīng)用情境下具有極其重要的意義。例如，自動駕駛汽車必須通過計算機視覺系統(tǒng)收集和處理巨量的數(shù)據(jù)以識別周圍物體，并利用汽車內(nèi)置的不同感應(yīng)器控制汽車的各項功能。

自動駕駛汽車必須立即將這些數(shù)據(jù)轉(zhuǎn)變?yōu)椴煌臎Q定——如何時轉(zhuǎn)變、剎車或加速——以確保汽車行駛的安全。（今天的自動駕駛汽車采用各種不同的芯片實現(xiàn)這些功能，包括標(biāo)準(zhǔn)的圖形處理器以及邊緣人工智能芯片。）低延遲對機器人而言亦十分重要，且隨著機器人逐漸走出工廠與人類并肩工作，低延遲的重要性會愈加凸顯。

訓(xùn)練與推理的區(qū)別，以及對以數(shù)據(jù)中心為基礎(chǔ)的人工智能的意義

邊緣人工智能芯片所實現(xiàn)的人工智能更準(zhǔn)確的名稱是深度機器學(xué)習(xí)。它由兩個部分構(gòu)成。第一部分是訓(xùn)練。訓(xùn)練需要重復(fù)不斷地分析大量歷史數(shù)據(jù)，從這些數(shù)據(jù)中檢測不同的模式，并針對這種類型的模式檢測生成算法。第二部分是推理。在推理中，經(jīng)過訓(xùn)練過程產(chǎn)生的算法（常通過進一步的訓(xùn)練不斷更新和調(diào)整）被用于分析新的數(shù)據(jù)，挖掘有價值的結(jié)果。

直到最近，機器學(xué)習(xí)軟件的所有訓(xùn)練和推理還使用同一標(biāo)準(zhǔn)的芯片——中央處理器、圖形處理器、現(xiàn)場可編程門陣列以及專用集成電路的混合。這些芯片體積大，成本高，功耗大，還會釋放大量熱量；因此，基于這些芯片打造的硬件均安放在數(shù)據(jù)中心之中。相比之下，本章所討論的邊緣人工智能芯片主要或只執(zhí)行推理任務(wù)，所采用的算法則通過數(shù)據(jù)中心的訓(xùn)練產(chǎn)生。雖然一些邊緣人工智能芯片亦執(zhí)行訓(xùn)練任務(wù)，但大部分訓(xùn)練仍舊主要在數(shù)據(jù)中心完成。

有趣的是，雖然過去數(shù)據(jù)中心芯片同時被用于訓(xùn)練和推理，我們?nèi)缃窨吹?，?shù)據(jù)中心芯片的發(fā)展正呈現(xiàn)出不同的特點，部分芯片的優(yōu)化側(cè)重于訓(xùn)練，而部分則側(cè)重于推理。38這種相對較新的發(fā)展將會產(chǎn)生何種影響尚未明確。但一個可能的趨勢是，隨著邊緣人工智能芯片的崛起，當(dāng)前數(shù)據(jù)中心訓(xùn)練和推理處理組合將逐步向重訓(xùn)練、輕推理轉(zhuǎn)變。若真如此，這種專用的數(shù)據(jù)中心芯片尤其有助于提升靈活性，使正在經(jīng)歷訓(xùn)練和推理重心轉(zhuǎn)變的數(shù)據(jù)中心相應(yīng)地調(diào)整自身硬件組合。

小 結(jié)

誰將從邊緣人工智能芯片市場的增長中受益呢？很明顯，這對邊緣人工智能芯片的制造企業(yè)而言是十分有利的。從幾年前的基本為零，到2020年將實現(xiàn)超過25億美元的新增收入，這些企業(yè)未來數(shù)年還將取得每年20%的增長，利潤水平有望與行業(yè)平均水平相當(dāng)。但是這一數(shù)據(jù)應(yīng)置于具體的環(huán)境之中。2020年全球半導(dǎo)體行業(yè)收入預(yù)計為4,250億美元，39邊緣人工智能芯片僅占其中很小的一部分，無法對整個行業(yè)的格局產(chǎn)生影響，甚至難以改善制造企業(yè)的業(yè)績。

事實上，那些對設(shè)備人工智能有需求的人受益更大。邊緣人工智能芯片不僅能大幅提升現(xiàn)有設(shè)備的能力，亦將催生具備新功能和市場的全新設(shè)備。長遠來看，后者很可能將推動邊緣人工智能芯片產(chǎn)生更具變革性的影響。

部分處理功能（早期主要為推理）從核心轉(zhuǎn)至邊緣是否會對人工智能芯片制造企業(yè)產(chǎn)生不利影響？我們無法確定。所有人工智能芯片制造企業(yè)亦在制造邊緣人工智能芯片，因此處理功能從核心向邊緣的轉(zhuǎn)變也許只會產(chǎn)生很小的影響，甚至沒有影響。同時，人工智能處理需求迅速增長，有可能會推動整個行業(yè)的增長：人工智能芯片行業(yè)（包括邊緣及數(shù)據(jù)中心領(lǐng)域）預(yù)計將從2018年的60億美元規(guī)模增長至2025年超過900億美元，復(fù)合年均增長率達到45%。40潛在的負(fù)面因素在于，成本更低、體積更小及功耗更少的邊緣人工智能芯片的興起，可能會迫使數(shù)據(jù)中心人工智能芯片的定價甚至銷量出現(xiàn)下行。這在過去已有發(fā)生：在半導(dǎo)體行業(yè)歷史上，邊緣處理芯片的普及頻繁導(dǎo)致主機/核心處理硬件價格以僅基于根據(jù)摩爾定律的增長預(yù)測更快的速度下降。

也有人認(rèn)為將人工智能處理從核心轉(zhuǎn)至邊緣會對云人工智能企業(yè)造成損害。這是不太可能的。近期預(yù)測顯示，2024年云人工智能或“人工智能即服務(wù)”市場的收入將從2018年的20億美元增長至近120億美元，復(fù)合年均增長率達到34%。41若沒有邊緣人工智能芯片，這一增長也許可能會更加強勁，但仍表明云人工智能的增長速度將近于整體云市場的兩倍——至2023年云市場的復(fù)合年均增長率預(yù)測為18%。

同樣，也有人擔(dān)心如果邊緣設(shè)備能夠直接執(zhí)行人工智能推理，那么這些設(shè)備便不再需要聯(lián)網(wǎng)了。這也是不太可能發(fā)生的。邊緣人工智能設(shè)備將依然需要與網(wǎng)絡(luò)核心進行通信——發(fā)送數(shù)據(jù)用于人工智能訓(xùn)練、接收最新人工智能算法進行推理，以及許多其他原因。正因如此，我們預(yù)計所有或基本所有邊緣智能設(shè)備將會具備聯(lián)網(wǎng)功能。

但是這種聯(lián)網(wǎng)的性質(zhì)可能與兩三年前的預(yù)測有所不同。當(dāng)時，人工智能推理僅限于大型數(shù)據(jù)中心，而智能物聯(lián)網(wǎng)設(shè)備必須聯(lián)網(wǎng)才能獲取這些人工智能推理能力——不僅是舊的網(wǎng)絡(luò)，還有具有超高網(wǎng)速、服務(wù)質(zhì)量保障、高聯(lián)網(wǎng)密度以及最低延遲的網(wǎng)絡(luò)。這些特性過去——如今依然——只有5G無線網(wǎng)絡(luò)才具備。因此，當(dāng)時人們自然認(rèn)定所有采用人工智能的物聯(lián)網(wǎng)設(shè)備亦需要——也只能——使用5G。

如今，這種認(rèn)定不再成立。設(shè)備本身能夠執(zhí)行一大部分人工智能處理并不能消除聯(lián)網(wǎng)的需要，但是這種聯(lián)網(wǎng)并不一定需要通過5G網(wǎng)絡(luò)。當(dāng)然，5G在某些情況下仍是必要的，同時5G市場預(yù)計將會迅猛增長，至2025年的復(fù)合年均增長率將高達55%，每年增長超過60億美元。43但由于邊緣人工智能芯片的出現(xiàn)，5G物聯(lián)網(wǎng)領(lǐng)域的市場機會可能會稍稍小于較數(shù)年前的預(yù)測。

邊緣人工智能芯片的普及很可能將推動消費者和企業(yè)發(fā)生顯著改變。對于消費者，邊緣人工智能芯片能夠?qū)崿F(xiàn)眾多功能——從手機解鎖，到與語音助手對話，再到在極端環(huán)境下拍攝震撼人心的照片等等——這些功能此前只有連接互聯(lián)網(wǎng)才能實現(xiàn)。但長期來看，邊緣人工智能芯片只有應(yīng)用于企業(yè)之中，使企業(yè)能夠?qū)⒆陨砦锫?lián)網(wǎng)應(yīng)用推升至一個全新的高度，才能產(chǎn)生更大的影響。在人工智能芯片的助力下，智能機器能幫助制造、建筑、物流、農(nóng)業(yè)及能源行業(yè)企業(yè)拓展現(xiàn)有市場，與行業(yè)巨頭競爭，轉(zhuǎn)變利潤分配的格局。收集和解讀大量數(shù)據(jù)、并據(jù)此采取行動的能力，對許多正在日益普及的數(shù)據(jù)密集型應(yīng)用至關(guān)重要：視頻監(jiān)控、虛擬現(xiàn)實、自動飛行無人機和自動駕駛汽車等等。這種未來很大程度上取決于邊緣人工智能芯片所能帶來的改變：將智能融入設(shè)備之中。

本文首發(fā)于德勤《2020科技、傳媒和電信行業(yè)預(yù)測》報告。