邊緣與云，這一快速技術發(fā)展中日益激烈的爭論

如今，邊緣計算一直是熱門話題。被譽為近年來最令人興奮的技術轉變，關于其變革力量的討論很多！隨著越來越強大的 AI/ML 算法重新定義“智能”以及更便宜、更強大的“邊緣”設備的可用性，這種炒作在很大程度上是真實的。但是，如果要考慮邊緣計算的歷史，它會比最近的興趣讓我們相信的更早。事實上，計算和智能最初始于邊緣，當時大多數(shù)應用程序幾乎不存在高帶寬網(wǎng)絡連接。即使在 1990 年代后期，遠程部署在工廠或現(xiàn)場的關鍵測量設備通常也具有處理傳入傳感器數(shù)據(jù)的專用計算能力。然而，這些設備中的算法在“智能”方面只是初級的：主要是信號處理或數(shù)據(jù)轉換。隨著網(wǎng)絡能力的提高和連接性的提高，基于云的計算在 2000 年代后期開始受到關注。與此同時，強大的人工智能算法作為一種從大量結構化和非結構化數(shù)據(jù)中解鎖有意義信息的手段而備受關注。在短短十年內(nèi)，云 AI 已成為 AI 應用程序的首選。但是，向云的轉變也帶來了幾個問題：數(shù)據(jù)上傳和下載成本、網(wǎng)絡可靠性和數(shù)據(jù)安全等等。與此同時，隨著價格實惠但功能強大的邊緣設備的興起，邊緣計算在處理能力和成本或占地面積之間的權衡正在減少。似乎我們現(xiàn)在又回到了考慮“邊緣計算”作為構建智能應用程序的可行且有吸引力的選擇。

隨著關于邊緣人工智能和云人工智能哪個更好的辯論越來越激烈，任何熟悉這兩個框架的人都可能會回答“這要看情況了！”。原因是邊緣和云基礎設施不是競爭的，而是互補的框架。在過去的幾年里，兩者都經(jīng)歷了巨大的發(fā)展和完善，特別是作為人工智能開發(fā)和部署的基礎。與任何技術選擇一樣，選擇實際上可歸結為具體的應用:目標、價值驅動因素、經(jīng)濟性以及對功耗、尺寸和連接性的任何限制。因此，在嘗試建立正確的基礎設施之前，必須了解云和邊緣人工智能的利弊。

當尋求靈活性、可擴展性和易于部署時，基于云的人工智能是一個有吸引力的選擇。如今，大多數(shù)云服務提供商為人工智能模型的培訓和部署提供了強大的框架，并提供了按需付費的包，幾乎沒有前期承諾或投資。云提供了幾乎沒有限制的計算和存儲選項，使其特別適合大型人工智能模型。但對于需要連續(xù)評估傳感器或圖像數(shù)據(jù)的實時應用程序來說，這可能會成為一個笨拙的選擇，因為它們必須來回傳輸數(shù)據(jù)，從而導致巨大的成本。這種數(shù)據(jù)傳輸也使得云在很大程度上不適合需要閉環(huán)控制或即時行動的低延遲應用程序。

另一方面， 邊緣人工智能是自動報警或閉環(huán)控制的實時數(shù)據(jù)分析的合理選擇。雖然邊緣基礎設施確實需要在邊緣硬件上進行前期投資，但運營成本與云相比要低得多。今天，有各種各樣的邊緣人工智能硬件選項可用，包括npu(神經(jīng)處理單元)、TPU(張量處理單元)以及帶有專用人工智能加速器的SOC(片上系統(tǒng))和SoMs(模塊上系統(tǒng))。人工智能的低成本和低功耗硬件是一個活躍的研究領域，并有可能提供更好的選擇。另一方面，基于人工智能的消費應用必須處理相當多樣化的邊緣設備(手機、平板電腦、個人電腦等)，這使得邊緣部署成為一個潛在的令人生畏的前景。因此，邊緣基礎設施可能不利于快速原型開發(fā)，也不容易擴展。雖然聯(lián)合學習，AI模型的分布式訓練的概念允許在邊緣進行訓練和部署，但云仍然是訓練需要足夠計算能力的大型模型的邏輯選擇。

但解決方案不一定是非此即彼的選擇。隨著應用程序過渡到更多基于微服務的架構，它們可以分解為具有自己特定部署框架的更小的功能或微服務。因此，不必在云和邊緣之間進行選擇，重點可以放在針對特定應用程序優(yōu)化使用兩者。例如，一個應用程序可能從云上的快速原型開始。隨著它的發(fā)展，需要低延遲和實時決策的功能可以轉移到邊緣，而那些需要規(guī)模和靈活性的功能可以保留在云中。模型訓練或再訓練可以在云端集中管理，而邊緣的一些聯(lián)邦學習可以在本地提高準確性。同樣，敏感數(shù)據(jù)可以在邊緣處理，更通用的數(shù)據(jù)可以轉移到云端。

組織、開發(fā)人員和從業(yè)者最好不要將云和邊緣視為不同的替代方案，而是將其視為從邊緣到云的連續(xù)統(tǒng)一體，中間有許多不同的基礎設施選項。這包括不同類型的邊緣——運營邊緣、網(wǎng)絡邊緣、移動端點等，以及網(wǎng)絡上不同類型的分布式處理——私有云、公共云、小云、霧計算等。雖然復雜性可能是一個挑戰(zhàn)，但找到正確的技術組合開始為組織提供一個獨特的機會，以最大限度地提高人工智能的價值，同時最大限度地降低成本和風險。