邊緣計算已成為最受關(guān)注的技術(shù)趨勢之一,伴伴隨所有這些話題,也許你會認為是時候為你的物聯(lián)網(wǎng)網(wǎng)絡投資智能邊緣技術(shù)了。然則,在開始購買新的邊緣設備之前,讓我們探討一下邊緣計算到底是什么,它的作用是什么,以及應用是否能從邊緣技術(shù)中受益。
邊緣計算可以為物聯(lián)網(wǎng)網(wǎng)絡增加大量的靈活性、速度和智能,但重要的是要認識邊緣人工智能(Edge AI)設備并不能解決智能網(wǎng)絡應用面臨的所有挑戰(zhàn)。在本文的最后,在確定邊緣技術(shù)是否適合應用之后,我們將探討買家在評估邊緣AI設備時應該考慮的主要特性和考慮因素。
何為邊緣計算
邊緣計算在云的邊緣將物聯(lián)網(wǎng)提升到一個更高的層次,原始數(shù)據(jù)可以實時轉(zhuǎn)化為價值。通過在整個網(wǎng)絡中重新分配數(shù)據(jù)處理工作,提升了連接節(jié)點、端點和其他智能設備的重要性和治理。
邊緣計算近乎與云計算完全相反,在云計算中,數(shù)據(jù)從分布式網(wǎng)絡流入,在集中的數(shù)據(jù)中心進行處理,結(jié)果通常被傳輸回原始的分布式網(wǎng)絡,以觸發(fā)動作或產(chǎn)生變化。然則,長距離傳輸大量數(shù)據(jù)會產(chǎn)生成本的。這些成本可以用金錢來衡量,但也可以用其他關(guān)鍵的方式來衡量,例如用權(quán)力或時間。
這就是邊緣計算的切入點。當功率、帶寬和延遲真的很重要時,邊緣計算可能是答案。與集中式云計算不同的是,在中心化云計算中,數(shù)據(jù)可能要穿越數(shù)百英里才能被處理,邊緣計算使數(shù)據(jù)能夠在數(shù)據(jù)被感知、建立或駐留的同一網(wǎng)絡邊緣位置處理。這意味著處理延遲近乎可以忽略不計,對功率和帶寬的要求通常也大大降低。
當今邊緣計算的主要推動者之一是半導體制造商在不大幅增加功耗的情況下提高處理能力的方式。這意味著位于邊緣的處理器可以在不消耗更多功率的情況下運用它們獲取的數(shù)據(jù)做更多事情。這允許更多的數(shù)據(jù)停留在邊緣,而不是被傳輸?shù)胶诵?。除了降低系統(tǒng)總功率外,這還增加了響應時間并改善了數(shù)據(jù)隱私。
受益于這一發(fā)展的一些技術(shù)包含AI和機器學習,但這些也依賴于降低數(shù)據(jù)獲取成本,同時提高數(shù)據(jù)隱私級別。通過邊緣處理可以同時解決成本和隱私問題。就AI和ML等新興趨勢而言,這兩種技術(shù)傳統(tǒng)上都需要大量資源,遠遠超過端點或智能設備中通??捎玫馁Y源?,F(xiàn)在,考慮到硬件和軟件水平的進步,還可以將這些支持技術(shù)嵌入到位于網(wǎng)絡邊緣的更小、資源更有限的設備中。
評估邊緣AI
選擇能夠執(zhí)行邊緣處理的平臺,可能包含運行AI算法或ML推理引擎,這需要仔細評估。簡單的傳感器和執(zhí)行器,即使是屬于物聯(lián)網(wǎng)的一部分,也可以通過相對較小的集成設備實現(xiàn)。增加邊緣處理的數(shù)量將需要一個更強大的平臺,可能使用高度并行的架構(gòu)。通常情況下,這意味著GPU,但假如平臺太強大,它將成為網(wǎng)絡邊緣有限資源的負擔。
同樣重要的是要記住,邊緣設備基本上是現(xiàn)實世界的接口,故此它可能需要支持一些常見的接口技術(shù),如以太網(wǎng),GPIO,CAN、串行和/或USB)。它也可能需要支持外圍設備,如攝像頭、鍵盤和顯示器。
邊緣也可以是與舒適的氣候控制數(shù)據(jù)中心截然不同的環(huán)境。邊緣設備可能暴露在極端的溫度,濕度,振動甚至高度。這將對設備的選擇產(chǎn)生影響,以及怎樣包裝或封裝。
另一個需要考慮的重要方面是監(jiān)管要求。任何使用射頻進行通信的設備都將受到法規(guī)的約束,并可能需要許可證才能運行。一些平臺將“開箱即用”遵守規(guī)定,但其他平臺可能需要付出更多努力。一旦投入使用,它們就不太可能得到硬件升級,故此必須在設計周期內(nèi)仔細確定處理能力、內(nèi)存和存儲,以便為未來的性能提升提供空間。
這包含軟件升級。與硬件不同的是,可以在設備在現(xiàn)場時部署軟件更新。這些無線更新現(xiàn)在非常常見,很可能任何邊緣設備都需要設計為支持OTA更新。
選擇正確的解決方案將觸及對所有這些一般點的仔細評估,以及仔細研究應用程序的特定需求。例如設備是否需要處理視頻數(shù)據(jù),亦或音頻數(shù)據(jù),亦亦或只處理溫度,還是也監(jiān)測其他環(huán)境方面。這些問題中的很多適用于部署在前沿的所有技術(shù),但伴隨加工水平的提高和對產(chǎn)出的期望的提高,將有必要擴大要求列表。
邊緣計算的好處
現(xiàn)在,將AI和ML放入邊緣設備和智能節(jié)點中在技術(shù)上是可能的,這將帶來重大的機遇。這意味著處理引擎不僅更接近數(shù)據(jù)源,而且該引擎可以對它收集的數(shù)據(jù)做更多的事情。
這樣做確實有好處。首先,它可以提高生產(chǎn)力,或數(shù)據(jù)使用的效率。其次,它簡化了網(wǎng)絡架構(gòu),因為移動的數(shù)據(jù)更少。第三,它使接近數(shù)據(jù)中心變得不那么重要。假如數(shù)據(jù)中心在城市中,那么最后一點可能看起來不太重要,不過假如網(wǎng)絡的邊緣是一個偏遠的位置,例如農(nóng)場或水處理廠,那么這一點就會有很大的不同。
不可否認的是,數(shù)據(jù)在互聯(lián)網(wǎng)上快速移動。很多人可能會驚訝地發(fā)現(xiàn),搜索查詢可能會在結(jié)果出現(xiàn)在屏幕上之前在全世界范圍內(nèi)傳播兩次??偨?jīng)過的時間可能只有幾分之一秒,而對我們來說,這近乎是瞬間的。但對于組成互聯(lián)、智能且通常是自主的傳感器和執(zhí)行器的互聯(lián)網(wǎng)的機器和其他智能設備來說,每一秒都感覺像是一個小時。
這種往返延遲是實時系統(tǒng)的制造商和開發(fā)人員真正關(guān)心的問題。數(shù)據(jù)往返于數(shù)據(jù)中心所花費的時間并非無關(guān)緊要,當然也不是瞬間的。減少這種延遲是邊緣計算的一個關(guān)鍵目標。它與更快的網(wǎng)絡協(xié)同工作,這是5G發(fā)揮作用的地方。不過,伴隨更多的設備上線,推出更快的網(wǎng)絡將無法彌補我們預期的累積網(wǎng)絡延遲。
分析人士預測,到2030年,聯(lián)網(wǎng)設備的數(shù)量可能會達到500億臺。假如這些設備中的每一個都需要一個數(shù)據(jù)中心的寬頻帶,那么網(wǎng)絡將永遠擁塞。假如它們中的很多在管道中運行,等待上一階段的數(shù)據(jù)到達,那么總延遲很快就會變得非常明顯。邊緣計算是緩解擁塞網(wǎng)絡的唯一可行的解決方案。
然則,雖說總體上對邊緣計算有一定的需求,但邊緣計算的具體好處依舊在很大程度上取決于應用,這就是邊緣計算法則的應用。這些定律將幫助工程團隊決定邊緣計算是否適合特定應用。
邊緣計算的4大定律
物理定律
第一定律是物理定律,這個是不可變的。射頻能量以光速傳播,就像光纖網(wǎng)絡中的光子一樣。這是好消息。壞消息是它們不能再快了。故此,假如往返時間依舊不夠快,那么邊緣計算可能是正確的選擇。
Ping測試提供了一種簡單的方法,可以測量數(shù)據(jù)包在網(wǎng)絡連接的兩個端點之間傳輸所需的時間。在線游戲通常托管在多個服務器上,玩家將ping服務器,直到他們找到延遲最低的服務器,這意味著數(shù)據(jù)可以以最快的速度傳播。這就是時間敏感數(shù)據(jù)的關(guān)鍵,即使是幾分之一秒。
延遲也不完全依賴于傳輸機制。每一端都有編碼器和解碼器,這些物理層需要將電子轉(zhuǎn)換成所使用的任何能量形式,然后再將它們轉(zhuǎn)換回來。所有這些都需要時間,即使處理器以千兆赫的速度運行,時間也是有限的,而且取決于所移動的數(shù)據(jù)量。
經(jīng)濟學定律
這種方法可能更靈活一些,但伴隨處理和存儲資源需求的飆升,它也更難以預測。利潤總是微薄的,但假如在云計算中處理數(shù)據(jù)的成本突然上升,它可能證明盈利或虧損之間的差別。
云服務的成本開始于購買或租用服務器、機架或刀片的成本。這取決于CPU內(nèi)核的數(shù)量、所需的RAM或永久存儲的數(shù)量以及服務級別。有保證的正常運行時間比沒有保證的服務水平花費更多。網(wǎng)絡帶寬基本上是免費的,不過假如需要最低水平的帶寬,那么應該為此付出代價,在評估成本時需要考慮到這一點。
也就是說,在邊緣處理數(shù)據(jù)不受這種可變成本的影響。一旦設備的初始成本已經(jīng)產(chǎn)生,在邊緣處理任何數(shù)量的數(shù)據(jù)的額外成本近乎為零。
數(shù)據(jù)保護法
數(shù)據(jù)之所以有價值,是因為它意味著或代表著某些東西。現(xiàn)在,捕獲信息的任何人現(xiàn)在都可能受制于捕獲該數(shù)據(jù)所在地區(qū)的數(shù)據(jù)隱私法。這意味著,即使是捕獲數(shù)據(jù)的設備的合法所有者,也可能不允許跨越地理邊界移動數(shù)據(jù)。
比如,這將包含《歐盟數(shù)據(jù)保護指令》、《通用數(shù)據(jù)保護條例》和《亞太經(jīng)濟合作隱私框架》。加拿大的《個人信息保護與電子文檔法》與歐盟的數(shù)據(jù)保護法相符合,而美國的《安全港安排》也與歐盟的數(shù)據(jù)保護法相符合。
邊緣處理可以克服這一點。通過在邊緣處理數(shù)據(jù),它不需要離開設備。在便攜式消費設備中,數(shù)據(jù)隱私愈來愈重要,手機上的面部識別使用本地AI來處理攝像頭圖像,所以數(shù)據(jù)永遠不會離開設備。閉路電視和其他安全監(jiān)控系統(tǒng)也是如此。使用攝像頭監(jiān)控公共空間通常意味著圖像由基于云的數(shù)據(jù)服務器傳輸和處理,這會帶來數(shù)據(jù)隱私問題。在相機中處理數(shù)據(jù)既快又安全,可能消除或簡化數(shù)據(jù)隱私措施的需要。
墨菲定律
最后,我們需要考慮墨菲定律,該定律指出,假如某件事可能出錯,它就會出錯。當然,即使在世界上最精心設計的系統(tǒng)中,也總會出現(xiàn)問題。邊緣處理可以消除與通過網(wǎng)絡移動數(shù)據(jù)相關(guān)的很多可能的故障點,將其存儲在云中并依靠數(shù)據(jù)中心提供處理能力。
假如一個應用程序在技術(shù)上可以從邊緣處理中受益,那么還有一些問題要問。以下是一些最相關(guān)的建議:
(1)應用運行在什么處理器架構(gòu)上
將軟件移植到不同的指令集可能代價高昂,并會帶來延遲,故此升級不應該意味著移出。
(2)需要什么樣的I/O
這可以是任意數(shù)量的有線和/或無線接口。假如考慮不周會招致效率低下,故此需要盡早解決故此需要盡早解決這個問題。
(3)運行環(huán)境是什么
運行環(huán)境是冷是熱,例如火星任務是邊緣處理的一個很好的例子,假如是極端的,運行環(huán)境是巨大的變化。
(4)硬件是否需要符合規(guī)定或需要認證
答案近乎是肯定的,所以選擇一個預認證平臺可以節(jié)省時間和金錢。
(5)需要多少功率
就單位成本和安裝而言,系統(tǒng)電源很昂貴,所以認識功率是非常有益的。
(6)邊緣設備是否受限于形狀尺寸
這在邊緣處理中比很多其他部署更重要,故此需要在設計周期的早期考慮。
(7)工作時間是多少
這是進入可能需要運行多年的工業(yè)應用,還是以月為單位測量生命周期,這些都是需要我們考慮清楚的。
(8)系統(tǒng)的性能要求是什么
就處理能力而言,例如每秒幀數(shù)、內(nèi)存要求、應用語言等等。
(9)是否有成本考慮
這是一個棘手的問題,因為答案總是“是”,但知道成本限制是什么將有益于選擇過程。
結(jié)論
邊緣處理是通過物聯(lián)網(wǎng)實現(xiàn)的,但它的意義遠不止于此。它是由比早期連接設備示例更高的期望驅(qū)動的。低層次,有共性;該設備可能需要低功耗,可能需要低成本,但現(xiàn)在它可能還需要在不與功耗和成本沖突的情況下提供更高水平的智能操作。
通過選擇合適的技術(shù)合作伙伴,可以更容易地選擇合適的平臺。進入一個圍繞邊緣計算開發(fā)的生態(tài)系統(tǒng),為AI應用選擇正確的邊緣計算平臺。?