在數(shù)字時(shí)代的今天，人工智能已經(jīng)成為企業(yè)數(shù)字化轉(zhuǎn)型的核心驅(qū)動(dòng)力。隨著軟硬件技術(shù)的不斷發(fā)展，在終端設(shè)備上部署AI已經(jīng)成為主流趨勢，邊緣AI引起眾多用戶的關(guān)注。

那么，什么是邊緣AI？邊緣AI與邊緣計(jì)算有哪些區(qū)別？邊緣AI有哪些優(yōu)勢？部署邊緣AI面臨著哪些挑戰(zhàn)？本文將詳細(xì)進(jìn)行解讀。

什么是邊緣AI？

邊緣AI是指在終端設(shè)備上運(yùn)行AI應(yīng)用，即使在不連接網(wǎng)絡(luò)的情況下，靠終端設(shè)備上的算力也能夠流暢運(yùn)行諸如大模型等各種AI應(yīng)用。

我們知道，AI對算力有著極高的要求，在終端設(shè)備上部署AI應(yīng)用，同樣需要強(qiáng)大的算力。為了降低邊緣AI應(yīng)用對終端設(shè)備帶來的算力要求，目前行業(yè)的普遍做法是通過在本地或云上數(shù)據(jù)中心完成數(shù)據(jù)的訓(xùn)練任務(wù)，在終端設(shè)備上執(zhí)行模型的推斷和預(yù)測，這樣就能夠很好地降低終端設(shè)備運(yùn)行AI應(yīng)用的算力需求。實(shí)際上，最近備受大家關(guān)注的AI PC，本質(zhì)上就是邊緣AI的一種形式。

邊緣AI與邊緣計(jì)算有哪些區(qū)別？

邊緣AI與邊緣計(jì)算最大的區(qū)別在于，邊緣AI是在終端設(shè)備上運(yùn)行具體的AI應(yīng)用，而邊緣計(jì)算是一種基礎(chǔ)架構(gòu)和計(jì)算模型。

邊緣AI要求終端設(shè)備能夠進(jìn)行人工智能的計(jì)算和推理，因此需要更強(qiáng)的計(jì)算能力。邊緣計(jì)算是在接近數(shù)據(jù)生成和使用的終端提供實(shí)時(shí)的計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)服務(wù)，以減少數(shù)據(jù)傳輸延遲、減輕對網(wǎng)絡(luò)帶寬的依賴。因此，相對邊緣AI而言，邊緣計(jì)算對算力的要求要更低一些。

可以說，邊緣AI是邊緣計(jì)算的升級，是在具備邊緣計(jì)算能力的終端設(shè)備上運(yùn)行AI應(yīng)用，讓設(shè)備具備更加強(qiáng)大的AI能力，讓邊緣設(shè)備變得更加智能，能夠處理更多復(fù)雜的應(yīng)用。因此，邊緣AI可以使邊緣設(shè)備更加智能化，能夠自主地進(jìn)行一些復(fù)雜的數(shù)據(jù)處理和決策，而無需依賴數(shù)據(jù)中心和云端的計(jì)算資源。

邊緣AI有哪些優(yōu)勢？

相對于在傳統(tǒng)數(shù)據(jù)中心或云服務(wù)器上運(yùn)行AI應(yīng)用，邊緣AI主要有以下幾個(gè)方面的優(yōu)勢：

1）實(shí)時(shí)響應(yīng)能力：在本地終端設(shè)備上運(yùn)行AI應(yīng)用，避免了數(shù)據(jù)在本地與云/數(shù)據(jù)中心之間的傳輸，從而降低了計(jì)算延遲、網(wǎng)絡(luò)延遲，能夠提供更快的實(shí)時(shí)響應(yīng)能力。

2）個(gè)性化服務(wù)：基于應(yīng)用場景和用戶行為數(shù)據(jù)，邊緣AI所具備的自主學(xué)習(xí)能力，能夠?yàn)椴煌膱鼍昂筒煌挠脩籼峁┒ㄖ苹?wù)，以此來滿足個(gè)性化需求。

3）數(shù)據(jù)安全和隱私保護(hù)：由于AI應(yīng)用運(yùn)行和數(shù)據(jù)處理都在本地設(shè)備上完成，避免了數(shù)據(jù)在本地與云端間的傳輸，從而減少了數(shù)據(jù)泄露漏的風(fēng)險(xiǎn)，更好地保護(hù)用戶隱私。

4）降低成本。邊緣AI減少了對數(shù)據(jù)中心和云端服務(wù)的依賴，有效地降低了長期成本。

邊緣AI面臨的主要挑戰(zhàn)有哪些？

雖然邊緣AI擁有很多優(yōu)勢，但就目前而言，部署邊緣AI仍舊面臨著以下諸多挑戰(zhàn)：

1）算力：AI應(yīng)用對算力有著極大的要求，邊緣AI也不例外。以AI PC為例，微軟Copilot人工智能大模型在搭載英特爾處理器的PC上本地運(yùn)行，至少需要40 TOPS算力的NPU。目前來看，代號(hào)為Meteor Lake酷睿Ultra系列處理器NPU的算力僅為10 TOPS，遠(yuǎn)低于這個(gè)標(biāo)準(zhǔn)。當(dāng)然，英特爾下一代Lunar Lake酷睿Ultra系列處理器NPU的算力將提供45 TOPS的NPU算力，但這一代產(chǎn)品最早也要于2024年圣誕節(jié)上市。

因此，就目前來看，算力仍舊是影響邊緣AI部署的最主要挑戰(zhàn)。

2）功耗：受產(chǎn)品體積限制，終端設(shè)備對功耗有著極高的要求，這就要求計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等在保證高性能的情況下，還要控制好功耗，在計(jì)算能力和能效之間找到合適的平衡。

3）數(shù)據(jù)安全和隱私保護(hù)：邊緣AI對數(shù)據(jù)安全和隱私保護(hù)提出了更高的要求。為此，要求在AI芯片設(shè)計(jì)時(shí)就必須包含加密和安全功能，以此防止人為破壞等造成的數(shù)據(jù)泄露漏事故發(fā)生。

4）靈活部署和敏捷運(yùn)維。由于邊緣AI應(yīng)用五花八門，為了更好地滿足不同場景下的多樣化應(yīng)用要求，達(dá)到規(guī)?；б?，采用軟件定義和適于軟件移植的標(biāo)準(zhǔn)必不可少。與此同時(shí)，還要綜合考慮如何進(jìn)行敏捷智能化運(yùn)維。

最后，由于目前邊緣AI還處于初始階段，如何在終端設(shè)備上引入人工智能，發(fā)揮邊緣AI的整體優(yōu)勢，還需要進(jìn)行更多的研究和論證。

邊緣AI適用于哪些應(yīng)用場景？

筆者認(rèn)為，邊緣AI目前適用于以下場景：

一是商用辦公： AI PC是目前最典型的應(yīng)用場景，通過在本地商用電腦中運(yùn)行各種大模型應(yīng)用，能夠更好地提高辦公效率，提升用戶的使用體驗(yàn)，并且徹底擺脫網(wǎng)絡(luò)束縛，讓AI在辦公場景中真正地做到無處不在。

二是智能駕駛：智能座艙、自動(dòng)駕駛等已經(jīng)逐漸成為智能汽車的標(biāo)準(zhǔn)配置。未來，在邊緣設(shè)備的強(qiáng)大算力支撐下，在各種 AI應(yīng)用的加持下，在不需要連接網(wǎng)絡(luò)的情況下，也能夠?qū)崿F(xiàn)自動(dòng)駕駛等功能，為駕乘人員提供更加精彩豐富的車內(nèi)生活。

三是智慧工廠：通過在邊緣設(shè)備上部署AI算法，能夠在不需要連接網(wǎng)絡(luò)的情況下，實(shí)現(xiàn)在無人環(huán)境下快速準(zhǔn)確地處理數(shù)據(jù)，做出及時(shí)的處理與決策。除此之外，在人工智能加持下，機(jī)器人的形態(tài)更加多元化，除了傳統(tǒng)的工業(yè)機(jī)器人、協(xié)作機(jī)器人之外，人形機(jī)器人的形態(tài)將越來越多地應(yīng)用于工業(yè)領(lǐng)域。

四是智能交通：以十字路口的紅綠燈為例，通過部署邊緣AI設(shè)備，自動(dòng)監(jiān)控路口的車流與人流，自動(dòng)調(diào)整紅綠燈的間隔時(shí)間，能夠有效防止交流擁堵現(xiàn)象，讓交通更加順暢。因此，在邊緣AI的加持下，交通也將變得更加智能。

除了以上應(yīng)用場景之外，邊緣AI未來還將在智能家居、智慧城市、智慧農(nóng)業(yè)等各種場景中發(fā)揮巨大價(jià)值。

寫在最后：

在AI加持下，邊緣設(shè)備將變得更加智能，為邊緣應(yīng)用帶來無限可能。當(dāng)然，從邊緣計(jì)算邁入邊緣AI，除了需要解決算力問題之外，還需要面向不同的邊緣場景探索更多的AI應(yīng)用。只有這樣，才能讓邊緣AI在更多行業(yè)中落地，為更多的用戶帶來更加智能化、個(gè)性化的體驗(yàn)。