在當(dāng)前的經(jīng)濟環(huán)境下，研發(fā)資金必須比以往任何時候都更加充分。企業(yè)對未來技術(shù)和基礎(chǔ)設(shè)施的投資往往不以為然，而失敗的風(fēng)險卻給項目利益相關(guān)者帶來了巨大壓力。

然而，這并不意味著創(chuàng)新應(yīng)該停止甚至放緩。對于初創(chuàng)企業(yè)和大型企業(yè)而言，致力于新技術(shù)和變革性技術(shù)對于確保當(dāng)前和未來的競爭力至關(guān)重要。人工智能(AI) 為越來越廣泛的行業(yè)提供多方面的解決方案。

在過去十年中，人工智能在釋放全新的收入機會方面發(fā)揮了重要作用。從理解和預(yù)測用戶行為到協(xié)助生成代碼和內(nèi)容，人工智能和機器學(xué)習(xí) (ML) 革命已經(jīng)使消費者從他們的應(yīng)用、網(wǎng)站和在線服務(wù)中獲得的價值成倍增加。

然而，這場革命在很大程度上僅限于云，其中幾乎無限的存儲和計算，以及主要公共云服務(wù)提供商提供的方便的虛擬硬件，使得為每個AI/ML應(yīng)用建立最佳實踐模式變得相對容易可以想象。

AI：移動到邊緣

由于AI處理主要發(fā)生在云端，因此AI/ML革命對于邊緣設(shè)備來說仍然遙不可及。這些是在工廠車間、建筑工地、研究實驗室、自然保護區(qū)、我們佩戴的配飾和衣服上、我們運送的包裹內(nèi)以及任何其他需要連接的環(huán)境中發(fā)現(xiàn)的更小、低功耗的處理器、存儲、計算和能源是有限的或不能被視為理所當(dāng)然。在他們的環(huán)境中，計算周期和硬件架構(gòu)很重要，預(yù)算不是以端點或套接字連接的數(shù)量來衡量的，而是以瓦特和納秒來衡量的。

希望打破人工智能/機器學(xué)習(xí)領(lǐng)域下一個技術(shù)障礙的首席技術(shù)官、工程、數(shù)據(jù)和機器學(xué)習(xí)領(lǐng)導(dǎo)者以及產(chǎn)品團隊必須將目光投向邊緣。邊緣AI和邊緣ML提出了獨特而復(fù)雜的挑戰(zhàn)，需要許多利益相關(guān)者的精心協(xié)調(diào)和參與，這些利益相關(guān)者具有從系統(tǒng)集成、設(shè)計、運營和物流到嵌入式、數(shù)據(jù)、IT 和 ML工程的廣泛專業(yè)知識。

邊緣AI意味著算法必須在某種特定用途的硬件中運行，從高端的網(wǎng)關(guān)或本地服務(wù)器到低端的能量收集傳感器和MCU。確保此類產(chǎn)品和應(yīng)用的成功需要數(shù)據(jù)和ML團隊與產(chǎn)品和硬件團隊密切合作，以了解和考慮彼此的需求、約束和要求。

雖然構(gòu)建定制邊緣AI解決方案的挑戰(zhàn)并非無法克服，但存在用于邊緣AI算法開發(fā)的平臺可以幫助彌合必要團隊之間的差距，確保在更短的時間內(nèi)取得更高水平的成功，并驗證進一步投資的方向應(yīng)該制作。以下是其他需要注意的事項。

在開發(fā)算法的同時測試硬件

由數(shù)據(jù)科學(xué)和 ML團隊開發(fā)算法，然后將其傳遞給固件工程師以將其安裝在設(shè)備上，這既不高效也不總是可能的。硬件在環(huán)測試和部署應(yīng)該是任何邊緣 AI 開發(fā)管道的基本組成部分。如果沒有同時在硬件上運行和測試算法的方法，則很難預(yù)見在開發(fā)邊緣AI算法時可能出現(xiàn)的內(nèi)存、性能和延遲限制。

一些基于云的模型架構(gòu)也不意味著在任何類型的受限或邊緣設(shè)備上運行，提前預(yù)測可以為固件和ML團隊節(jié)省數(shù)月的痛苦。

物聯(lián)網(wǎng)數(shù)據(jù)不等于大數(shù)據(jù)

大數(shù)據(jù)是指可以分析以揭示模式或趨勢的大型數(shù)據(jù)集。然而，物聯(lián)網(wǎng)(IoT) 數(shù)據(jù)并不一定與數(shù)量有關(guān)，而是與數(shù)據(jù)的質(zhì)量有關(guān)。此外，此數(shù)據(jù)可以是時間序列傳感器或音頻數(shù)據(jù)，或圖像，并且可能需要進行預(yù)處理。

將數(shù)字信號處理 (DSP) 等傳統(tǒng)傳感器數(shù)據(jù)處理技術(shù)與AI/ML相結(jié)合，可以產(chǎn)生新的邊緣AI算法，提供以前技術(shù)無法實現(xiàn)的準(zhǔn)確洞察力。但物聯(lián)網(wǎng)數(shù)據(jù)不是大數(shù)據(jù)，因此用于邊緣人工智能開發(fā)的這些數(shù)據(jù)集的數(shù)量和分析會有所不同。根據(jù)生成的模型準(zhǔn)確性和性能快速試驗數(shù)據(jù)集大小和質(zhì)量是通往生產(chǎn)可部署算法道路上的重要一步。

開發(fā)硬件已經(jīng)夠難了

如果不知道所選硬件是否可以運行邊緣AI軟件工作負(fù)載，則構(gòu)建硬件很困難。在選擇材料清單之前就開始對硬件進行基準(zhǔn)測試至關(guān)重要。對于現(xiàn)有硬件，設(shè)備上可用內(nèi)存的限制可能更為關(guān)鍵。

即使使用早期的小型數(shù)據(jù)集，邊緣AI開發(fā)平臺也可以開始提供運行AI工作負(fù)載所需的硬件類型的性能和內(nèi)存估計。

有一個過程來權(quán)衡設(shè)備選擇和基準(zhǔn)測試與早期版本的邊緣AI模型可以確保硬件支持到位，以支持將在設(shè)備上運行的所需固件和AI模型。

構(gòu)建、驗證新的邊緣AI軟件并將其推向生產(chǎn)

選擇開發(fā)平臺時，還值得考慮不同廠商提供的工程支持。Edge AI包含數(shù)據(jù)科學(xué)、ML、固件和硬件，供應(yīng)商在內(nèi)部開發(fā)團隊可能需要一些額外支持的領(lǐng)域提供指導(dǎo)非常重要。

在某些情況下，它不是關(guān)于將要開發(fā)的實際模型，而是更多關(guān)于系統(tǒng)級設(shè)計流程的規(guī)劃，包括數(shù)據(jù)基礎(chǔ)設(shè)施、ML開發(fā)工具、測試、部署環(huán)境和持續(xù)集成、持續(xù)部署 (CI /CD) 管道。

最后，對于邊緣AI開發(fā)工具而言，重要的是要適應(yīng)團隊中的不同用戶——從ML工程師到固件開發(fā)人員。低代碼/無代碼用戶界面是快速構(gòu)建新應(yīng)用原型和構(gòu)建新應(yīng)用的好方法，而API和SDK對更有經(jīng)驗的ML開發(fā)人員很有用，他們可以從Jupyter notebooks使用Python更好更快地工作。

平臺提供了訪問靈活性的優(yōu)勢，迎合了構(gòu)建邊緣AI應(yīng)用的跨職能團隊中可能存在的多個利益相關(guān)者或開發(fā)人員的需求。