芯耀
540
網(wǎng)絡(luò)邊緣人工智能——即在邊緣設(shè)備端部署AI模型進行本地化算法處理，而非依賴云端等集中式計算平臺——已成為人工智能領(lǐng)域發(fā)展最快的方向之一，受到業(yè)界高度關(guān)注。據(jù)測算，2024年網(wǎng)絡(luò)邊緣AI市場規(guī)模約為210億美元，預(yù)計到2034年將突破1430億美元。這一增長態(tài)勢表明各行業(yè)將持續(xù)加大基于AI的邊緣系統(tǒng)研發(fā)投入。
網(wǎng)絡(luò)邊緣AI的應(yīng)用前景廣闊且充滿創(chuàng)新機遇，涵蓋自動駕駛汽車、智能家居設(shè)備、工業(yè)自動化機械等多個領(lǐng)域。但開發(fā)者在實踐中需要應(yīng)對硬件限制、功耗優(yōu)化和處理復(fù)雜度等獨特挑戰(zhàn)。例如，設(shè)計人員必須確保嵌入式AI模型在保持緊湊體積的同時具備足夠算力，能夠直接在邊緣設(shè)備端解析實時情境信息。這要求系統(tǒng)在延遲控制、帶寬效率、運算精度和可持續(xù)性等性能指標(biāo)上達到最優(yōu)平衡，同時還要保障數(shù)據(jù)隱私安全并降低網(wǎng)絡(luò)威脅風(fēng)險。
網(wǎng)絡(luò)邊緣應(yīng)用的演進正與情境智能的發(fā)展同步推進。情境智能旨在從數(shù)據(jù)所處的環(huán)境、關(guān)聯(lián)關(guān)系及交互場景中理解其含義，這就催生了情境邊緣AI。該技術(shù)通過在網(wǎng)絡(luò)邊緣設(shè)備端運行AI模型，使系統(tǒng)能夠處理環(huán)境數(shù)據(jù)、持續(xù)學(xué)習(xí)并優(yōu)化性能。例如，智能設(shè)備通過視覺、聽覺等多種感知模態(tài)理解周邊環(huán)境，這種對情境數(shù)據(jù)的高效處理能力，是實現(xiàn)網(wǎng)絡(luò)邊緣設(shè)備功能目標(biāo)和提升用戶體驗的關(guān)鍵。隨著邊緣端處理的數(shù)據(jù)量激增，這些設(shè)備需要更高算力支撐。
現(xiàn)場可編程門陣列（FPGA）的靈活性、現(xiàn)場升級能力和互操作性，結(jié)合其低功耗、低延遲和并行處理能力，使其成為開發(fā)者克服挑戰(zhàn)并優(yōu)化情境邊緣AI應(yīng)用的關(guān)鍵工具。
實現(xiàn)情境感知邊緣AI的挑戰(zhàn)
通過直接分析網(wǎng)絡(luò)邊緣設(shè)備上的情境數(shù)據(jù)，系統(tǒng)可以做出更智能的實時決策，推動用戶與設(shè)備之間建立更緊密的共生關(guān)系。例如，智能電腦顯示器可以利用視覺傳感器安全收集的用戶存在數(shù)據(jù)，在用戶轉(zhuǎn)向屏幕時打開，在用戶離開時關(guān)閉，從而優(yōu)化電源使用時長。智能蜂窩設(shè)備同樣可以利用面部或指紋識別技術(shù)，安全地檢查生物特征或用戶視覺數(shù)據(jù)，訪問用戶憑證，登錄安全應(yīng)用程序。
雖然用戶已經(jīng)開始期待借助情境邊緣AI實現(xiàn)這些無縫、個性化的體驗，但開發(fā)人員可能會面臨各種開發(fā)挑戰(zhàn)。這些挑戰(zhàn)包括：
1. 復(fù)雜性
隨著企業(yè)嘗試進一步簡化人機界面，邊緣傳感器收集的情境數(shù)據(jù)也變得越來越復(fù)雜。這就要求AI模型和硬件既能處理更高的工作量，又能保持效率。網(wǎng)絡(luò)邊緣AI還需要靈活性，因為模型和硬件可能需要定期更新，以應(yīng)對不斷變化的情境數(shù)據(jù)。邊緣人工智能還可能涉及TinyAI模型的使用，其壓縮算法更適合在網(wǎng)絡(luò)邊緣場景下實現(xiàn)高性能，包括可穿戴設(shè)備、環(huán)境監(jiān)測遠程傳感器、工業(yè)物聯(lián)網(wǎng)應(yīng)用中的質(zhì)量控制等。即便如此，TinyAI模型也需要足夠的電源和系統(tǒng)支持才能有效運行。
2. 互操作性
為了獲得盡可能多的相關(guān)情境智能，邊緣網(wǎng)絡(luò)通常包括各種傳感器、處理器、網(wǎng)關(guān)和服務(wù)器。這些組件都需要有效地相互通信來支持實時結(jié)果。網(wǎng)絡(luò)邊緣設(shè)備必須能夠處理不斷增長的AI工作負載，同時還能與網(wǎng)絡(luò)中的其他設(shè)備（無論是現(xiàn)有組件還是第三方硬件和軟件）協(xié)同運行。如果沒有靈活的硬件，傳感器、邊緣設(shè)備和數(shù)據(jù)分析接收者之間的連接將變得不可靠。
3. 功耗
先進的人工智能模型需要大量能源才能運行，研究人員預(yù)計，從2023年到2030年，人工智能相關(guān)的耗電量預(yù)計每年將增長高達50%。因此穩(wěn)定、節(jié)能地向模型輸送能源至關(guān)重要。如果在配置時不考慮效率，邊緣部署很可能會出現(xiàn)能源消耗過剩、成本上升，并導(dǎo)致網(wǎng)絡(luò)邊緣AI操作的執(zhí)行與結(jié)果之間出現(xiàn)較大延遲。
只有考慮到這些挑戰(zhàn)，并積極主動地加以克服，開發(fā)人員才能利用情境邊緣AI改善用戶體驗。
利用萊迪思FPGA輕松實現(xiàn)情境邊緣AI
克服復(fù)雜性、互操作性和功耗挑戰(zhàn)是一項多方面的工作，需要靈活應(yīng)用硬件和軟件。針對AI優(yōu)化的低功耗萊迪思FPGA和面向工智能應(yīng)用的解決方案集合Lattice sensAI?非常適合應(yīng)對實施挑戰(zhàn)和實現(xiàn)情境感知邊緣AI應(yīng)用。
萊迪思FPGA經(jīng)配置可執(zhí)行特定的AI任務(wù)，使開發(fā)人員能夠根據(jù)不同的環(huán)境定制應(yīng)用，并處理特定的邊緣數(shù)據(jù)。這有助于優(yōu)化邊緣AI應(yīng)用，實現(xiàn)最高的效率和可靠性，同時保持FPGA的靈活性，支持不斷發(fā)展的AI模型。FPGA還配備了可定制的I/O接口，支持跨設(shè)備和環(huán)境（如攝像頭、雷達、環(huán)境傳感器）連接到各種邊緣人工智能應(yīng)用，并實現(xiàn)更簡化的互操作性。
萊迪思sensAI解決方案集合還進一步支持和加強了這種定制化。萊迪思sensAI能夠采用在行業(yè)標(biāo)準(zhǔn)AI框架（如TensorFlow、Caffe和Keras）中訓(xùn)練的模型，通過模型量化、修剪和稀疏性利用等技術(shù)，使其能夠在FPGA資源上運行。然后，萊迪思的神經(jīng)網(wǎng)絡(luò)編譯器可以分析模型，并根據(jù)電路和片上網(wǎng)絡(luò)的類型提出最高效的運行建議。此外，萊迪思Propel和萊迪思Radiant設(shè)計軟件可用于創(chuàng)建合適的電路組合，以盡可能高能效的方式加速這些模型的運行。
萊迪思FPGA還極大降低了傳感器數(shù)據(jù)采集和處理之間的延遲，為用戶帶來更快的響應(yīng)和更高的性能。在傳輸?shù)紸I模型或中央計算引擎之前，數(shù)據(jù)可以在FPGA上完成預(yù)處理和聚合任務(wù)，這有助于減少網(wǎng)絡(luò)邊緣設(shè)備的壓力，進而降低功耗。
各行各業(yè)都可以利用萊迪思FPGA克服資源限制、功耗、連接性和可擴展性方面的挑戰(zhàn)。這些可編程器件實現(xiàn)的實時數(shù)據(jù)處理和預(yù)測，對于工業(yè)設(shè)備、醫(yī)療設(shè)備、汽車和機器人領(lǐng)域的應(yīng)用至關(guān)重要。FPGA的適應(yīng)性可以量身定制人工智能解決方案，滿足各種環(huán)境的特定需求，確保最佳性能和可靠性。
