什么是DPU,為什么需要它們?
在不斷發(fā)展的現(xiàn)代計算領域中,數(shù)據(jù)處理單元(DPU)已成為一個新的計算支柱,領先于中央處理器(CPU)和圖形處理單元(GPU)。
DPU與CPU以及GPU協(xié)同工作,以增強計算能力和處理日益復雜的現(xiàn)代數(shù)據(jù)工作負載。由于對人工智能、機器學習、深度學習、物聯(lián)網(wǎng)、5G和復雜云架構(gòu)的需求增加,DPU市場穩(wěn)步增長。如果團隊參與了涉及高級計算的項目,那么很可能會從將DPU整合到數(shù)據(jù)中心架構(gòu)中受益。
在本文中,我們將基本了解什么是DPU、DPU的工作原理、DPU的優(yōu)勢、如何選擇合適的DPU供應商以及常見問題解答。
什么是DPU?
DPU或數(shù)據(jù)處理單元是一種可編程處理器,旨在高效處理數(shù)據(jù)中心大規(guī)模的以數(shù)據(jù)為中心的工作負載,例如數(shù)據(jù)傳輸、縮減、安全、壓縮、分析和加密。
DPU的功能和優(yōu)勢是什么?
DPU正迅速成為現(xiàn)代計算的重要組成部分,因為它們能夠通過從CPU中卸載工作負載來提高數(shù)據(jù)中心的效率和性能。
DPU通過執(zhí)行以下主要功能為現(xiàn)代數(shù)據(jù)中心提供許多好處:
提高處理能力:DPU從CPU卸載網(wǎng)絡和通信工作負載,釋放資源用于應用處理。
提高效率和性能:通過將處理核心與硬件加速器塊相結(jié)合,以大規(guī)模處理以數(shù)據(jù)為中心的工作負載,DPU可提高性能并減少延遲。
處理復雜任務的能力:DPU旨在處理支持云環(huán)境的大型數(shù)據(jù)中心或驅(qū)動人工智能、深度學習算法、其他數(shù)據(jù)密集型應用的超級計算機中的數(shù)據(jù)密集型工作負載。
適應數(shù)據(jù)中心不斷增長需求的能力:隨著數(shù)據(jù)中心需求的增長和變得更加密集,DPU可以進行擴展,以適應不斷增加的工作量和復雜性。此外,DPU可以添加到現(xiàn)有的硬件基礎設施中,從而實現(xiàn)靈活且適應性強的數(shù)據(jù)中心架構(gòu)。
提高可靠性和可用性:DPU可以通過冗余和高可用性等特性提供更高的可靠性,確保在硬件故障時關鍵數(shù)據(jù)處理任務的連續(xù)性。
降低成本:DPU可以通過從CPU卸載處理任務和處理復雜任務,來降低與管理數(shù)據(jù)中心相關的總體硬件成本,從而需要更少的硬件組件。
DPU有哪些功能?
高速網(wǎng)絡連接
高速數(shù)據(jù)包處理
加速器
多核處理
內(nèi)存控制器
第四代PCI Express(串行總線)支持
安全功能,如加密、防火墻和VPN(虛擬專用網(wǎng)絡)
DPU提供商根據(jù)企業(yè)客戶的需求在其產(chǎn)品中使用不同的技術和材料。DPU主要分為三種類型:基于SOC(系統(tǒng)級芯片)、基于ASIC(專用集成電路)和基于FPGA(現(xiàn)場可編程邏輯門陣列)。每個都是針對特定應用或客戶系統(tǒng)量身定制的。
如何根據(jù)需要選擇合適的DPU供應商
DPU市場的主要供應商包括NVIDIA、Marvell、Fungible(被微軟收購)、Broadcom、Intel、Resnics和AMD Pensando。
隨著新的DPU供應商進入該領域,以滿足以數(shù)據(jù)為中心的高級工作負載快速發(fā)展的需求,預計這一列表還會增加。DPU領域有望在未來幾年成為科技巨頭和芯片制造商的激烈戰(zhàn)場。
根據(jù)需求選擇合適的DPU供應商需要考慮多個方面,包括:
兼容性:DPU供應商的硬件和軟件是否與現(xiàn)有的基礎設施兼容,從而確保對日常運營的干擾最小或不中斷?
工作負載要求:DPU能否在復雜性和容量方面為企業(yè)工作負載要求提供足夠的覆蓋范圍?
易于集成:DPU是否會在適合企業(yè)的時間內(nèi)無縫集成到基礎架構(gòu)和軟件堆棧中?
安全性:DPU供應商能否提供強大的安全功能,例如加密、安全啟動、安全固件更新,以及企業(yè)需要的其他安全要求?
技術支持和服務:供應商的文檔、支持團隊、培訓和維護是否適合企業(yè)的規(guī)模和專業(yè)知識?
供應商聲譽:DPU供應商在可靠性和客戶滿意度方面是否有良好的記錄?
成本:DPU供應商的許可和定價選項是否符合預算需求和技術要求?
DPU、CPU和GPU之間有什么區(qū)別?
功能:DPU(數(shù)據(jù)處理單元)、CPU(中央處理器)和GPU(圖形處理單元)都是計算處理器,各自執(zhí)行不同的功能。CPU是負責計算機系統(tǒng)整體運行的主要處理器,是計算機的“大腦”。GPU是用于圖形計算任務的專用處理器,例如渲染3D圖像或視頻。DPU是最新的處理器,專門處理以數(shù)據(jù)為中心的工作負載,例如數(shù)據(jù)中心的網(wǎng)絡、存儲和安全操作。
架構(gòu):CPU由幾個功能強大的處理內(nèi)核組成,這些內(nèi)核針對串行或順序處理進行了優(yōu)化,這意味著一項接一項的任務。GPU有大量針對并行處理進行優(yōu)化的更簡單的內(nèi)核,這意味著同時執(zhí)行任務。DPU結(jié)合了處理核心、硬件加速器塊和高性能網(wǎng)絡接口,以大規(guī)模處理以數(shù)據(jù)為中心的任務。
示例用例:從智能手機到計算機再到服務器,幾乎所有計算機設備都使用CPU。GPU通常用于游戲PC。GPU主要用于數(shù)據(jù)中心。
如何使用DPU來改進數(shù)據(jù)中心基礎設施?
DPU可用于通過提高效率、提高數(shù)據(jù)處理速度和減少CPU的工作負載來改進數(shù)據(jù)中心基礎設施,從而實現(xiàn)更快、更可靠的數(shù)據(jù)處理。
使用DPU需要什么硬件?
要使用DPU,服務器或網(wǎng)絡設備必須具有用于DPU卡的兼容PCIe插槽。硬件還應具有兼容的操作系統(tǒng)和驅(qū)動程序、足夠的內(nèi)存供DPU正常運行,以及可靠的電源和冷卻。
DPU可以處理哪些類型的工作負載?
DPU通過處理大規(guī)模數(shù)據(jù)處理需求,將網(wǎng)絡和通信工作負載從CPU中卸載。這種以數(shù)據(jù)為中心的工作負載包括數(shù)據(jù)分析、傳輸、縮減、安全、壓縮、分析、壓縮和加密。DPU是存儲網(wǎng)絡的理想選擇。實際應用可能包括人工智能和機器學習、大數(shù)據(jù)分析和處理、視頻轉(zhuǎn)碼和流媒體、網(wǎng)絡流量處理和安全以及存儲I/O加速。
哪些類型的數(shù)據(jù)加速引擎可用于DPU?
可用于DPU的數(shù)據(jù)加速引擎包括加密/解密、壓縮/解壓縮、數(shù)據(jù)縮減、AI/ML推理和網(wǎng)絡。這些數(shù)據(jù)加速工程師從CPU卸載特定類型的工作負載,以提高效率、性能和安全性。
數(shù)據(jù)處理單元的未來是什么?
隨著對數(shù)據(jù)密集型應用的需求不斷增加,計算架構(gòu)將繼續(xù)發(fā)展,從而需要更快、更高效和更安全的數(shù)據(jù)處理。據(jù)報告預計,全球數(shù)據(jù)處理單元市場預計到2031年將達到55億美元,從2022年到2031年的復合年增長率為26.9%。因此,DPU可能會從今天的可選組件過渡到下一代計算的必要行業(yè)標準。