• 正文
    • 光電一體化網絡交換機,助力AI工廠擴展到數百萬GPU級別
    • 攜手存儲企業(yè)推出新型AI基礎設施
    • 寫在最后
  • 相關推薦
申請入駐 產業(yè)圖譜

英偉達的AI布局,最新秘笈藏在數據管道的毛細血管里

原創(chuàng)
03/21 10:18
1498
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

當全球聚焦于AI大模型的激烈角逐、AI Agent的驚人表現時,英偉達數據傳輸賽道完成了一次新升級。GTC25期間,兩項“基礎設施革命”——硅光網絡交換機與AI數據平臺傳來重磅消息。

光電一體化網絡交換機,助力AI工廠擴展到數百萬GPU級別

最新推出的NVIDIA Spectrum-X和NVIDIA Quantum-X硅光網絡交換機,使AI工廠能夠跨區(qū)域連接數百萬GPU,同時大幅降低能耗和運營成本,這也意味著英偉達在大規(guī)模平臺上實現了電子電路光通信的融合。

隨著AI工廠發(fā)展到前所未有的規(guī)模,網絡必須不斷發(fā)展以跟上步伐。英偉達最新推出的硅光交換機,創(chuàng)新地集成了光器件,減少了4倍的激光器數量,與傳統(tǒng)方法相比,能源效率提高到3.5倍,信號完整性提高到63倍,大規(guī)模組網可靠性提高到10倍,部署速度提高到1.3倍。

“AI工廠是一種超大規(guī)模的新型數據中心,必須采用全新的網絡基礎設施才能跟上它的發(fā)展步伐”,黃仁勛表示,“英偉達將硅光直接集成到交換機中,打破了超大規(guī)模和企業(yè)網絡的舊有限制,為百萬GPU AI 工廠打開大門?!?/p>

據了解,最新的硅光網絡交換機會被用于NVIDIA Spectrum-X Photonics 以太網平臺和 NVIDIA Quantum-X Photonics InfiniBand平臺。

與傳統(tǒng)以太網相比,Spectrum-X以太網網絡平臺可為多租戶、超大規(guī)模AI工廠(包括目前全球最大的超級計算機)提供卓越的性能和1.6倍的帶寬密度。

NVIDIA Spectrum-X Photonics 交換機具有多種配置,包括128個800 Gb/s端口或512個 200 Gb/s 端口,總帶寬可達到100 Tb/s,以及512個800 Gb/s或2,048個200 Gb/s端口,總吞吐量可達400Tb/s。

NVIDIA Quantum-X Photonics 交換機提供144個基于200Gb/s SerDes的800Gb/s InfiniBand 端口,并采用液冷設計對板載硅光器件進行高效散熱。值得一提的是,NVIDIA Quantum-X Photonics 交換機AI計算網的速度是上一代產品的2倍,擴展性是上一代產品的5倍。

英偉達的網絡生態(tài)這些年在不斷壯大,目前,其硅光生態(tài)系統(tǒng)伙伴包括 TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries和TFC Communication。

最新的photonics技術將推動新一代先進AI工廠的大規(guī)模增長,并和Coherent、Eoptolink、Fabrinet和Innolight等企業(yè)的可插拔光模塊技術等,共同推動該領域的前進。

攜手存儲企業(yè)推出新型AI基礎設施

最新推出的還有NVIDIA AI 數據平臺,這是一項可自定義的參考設計,存儲提供商可用來構建全新的AI基礎設施,以滿足AI推理工作負載的嚴苛要求。這意味著,企業(yè)存儲平臺可以搭載英偉達加速計算、網絡和軟件驅動的AI查詢智能體。

具體而言,經英偉達認證的存儲提供商,能夠通過NVIDIA AI數據平臺構建基礎設施,例如:NVIDIA Blackwell GPU、NVIDIA BlueField DPU、NVIDIA Spectrum-X網絡以及NVIDIA Dynamo開源推理庫,可以通過專用AI查詢智能體,加速AI推理工作負載。

Blackwell GPU、BlueField DPU和Spectrum-X網絡組合在一起提供了一款加速引擎,可加快AI查詢智能體訪問存儲在企業(yè)系統(tǒng)中的數據。其中,BlueField DPU的性能比基于CPU的存儲性能提升最高可達1.6倍,而功耗又可降低50%,每瓦性能提高3倍以上。與傳統(tǒng)以太網相比,Spectrum-X 通過采用動態(tài)路由和優(yōu)化的擁塞控制,可將AI存儲流量提速最高達48%。

正如黃仁勛所言,“數據是AI時代各行各業(yè)發(fā)展的原材料”,但若存儲系統(tǒng)無法高效供給數據,萬億參數模型的訓練與實時推理將成為空中樓閣。通過創(chuàng)新的AI數據平臺,英偉達為數以百萬計的企業(yè)帶來加速計算和AI能力,使其應用企業(yè)存儲系統(tǒng)來處理推動公司發(fā)展的數據。這些智能體可助力企業(yè)應用NVIDIA AI Enterprise軟件平臺(包括全新NVIDIA Llama Nemotron推理模型的NVIDIA NIM微服務)以及全新的NVIDIA AI-Q Blueprint,接近實時地生成數據洞察。

將AI 查詢智能體搭載AI-Q Blueprint,可在推理過程中連接數據,提供更準確、更貼合情景的響應。它可以快速訪問海量數據,并處理各類數據,包括有多個來源的結構化、半結構化和非結構化數據,包括文本、PDF、圖像和視頻。

黃仁勛表示:“我們正在與全球領先的存儲企業(yè)合作,打造在混合數據中心部署和擴展代理式AI(Agentic AI)所需的新型企業(yè)基礎設施?!蹦壳埃珼DN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data和WEKA等領先數據平臺和存儲提供商均選擇與英偉達合作,打造可定制化的AI數據平臺,充分運用企業(yè)數據進行推理并響應復雜查詢。

寫在最后

AI算力規(guī)模已突破百萬GPU,但過去幾年來,數據供給的滯后讓這些“超級大腦”常常陷入饑餓狀態(tài)。傳統(tǒng)存儲系統(tǒng)在處理多模態(tài)數據時難免掣肘,而基于電信號的網絡架構則像擁堵的高速公路。

面對這些挑戰(zhàn),英偉達的答案是將加速計算植入數據管道,讓數據流動速度匹配GPU的處理能力。這場變革的本質,是為“數據流動”和“算力協(xié)同”構建高速公路,將分散的企業(yè)數據轉化為可驅動Agentic AI的“燃料”,同時通過光電融合技術突破傳統(tǒng)網絡的物理限制,讓AI走向超大規(guī)模落地應用中。

英偉達

英偉達

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設計業(yè)務,隨著公司技術與業(yè)務發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務、科學研究、制造業(yè)、汽車等領域的計算解決方案提供支持。

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設計業(yè)務,隨著公司技術與業(yè)務發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務、科學研究、制造業(yè)、汽車等領域的計算解決方案提供支持。收起

查看更多

相關推薦

登錄即可解鎖
  • 海量技術文章
  • 設計資源下載
  • 產業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄