英(ying)偉(wei)達這(zhe)幾(ji)年很火。因(yin)為 AI 的帶(dai)動(dong)，它幾(ji)乎成為全球(qiu)最受(shou)關注的公司。

我們(men)總是會在網(wang)上看到和英偉達有關(guan)的一些(xie)名詞(ci)，例如(ru)：

A100、B100、H100、GH200、GB200、NVLINK、NVSwitch、DGX、HGX、Quantum、Spectrum、BlueField、CUDA 等等。

這些名詞看多(duo)了，就有(you)點暈(yun)。搞不(bu)懂到底(di)是什么(me)，有(you)什么(me)關系。

今(jin)天(tian)這篇文章，小棗(zao)君就給大家詳細(xi)梳理一下這些名詞概念，順便(bian)普(pu)及(ji)一下相關的知識。

█ 算力芯片 ——V100 / A100 / H100 / B200 等

這些(xie)名詞，應該是大家最常見(jian)的。

沒(mei)錯，這些都是(shi) AI 算力卡(ka)，也就(jiu)是(shi) GPU 卡(ka)的型(xing)號。

英偉達的 GPU，每隔幾年就(jiu)會出一(yi)個(ge)新的架構(gou)。每個(ge)架構(gou)，都會以一(yi)個(ge)著名科學家的名字命(ming)名，如下所示：

所(suo)以(yi)，基于某個(ge)架構的(de)卡，一般就會以(yi)這(zhe)個(ge)架構名(ming)稱的(de)首字母(mu)開頭(tou)（游戲(xi)顯卡除外）。

例如，基(ji)(ji)于(yu) Volta（伏特）架(jia)(jia)構(gou)的(de) V100，基(ji)(ji)于(yu) Ampere（安培）架(jia)(jia)構(gou)的(de) A100，基(ji)(ji)于(yu) Hopper（赫伯）架(jia)(jia)構(gou)的(de) H100、H200，基(ji)(ji)于(yu) Blackwell（布萊克(ke)威爾）架(jia)(jia)構(gou)的(de) B100、B200 等。

某(mou) 200 一般(ban)是某(mou) 100 的升級(ji)(ji)版(ban)。例如(ru) H200，就(jiu)是 H100 的升級(ji)(ji)版(ban)（采用了(le) HBM3e 內存等(deng)升級(ji)(ji)）。

L40 和 L40s 名字稍微有(you)點特別(bie)，兩者基(ji)于 Ada Lovelace（世界(jie)上(shang)第一個女(nv)程序員的(de)名字）架構(gou)，后者是(shi)前者的(de)升級版。兩個卡都是(shi)針對數(shu)據中心市場(chang)推出的(de)，主打低成本(ben)和性價比。

還有 1 個型號大家(jia)應該比較熟悉 ——H20。

這是(shi)英偉達因為美(mei)國出口限制而(er)推出的閹(yan)(yan)割(ge)(ge)版(ban)（特供(gong)版(ban)）。據說(shuo) B200 也會有對應的閹(yan)(yan)割(ge)(ge)版(ban) B20。

英偉達的(de)下(xia)一(yi)代 AI 平臺是(shi) Rubin（羅(luo)賓），計劃于(yu) 2026 年(nian)推出。大家一(yi)開始以為下(xia)一(yi)代 GPU 就是(shi) R100、R200。但英偉達給出的(de)路線圖，又(you)說是(shi) X100。所以，還有待(dai)觀望。

2028 年，英偉達會(hui)推出下下一代平(ping)臺 ——Feynman（費曼(man)）。

█ 超級芯片 ——GH200、GB200 等

GPU 是英偉(wei)達的算(suan)力核心硬件(jian)單元。但(dan)他們(men)并不是只有(you) GPU。圍繞 GPU，他們(men)還有(you)很多的產(chan)品和解決方案。

英偉達早期(qi)的(de)時候是和(he) IBM POWER CPU 合作，后(hou)來，可能是感(gan)覺(jue) IBM 不給力，于(yu)是自己(ji)開始研發 CPU。例如，基于(yu) ARM 架(jia)構研發的(de) Grace CPU（Vera CPU 在路上）。

英偉達(da)采用 NVLink 技術，將(jiang) GPU 和 CPU 進行配對，就變成了所(suo)謂(wei)的超(chao)級(ji)芯片平臺（Superchip）。

例如(ru) GH200、GB200，以及不久前(qian)新發布(bu)的 GB300（Blackwell Ultra）。

由一個 Grace CPU 和(he)兩個 Blackwell B200 GPU 組(zu)成的(de)平(ping)臺，就(jiu)是(shi) GB200（取 Grace 和(he) Blackwell 的(de)首字(zi)母），據說性能(neng)是(shi) H100 的(de) 7 倍。

類(lei)似的，GH200，就是(shi) Grace CPU 和 Hopper GPU 的組合搭配。

█ 超級計算機平臺 ——DGX / EGX / IGX 等

再往上一個(ge)層級(ji)，就(jiu)是(shi)計算(suan)機了。其實剛才 GB200，已經(jing)是(shi)個(ge)計算(suan)機了。

基于剛(gang)才的(de)各種芯片(pian)平臺(tai)，英(ying)偉達構建了對應的(de)計算(suan)機平臺(tai)，或者說(shuo)，叫做超(chao)級計算(suan)機平臺(tai)，包括 DGX、EGX、IGX、HGX、MGX 等。

具體(ti)的區別如下，我就不多解釋了，看下表(biao)：

DGX 還是(shi)見得比較多。當年黃仁勛(xun)送給 OpenAI 的(de)，就是(shi)第一代的(de) DGX-1。

現在(zai)的 DGX，基(ji)本上都是(shi)土豪(hao)金配色，價格也很(hen)昂貴。

面向桌面市場，英偉達還推出了(le) DGX Spark 和 DGX Station，相(xiang)當于(yu)工作站。

█ 節點內部連接：Scale Up（超節點）——DGX GB200 NVL72 等

接下來，要(yao)涉及到通信方面的技術(shu)了(le)。

之前小(xiao)棗君給(gei)大家介紹超節點的(de)時候（），提到過 NVLINK。

NVLINK 是(shi)英偉達(da)推出的 GPU 卡(ka)間(jian)互連技術，主(zhu)要(yao)是(shi)取代 PCIe。剛才(cai)也提(ti)到，CPU 和 GPU 之間(jian)，也是(shi) NVLINK 技術。

NVLINK 多節點，就不好直連了(le)，要引入(ru)交換芯片(pian)。于(yu)是，就有了(le) NVLink Switch，也叫 NVSwitch。后(hou)來，芯片(pian)又變成了(le)設備。

NVLINK 可以把很多的(de) GPU 連起(qi)來，組(zu)成看似很多計算(suan)機，但實際上屬于(yu)一個(ge)邏輯節點（超(chao)節點）的(de)平臺。

近年來，我們經常聽說 DGX GB200 NVL72。

DGX GB200 NVL72，采用了 NVLINK5，包(bao)含了 18 個 GB200 Compute Tray（計(ji)算(suan)托(tuo)(tuo)架），以及 9 個 NVLink-network Switch Tray（網絡交換托(tuo)(tuo)架）。如(ru)下圖(tu)所示(shi)：

每個 Compute Tray 包括(kuo) 2 顆 GB200 超級(ji)芯片(pian)。所以，就(jiu)是 36 個 Grace CPU（18×2），72 個 B200 GPU（18×2×2）。

8 個(ge) DGX GB200 NVL72，又可以(yi)組(zu)成一個(ge) 576 個(ge) GPU 的 SuperPod 超節點。

█ 節點外部互連：Scale Out（IB 和以太網）

單節點(dian)內，不斷(duan)加(jia) GPU，是(shi) Scale Up（縱向(xiang)擴(kuo)展(zhan)）。單節點(dian)到了一(yi)定規模，就不好再(zai)增加(jia)了。就要增加(jia)節點(dian)數量，搞節點(dian)與節點(dian)之間的互連，那就是(shi) Scale Out（橫向(xiang)擴(kuo)展(zhan)）。

Scale Out，英偉達(da)也(ye)有(you)解(jie)決方案，那就是 InfiniBand（IB）技術。

InfiniBand 以(yi)前(qian)是 Mellanox 公司的。英偉(wei)達布(bu)局深遠，2019 年把 Mellanox 收(shou)購(gou)了，InfiniBand 就(jiu)成了英偉(wei)達的私有技術。

InfiniBand 是(shi)技術名詞，不是(shi)產品名詞。英偉達基(ji)于 InfiniBand 推出的產品平臺是(shi) NVIDIA Quantum（“量子”的意思(si)）。

例(li)如(ru)，2024 年 3 月，英(ying)偉達發布的 Quantum-X800 網絡(luo)交換(huan)機平臺(tai)，端到端吞吐量(liang)能夠達到 800Gbps。平臺(tai)包括了(le)含 Quantum Q3400 交換(huan)機、ConnectX-8 SuperNIC 網卡(ka)等硬件。

這些硬件，也都是(shi)有系列的(de)。Quantum-X800 的(de)上一代，是(shi) Quantum-2。ConnectX-8 的(de)前代，有 ConnectX-6、ConnectX-7 等。

ConnectX 高速網(wang)卡也是來自 Mellanox。

Scale Out 的兩大解決方案(an)，除了 InfiniBand，還有以(yi)太網。英偉(wei)達以(yi)太網這邊(bian)也(ye)沒放過(guo)，也(ye)有產品，就是 Spectrum-X800。（Spectrum 是“光譜”的意思。）

Spectrum-X800 包括(kuo)了(le) Spectrum SN5600 交換(huan)機(ji)、BlueField-3 SuperNIC 網卡等硬(ying)件產品(pin)，吞吐(tu)量同樣高達 800Gbps。

BlueField 是(shi)這些年很火(huo)的(de) DPU。英偉達將 Mellanox 的(de) ConnectX 網卡技術(shu)與自己(ji)的(de)已有技術(shu)相(xiang)結合，于 2020 年正式推出(chu)了 BlueField-2 DPU 和 BlueField-2X DPU。現在(zai)演進到(dao)了 BlueField-3。

對了，前段時(shi)間，英偉達(da)還發(fa)布了 CPO 光電一體化(hua)封裝網絡交換機 Spectrum-X Photonics 和 Quantum-X Photonics。

英偉達還有一些(xie)其它的網(wang)卡、連(lian)接器、線纜等配(pei)件，就不逐個(ge)介紹了。

黃教主(zhu)前段(duan)時間透露，新一(yi)代(dai)的 Rubin 平臺(tai)發布時，據說(shuo)會(hui)帶來 NVLink 6、ConnectX-9 SuperNIC 和(he) Quantum（Spectrum）-X1600。可以(yi)期待(dai)一(yi)下。

█ 開發框架 ——CUDA

剛才介紹的，是英偉達(da)的算力(li)硬(ying)件平臺家族，以及通信(xin)網絡家族。

再看(kan)一個軟件方面的名(ming)詞 —— 大名(ming)鼎鼎的 CUDA。

英偉達的硬件和網絡做得很(hen)牛，但實際上，最被視為核(he)心競爭壁壘的，反而是這(zhe)個 CUDA。

CUDA（Compute Unified Device Architecture，計(ji)算(suan)統一設備(bei)架(jia)構），是英(ying)偉達在 2006 年(nian)推(tui)出(chu)的(de)并行(xing)計(ji)算(suan)平臺和(he)編程模型。它讓開發(fa)者能夠直接(jie)在 GPU 上編寫(xie)代碼，從(cong)而大幅提升計(ji)算(suan)速度。

如(ru)今，CUDA 就像是智算(suan)開發的操(cao)作系統，集編(bian)程模型、編(bian)譯器、API、庫和工具于一體(ti)，有利于用戶更好地(di)發揮英偉達硬件的能(neng)力。

CUDA 不僅是個(ge)(ge)工具(ju)，更形(xing)成了(le)強大的(de) AI 開(kai)發生態。它(ta)是英偉達整個(ge)(ge)業務體系的(de)神(shen)經中(zhong)樞。

現在很(hen)多 AI 開發都依賴于英偉達的硬件和 CUDA，換硬件其實也(ye)不(bu)是(shi)很(hen)難，但是(shi)，生(sheng)態(tai)遷移更加痛苦。

好啦，關于英偉(wei)達的主要(yao)產品體(ti)系和(he)命名(ming)規則，就(jiu)介(jie)紹到這(zhe)里(li)。

在(zai)不同的領(ling)域，英偉達(da)會(hui)基于這些核(he)心產(chan)品，構(gou)建(jian)不同的解決方案。有的時(shi)候(hou)，也會(hui)衍生出一(yi)些升級版(ban)或閹(yan)割(ge)版(ban)，大家注(zhu)意一(yi)下(xia)就行。

這(zhe)個公司在 AI 領域牢牢占據核(he)心地位，希望能有更(geng)多的企(qi)業，站出來向它發出挑(tiao)戰(zhan)。

本文來自微信公(gong)眾號：，作者：小棗(zao)君

廣告聲明：文(wen)內含有的對外跳(tiao)轉鏈接(jie)（包(bao)括不(bu)限于超鏈接(jie)、二(er)維碼、口令等形式），用于傳遞更多信息，節省甄選時間，結(jie)果僅供參考(kao)，IT之家所有文(wen)章(zhang)均(jun)包(bao)含本(ben)聲明。