[ТЕЛЕФОН]Заявка
Глоссарий · Шины и интерфейсы

Что такое NVLink

Все термины

Определение

Высокоскоростная связь между GPU NVIDIA, в разы быстрее PCIe. Ускоряет работу модели, разделённой между картами; есть в серверах HGX и стойках NVL72.

В серверах HGX на 8 модулей SXM (H100, H200, B200, B300) все GPU связаны через NVSwitch: 900 ГБ/с на GPU у Hopper и 1,8 ТБ/с у Blackwell — в сумме в обе стороны. Для сравнения, PCIe 5.0 x16 даёт около 128 ГБ/с. В стойках NVL72 (GB200, GB300, Vera Rubin) в одну такую сеть объединены 72 GPU.

У PCIe-карт H100 NVL и H200 NVL есть мосты NVLink: у H100 NVL — на пару карт (600 ГБ/с), у H200 NVL — на 2 или 4 карты (900 ГБ/с). У RTX PRO 6000 Blackwell, L40S и GeForce RTX 40/50 NVLink нет: они обмениваются данными по PCIe, поэтому модель на них лучше делить не больше чем на 4 карты.

PCIe 5.0 x16~128 ГБ/сNVLink · Hopper900 ГБ/сNVLink · Blackwell1,8 ТБ/с
Связанные термины