AI-стойки и стоечные GPU-кластеры для обучения моделей
Когда модель не помещается в один 8-GPU узел: готовая стойка, где десятки GPU работают как одна система, или кластер из HGX-узлов, который наращивают по одному серверу.
7 товаров · цены для юрлиц с НДС и без НДСЦены не являются публичной офертой (ст. 437 ГК РФ) — стоимость оборудования и доставки уточняется по заявке.
По этим фильтрам ничего нет
Ослабьте условия или сбросьте фильтры. Можем найти нужную модель — оставьте P/N, ответим с ценой и сроком.
Что нужно знать перед покупкой AI-стойки
AI-стойка — это не шкаф с серверами, а спроектированная система: вычислительные узлы, коммутаторы, питание и охлаждение рассчитаны вместе. В NVIDIA GB200 NVL72, GB300 NVL72 и Vera Rubin NVL72 все 72 GPU объединены NVLink в один домен: любой GPU обменивается данными с любым на полной скорости NVLink, как внутри одного узла. Это нужно для обучения и инференса моделей, которые не помещаются в один 8-GPU узел.
Второй вариант — стойка из серверов HGX H200, B200 или B300 на воздушном или жидкостном охлаждении, связанных сетью InfiniBand или Ethernet 400–800G. Такой кластер проще наращивать по одному узлу, и его можно разместить в ЦОД с меньшей плотностью мощности на стойку.
Главное ограничение — площадка. NVL72 потребляет порядка 120 кВт и больше и работает только на жидкостном охлаждении: нужны CDU, контур с теплоносителем, трёхфазное питание с резервированием и перекрытие, выдерживающее вес стойки. Проверьте площадку до заказа, иначе оборудование будет ждать доработки ЦОД.
Стоечные системы выпускают NVIDIA и производители серверов — Supermicro, GIGABYTE, ASUS, Inventec. Позиции, которых нет в каталоге, ищем по P/N у производителей и дистрибьюторов в Азии, а международную доставку, страховку и таможенное оформление указываем в КП.
Чем AI-стойка отличается от стойки с GPU-серверами?
В NVL72 все 72 GPU связаны NVLink в один домен, а питание и охлаждение спроектированы под всю систему. В стойке из отдельных серверов GPU разных узлов обмениваются данными по сети InfiniBand или Ethernet.
Какое охлаждение нужно для NVL72?
Жидкостное, с прямым отводом тепла от чипов: стойку подключают к CDU и контуру теплоносителя ЦОД. Воздушного охлаждения для такой плотности недостаточно.
Сколько потребляет AI-стойка?
Стойка NVL72 — порядка 120 кВт и больше, стойка из четырёх узлов HGX на воздушном охлаждении — от 40 кВт. Точную цифру считают по конфигурации.
Как доставляют такие системы?
Из Гонконга или ОАЭ: маршрут, сроки, страховку и таможенное оформление указываем в КП. Для серверов и GPU рекомендуем страховать груз всегда.