[ТЕЛЕФОН]Заявка

GPU-серверы на процессорах NVIDIA Grace

Платформы, где Arm-процессор Grace и GPU обмениваются данными намного быстрее, чем через PCIe. Подходят для инференса, RAG и задач, которым не хватает видеопамяти.

11 товаров · цены для юрлиц с НДС и без НДС
Прайс-лист XLSXЗагрузить спецификацию
Выбрано:Б/у

Цены не являются публичной офертой (ст. 437 ГК РФ) — стоимость оборудования и доставки уточняется по заявке.

По этим фильтрам ничего нет

Ослабьте условия или сбросьте фильтры. Можем найти нужную модель — оставьте P/N, ответим с ценой и сроком.

Чем серверы на Grace отличаются от x86

GH200 объединяет на одном суперчипе Arm-процессор Grace и ускоритель с 96 или 144 ГБ памяти HBM. Процессор и GPU связаны линией NVLink-C2C, поэтому модель может использовать и быструю LPDDR5X процессора, что важно при инференсе и работе с большими векторными индексами.

Вторая группа платформ сочетает процессоры Grace с отдельными PCIe-ускорителями, например H100 NVL или RTX PRO. Такие серверы занимают 1U или 2U и потребляют меньше энергии на узел, чем системы на двух процессорах x86 с тем же числом GPU.

Главное отличие для команды разработки — архитектура Arm64. Основные фреймворки, драйверы NVIDIA и контейнеры поддерживают её, но собственные сборки и закрытые библиотеки нужно проверить заранее: не все они выпускаются под Arm.

Сравнивайте платформы по объёму памяти, числу GPU и сети. Опишите модель, контекст и число пользователей: инженер посчитает, какой вариант подходит, и пришлёт КП.

Запустится ли моё ПО на Arm?

CUDA, PyTorch и распространённые среды инференса под Arm64 работают. Проверить нужно собственные сборки и закрытые библиотеки: если какой-то из них нет под Arm, потребуется замена или пересборка.

Чем GH200 лучше сервера с H100 по PCIe?

В GH200 процессор и GPU обмениваются данными по NVLink-C2C намного быстрее, чем по PCIe, и GPU может обращаться к памяти процессора. Это полезно, когда данные не помещаются в видеопамять.

Подойдёт ли такой сервер для обучения?

Для дообучения и средних моделей да. Для обучения крупных моделей обычно выбирают узлы на восьми ускорителях SXM, например HGX: там больше суммарная видеопамять и быстрее связь между GPU.