[ТЕЛЕФОН]Заявка

GPU-серверы на ускорителях AMD Instinct

Альтернатива платформам HGX: восемь ускорителей Instinct на одной плате и от 192 до 288 ГБ памяти на ускоритель, чтобы крупные модели помещались на меньшем числе GPU.

16 товаров · цены для юрлиц с НДС и без НДС
Прайс-лист XLSXЗагрузить спецификацию
Выбрано:Б/у

Цены не являются публичной офертой (ст. 437 ГК РФ) — стоимость оборудования и доставки уточняется по заявке.

По этим фильтрам ничего нет

Ослабьте условия или сбросьте фильтры. Можем найти нужную модель — оставьте P/N, ответим с ценой и сроком.

Как выбрать сервер на AMD Instinct

Ускорители Instinct в таких серверах выполнены в форм-факторе OAM: восемь модулей стоят на общей плате и обмениваются данными через Infinity Fabric. По устройству это ближайший аналог платформы HGX, но с другим программным стеком.

Поколение выбирают по объёму и скорости памяти. У MI300X 192 ГБ HBM3, у MI325X 256 ГБ HBM3E, у MI350X и MI355X 288 ГБ HBM3E. Большой объём на один ускоритель особенно полезен для инференса: модель с длинным контекстом занимает меньше GPU, и узел проще масштабировать. MI300A отличается от остальных: это гибридный чип с процессорными ядрами и GPU на общей памяти 128 ГБ, он рассчитан на задачи HPC.

Программная часть строится на ROCm. Распространённые фреймворки для обучения и инференса его поддерживают, но перед покупкой стоит проверить конкретный стек: версии библиотек, собственные ядра на CUDA и инструменты мониторинга. Если код написан только под CUDA, заложите время на перенос.

Учтите питание и охлаждение. Потребление ускорителя в зависимости от поколения составляет от 750 до 1400 Вт, а старшие варианты рассчитаны на жидкостное охлаждение, поэтому узел требует подготовленной стойки. Опишите модель и нагрузку: инженер подберёт поколение и платформу и пришлёт КП.

Что выбрать: AMD Instinct или NVIDIA HGX?

Instinct даёт больше памяти на ускоритель, это удобно для инференса крупных моделей. HGX выигрывает зрелостью стека CUDA и выбором готового ПО. Решение зависит от того, на чём написан ваш код и какие модели вы запускаете.

Работают ли на Instinct популярные LLM?

Да, основные открытые модели запускаются через ROCm в распространённых средах инференса. Точную совместимость версий стоит проверить заранее на вашей модели и формате весов.

Нужно ли жидкостное охлаждение?

Зависит от поколения и производителя сервера. Есть варианты с воздушным охлаждением, а самые мощные ускорители требуют жидкостного контура. Вариант для вашей площадки подскажет инженер.