GPU-сервер 8x H100 HGX

Версия H100 SXM5 устанавливается в плату HGX и соединяется с другими картами напрямую через NVSwitch на полной скорости NVLink 900 ГБ/с в обе стороны, её TDP до 700 Вт. Версия H100 PCIe ставится в обычный слот, имеет TDP около 350 Вт и связывается с соседними картами только по мосту NVLink на двоих или через шину PCIe, что заметно медленнее при обмене данными. Для обучения больших моделей с распараллеливанием по картам разница принципиальна: SXM5 в составе HGX даёт единый быстрый пул из 640 ГБ, а связка PCIe-карт упирается в межкарточный обмен. Поэтому под серьёзное обучение берут именно SXM5.

Узел 8x H100 даёт 640 ГБ объединённой памяти HBM3, и этого хватает на обучение моделей примерно до 30-70 миллиардов параметров с учётом оптимизатора, градиентов и активаций при разумном размере батча и стандартных техниках вроде ZeRO и mixed precision. Для инференса в эти 640 ГБ помещаются и более крупные модели на сотни миллиардов параметров с квантизацией. Если модель не влезает в один узел, серверы объединяют в кластер через InfiniBand NDR 400G и распределяют по узлам. Назовите архитектуру и размер модели, длину контекста и батч - посчитаем, нужен один узел или несколько, и подберём конфигурацию.

Восемь карт H100 SXM5 дают до 5,6 кВт, а весь узел с процессорами, памятью и сетью потребляет до 10,2 кВт. Под это нужна стойка с подводом питания от 11-13 кВт на узел, два-три блока питания с резервированием и линии на разные фазы. По охлаждению воздушный вариант 8U требует холодного коридора и температуры в зале до 25-27 градусов, жидкостный DLC снимает тепло эффективнее и позволяет уплотнить стойку. Перед поставкой мы считаем тепловую и электрическую нагрузку под ваш конкретный зал или дата-центр и говорим, потянет ли существующая инфраструктура или нужен апгрейд питания и климата.

H100 это текущий рабочий стандарт для обучения LLM и генеративных моделей с 80 ГБ памяти HBM3 на карту. H200 это та же архитектура Hopper, но память увеличена до 141 ГБ HBM3e и пропускная поднята до 4,8 ТБ/с против 3,35 ТБ/с у H100. Брать H200 имеет смысл, когда упор именно в объём и скорость памяти: очень большие модели, длинный контекст, инференс с большим числом одновременных запросов. Если бюджет ограничен, а модели помещаются в память узла H100, переплата за H200 не всегда оправдана. Опишите задачу и размер моделей, и мы честно скажем, где выигрыш H200 окупается, а где хватит H100.

Можно, если ваша задача это инференс, видеогенерация, рендер или графика, а не обучение крупных моделей с нуля. L40S на архитектуре Ada Lovelace несёт 48 ГБ памяти GDDR6, стоит в разы дешевле H100 и отлично работает на инференсе и медийных нагрузках. Но у L40S нет NVLink-пула: карты не объединяются в общую быструю память, поэтому под обучение больших моделей с распараллеливанием по картам она проигрывает H100. На практике многие берут H100 под обучение и отдельный парк L40S под дешёвый инференс готовых моделей. Подберём баланс под ваш сценарий, чтобы не переплачивать за карты там, где задача их не требует.

Да, поставляем только оригинальные ускорители NVIDIA H100 SXM5 и H200 от авторизованных дистрибьюторов, без серого и ремаркированного товара. На каждую платформу даём гарантию вендора, действующую в Казахстане, и по запросу предоставляем серийные номера и документы для постановки оборудования на учёт и прохождения тендерных требований. Перед отгрузкой каждый узел проходит burn-in с проверкой всех восьми карт, тестом памяти HBM3, проверкой NVLink и термального режима, чтобы вы получили заведомо исправную платформу, а не кота в мешке.

Если нужная платформа есть на складе в Алматы, отгружаем за 3-7 рабочих дней с учётом burn-in и подготовки документов. Под заказ у дистрибьютора срок обычно от 3 до 8 недель и зависит от наличия карт H100, которые остаются дефицитной позицией на мировом рынке. Сборка узла под ваше ТЗ на выбранной платформе занимает 2-4 недели вместе с тестовым прогоном. Точный срок называем в коммерческом предложении и фиксируем в договоре вместе с ценой. В регионы Казахстана добавляется время на доставку транспортной компанией, его учитываем заранее и закладываем страхование груза.

Да, GPU-серверы 8x H100 проектируются как строительные блоки кластера: узлы соединяют высокоскоростной сетью InfiniBand NDR 400G через коммутатор, что даёт низкую задержку для обмена градиентами при распределённом обучении. Поверх разворачивается оркестрация: Slurm для классических HPC-нагрузок или Kubernetes с GPU-оператором для контейнеров. Технологии NCCL и SHARP ускоряют коллективные операции между узлами. Поможем спроектировать топологию сети, подобрать коммутаторы и кабели, рассчитать число узлов под нужную скорость обучения и развернуть стек, чтобы кластер работал как единая система, а не набор серверов.

Да, по запросу разворачиваем полный программный стек: драйверы NVIDIA, CUDA нужной версии, cuDNN, NVIDIA Container Toolkit для запуска контейнеров с доступом к GPU, фреймворки PyTorch и TensorFlow, библиотеки NCCL для многокарточного обмена. По оркестрации настраиваем Slurm или Kubernetes с GPU-оператором, мониторинг загрузки карт через DCGM и Prometheus с Grafana. Можем подготовить базовые образы и тестовый пайплайн обучения, чтобы вы убедились в утилизации всех восьми карт. Объём настройки согласуем заранее и включаем в смету, чтобы вы получили готовую к обучению платформу, а не просто железо без софта.

Мощные GPU простаивают, если данные подаются медленно, поэтому хранилище критично. Локально в узел ставим быстрые NVMe U.2 на 15-30 ТБ под кэш активного датасета и чекпоинты, чтобы карты не ждали диск. Для больших датасетов и общего доступа из кластера подключаем сетевое хранилище - параллельную файловую систему или быстрый NAS - через ту же высокоскоростную сеть. Под обучение важна не только ёмкость, но и пропускная и число операций в секунду, чтобы пайплайн загрузки данных успевал за восемью картами. Посчитаем профиль ваших датасетов и подберём связку локального NVMe и сетевого хранилища без узких мест.

Это продажа оборудования в собственность, а не аренда GPU по часам и не облако. Вы получаете физический узел 8x H100 на свою площадку или в свой дата-центр, полный контроль над данными и конфигурацией, без оплаты за время и без зависимости от внешнего провайдера. Это выгодно при постоянной высокой загрузке: при круглосуточном обучении покупка окупается заметно быстрее долгосрочной аренды облака, плюс данные не покидают вашу инфраструктуру, что важно для безопасности и регуляторики. Поможем посчитать совокупную стоимость владения с учётом питания и охлаждения и сравнить с арендой под ваш реальный профиль нагрузки.

Да, с компаниями, ИП, дата-центрами, вузами и научными институтами работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры ЭСФ. После отгрузки подписываем накладную и акт приёма-передачи, помогаем с документами для постановки дорогостоящего оборудования на учёт. Реквизиты, проект договора и спецификацию узла присылаем заранее, чтобы снабжение и бухгалтерия успели согласовать закупку. Для тендеров и госзакупок готовим полный комплект документов и характеристики строго под требования заказчика, включая подтверждение оригинальности и гарантии вендора в Казахстане.

Да, на платформу и карты H100 действует гарантия производителя в Казахстане, на сборку узла под ТЗ мы даём собственную гарантию на работу и комплектующие. Дополнительно оформляем сервисное сопровождение: диагностику, замену вышедших из строя компонентов, удалённую поддержку по драйверам, стеку и настройке кластера. Для критичных задач предлагаем расширенную поддержку с приоритетным временем реакции и подменным фондом, чтобы простой узла из-за сбоя был минимальным. Условия гарантии и сервиса прописываем в договоре отдельным разделом, без скрытых оговорок.