GPU-серверы и платформы

Зависит от задачи и объёма модели. Под инференс готовой модели или рендер хватает 1-2 карт. Под дообучение средних моделей берут 2-4 карты RTX 4090 или L40S. Под обучение крупных LLM с нуля нужны 4-8 ускорителей A100 или H100 на 80 ГБ с NVLink, чтобы веса, оптимизатор и батч поместились в видеопамять без выгрузки на хост. Если карт мало, обучение либо не запустится по памяти, либо растянется на недели. Опишите модель, размер батча и желаемое время обучения, и мы посчитаем нужное число карт с запасом.

Это карты для разных задач. RTX 4090 это игровой чип Ada с 24 ГБ GDDR6X, отличная цена за FP32-производительность, идёт под рендер, инференс и дообучение, но без NVLink и с потребительской лицензией. H100 это датацентровый ускоритель Hopper с 80 ГБ HBM3, тензорными ядрами под FP8 и BF16, NVLink на 900 ГБ/с и поддержкой MIG для разделения на инстансы. H100 в разы дороже, но даёт пропускную способность памяти и связность, без которых распределённое обучение крупных моделей упирается в шину. Под бюджетные задачи берут 4090, под серьёзный AI/ML H100 или A100.

Готовая платформа Supermicro, Dell PowerEdge XE или Gigabyte это проверенная вендором совместимость карт, питания и охлаждения, официальная гарантия в Казахстане и предсказуемый сервис, что важно для дата-центров и тендеров. Сборка на заказ на барбон-платформе обычно выходит дешевле при сопоставимой мощности и гибче по выбору карт и дисков, что удобно под нестандартные конфигурации и бюджет. Барбон уже рассчитан на нужное число GPU по питанию и продувке. Работаем и так, и так: подскажем, что выгоднее под задачу, и в обоих случаях прогоним сервер под нагрузкой перед отгрузкой и дадим гарантию.

Зависит от плотности и TDP карт. До 4-6 карт в шасси 4U справляется воздушное охлаждение с высокооборотистыми вентиляторами и продуманной продувкой, при условии нормальной температуры в серверной. Выше по плотности, например 8 модулей H100 SXM с суммарным TDP около 5600 Вт, уже нужно прямое жидкостное охлаждение или иммерсия, иначе карты будут троттлить и терять частоту. Мы подбираем шасси и схему охлаждения под конкретные карты и плотность, а на стенде замеряем температуры и частоты под полной нагрузкой, чтобы сервер держал буст без сброса.

Да, поставляем только новые оригинальные карты от производителя, без серого ремаркированного товара и без карт, уставших на майнинге. Это принципиально для GPU-серверов: карта после года майнинга имеет деградировавшую память и систему охлаждения и непредсказуемо ведёт себя под длительной нагрузкой обучения. На каждую карту даём гарантию: на датацентровые ускорители гарантия вендора, действующая в Казахстане, на сборку гарантия на работу и комплектующие. По запросу предоставляем серийные номера и документы для постановки на учёт и тендерных требований.

Если нужная конфигурация и карты есть на складе в Алматы, отгружаем за 1-3 рабочих дня. Сборка на заказ под ваше ТЗ с тестом и прогоном на стенде занимает обычно от 5 до 10 дней. Датацентровые ускорители A100 и H100 под заказ поставляются от двух до четырёх недель в зависимости от наличия у дистрибьютора и объёма партии, на них спрос высокий и сроки стоит закладывать заранее. Точный срок называем сразу в КП и фиксируем в договоре. В регионы Казахстана добавляется время на доставку транспортной компанией, его тоже учитываем заранее.

Да, если платформа выбрана с запасом. При подборе мы закладываем шасси с свободными слотами PCIe или модулями HGX, БП с запасом мощности под дополнительные карты и охлаждение под полную загрузку, чтобы вы могли нарастить число GPU без замены сервера. Важно сразу заложить питание и теплоотвод под целевое число карт, потому что добавить карту в шасси без запаса по БП и продувке не получится. Когда придёт время расширения, поможем подобрать совместимые карты и при необходимости проведём апгрейд. Это дешевле, чем менять платформу целиком.

Да, с компаниями, ИП, студиями рендера, AI/ML-командами и дата-центрами работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры (ЭСФ). После отгрузки подписываем накладную и акт приёма-передачи. Реквизиты, проект договора и спецификацию конфигурации с моделями карт присылаем заранее, чтобы бухгалтерия и снабжение успели всё провести. Поможем с документами для постановки оборудования на учёт. Для тендеров и закупок подготовим комплект документов и технические характеристики карт под требования заказчика.

Да, по запросу разворачиваем программную часть: драйверы NVIDIA, CUDA и cuDNN, контейнерную среду Docker с NVIDIA Container Toolkit, фреймворки PyTorch или TensorFlow в нужных версиях, настраиваем мониторинг карт через nvidia-smi и DCGM. Можем поднять оркестрацию на нескольких картах и узлах, настроить NVLink и сетевую связность для распределённого обучения. Если переезжаете со старого сервера, поможем перенести окружение и данные. Объём настройки согласуем заранее и включаем в смету, чтобы вы получили платформу, готовую считать, а не просто железо с картами.

Для обучения главное объём и скорость видеопамяти и связность карт. Под крупные модели берут H100 или A100 на 80 ГБ HBM с NVLink: модель и оптимизатор помещаются в память, а NVLink на 600-900 ГБ/с убирает узкое место при синхронизации градиентов между картами. Для дообучения и средних моделей экономичный вариант RTX 4090 или L40S на 24-48 ГБ, но без NVLink и с меньшей пропускной способностью. Тензорные ядра с поддержкой FP8 и BF16 на H100 заметно ускоряют обучение. Подберём карты под размер вашей модели, бюджет и желаемое время обучения.

Да, под рендер и 3D-визуализацию GPU-сервер работает отлично. Для рендер-ферм в V-Ray, Redshift, Octane и Blender Cycles берут RTX 4090 за лучшую цену за производительность или RTX 6000 Ada и L40S с 48 ГБ под тяжёлые сцены, которые не помещаются в 24 ГБ. Несколько карт в одном шасси дают параллельный рендер кадров и линейный прирост скорости. Для CAD и инженерной визуализации подходят профессиональные Quadro RTX и Radeon Pro с сертифицированными драйверами. Подскажем число и модель карт под ваш софт, разрешение и сложность сцен.

Да, на датацентровые карты и готовые платформы действует гарантия производителя в Казахстане, на сборку на заказ мы даём собственную гарантию на работу и комплектующие. Дополнительно оформляем сервисное обслуживание: диагностика, замена вышедшей из строя карты или БП, удалённая поддержка по драйверам и настройке. Для критичных AI/ML и рендер-задач предлагаем расширенную поддержку с приоритетным временем реакции и подменным фондом карт, чтобы простой сервера был минимальным. Условия гарантии и сервиса прописываем в договоре, без скрытых оговорок и серых схем.