Серверные GPU и ускорители

Тремя вещами. Охлаждение: у серверной карты пассивный радиатор без вентиляторов, воздух гонит сам сервер насквозь через стойку, поэтому карта держит круглосуточную нагрузку без перегрева. Память: серверный GPU несёт ECC с коррекцией ошибок, что обязательно для долгих вычислений, где сбой одного бита ломает результат обучения. Связность: серверные карты поддерживают NVLink и NVSwitch для объединения нескольких GPU в один пул, у игровых этого нет. Игровая карта не рассчитана на 24/7 в дата-центре и формально лишена поддержки для виртуализации vGPU.

Зависит от размера модели и фреймворка. Под крупные языковые модели и трансформеры берут H100 или A100 80 ГБ: решает объём HBM и связность NVLink, потому что модель должна поместиться в память узла. Под средние модели и дообучение хватает RTX 6000 Ada или L40S на 48 ГБ GDDR6 ECC, это заметно дешевле. Под обучение совсем больших моделей собирают узлы по 4 или 8 GPU с NVSwitch, чтобы карты делили память и данные на скорости 900 ГБ/с. Опишите архитектуру, число параметров и батч, мы подберём карту и число GPU под вашу нагрузку и бюджет.

Это два форм-фактора одной карты. PCIe-версия (L40S, RTX 6000 Ada, A100 PCIe, H100 PCIe) ставится в обычный слот PCIe 5.0 x16 стандартного сервера, NVLink-мостом связываются максимум две карты, питание до 350-400 Вт. SXM-модуль (A100 SXM4, H100 SXM5) крепится прямо на материнскую плату специальной платформы HGX на 4 или 8 GPU с полносвязной топологией NVSwitch и TDP до 700 Вт. SXM быстрее, плотнее и лучше масштабируется на многокарточных задачах, но работает только в HGX-узле. PCIe гибче, дешевле и ставится в любой совместимый сервер. Подскажем формат под вашу платформу.

Да, работаем поштучно и оптом. Для системных интеграторов, рендер-студий, AI-стартапов, майнинг-площадок и дата-центров действуют объёмные цены: чем крупнее партия, тем ниже цена за карту. Под крупные проекты подбираем единую спецификацию, резервируем наличие и согласуем график поставок партиями под ваш бюджет и сроки развёртывания. Для постоянных партнёров держим карты под заказ и предупреждаем о доступности дефицитных позиций вроде H100 заранее. Оптовое КП с ценой за единицу и за партию готовим за 1 рабочий день, для юрлиц работаем по договору и безналу с ЭСФ.

Да, собираем GPU-серверы целиком, а не только продаём карты. Под 2-4 PCIe-ускорителя берём корпус 2U, под 8 PCIe GPU формат 4U, под SXM-модули платформу HGX на 8 GPU с NVSwitch. Считаем питание под полную нагрузку: восемь H100 это около 5,6 кВт только на картах, поэтому закладываем резервные блоки на 3+ кВт и проверяем, держит ли стойка такую плотность по питанию и теплу. Прогоняем узел на стенде под нагрузкой, по запросу ставим драйверы CUDA и контейнерную среду. Опишите задачу, соберём готовый к обучению узел под ключ.

Складываем TDP всех карт и добавляем процессоры, память и обвязку. Карта L40S это 350 Вт, A100 SXM до 400-500 Вт, H100 SXM до 700 Вт. Восемь H100 дают около 5,6 кВт только на GPU, плюс два процессора и периферия выводят узел за 7 кВт, поэтому нужны резервные блоки питания и стойка, рассчитанная на такую нагрузку. Охлаждение проверяем под полной загрузкой: серверные карты пассивные и требуют достаточного продува, иначе срабатывает троттлинг. Мы рассчитаем питание, подберём блоки с запасом и проверим тепловой режим на стенде до отгрузки.

Да, под рендер и 3D-визуализацию лучше всего идут L40S и RTX 6000 Ada: у них много CUDA-ядер, RT-ядра для трассировки лучей и 48 ГБ памяти под тяжёлые сцены и текстуры высокого разрешения. Они сильнее A100 в задачах рендера, потому что A100 заточен под вычисления и лишён RT-ядер. Для рендер-ферм собираем узлы по несколько PCIe-карт в 4U-корпусе и считаем производительность под ваш движок: Redshift, Octane, V-Ray, Arnold, Blender Cycles. Поддержку выбранного движка и драйверов проверим заранее, чтобы карты дали максимум в вашем пайплайне.

vGPU это разделение одной серверной карты на несколько виртуальных GPU для виртуальных рабочих столов и приложений. Так одна L40S или L4 раздаёт ускорение десяткам пользователей VDI: CAD, дизайн, видеомонтаж в облаке. Для vGPU нужна не только карта с поддержкой виртуализации, но и подписочная лицензия NVIDIA vGPU, которая считается по числу одновременных пользователей. Мы подберём карту под нужное число рабочих мест и поможем оформить лицензию vGPU под вашу платформу виртуализации (VMware, Citrix, Proxmox). Рассчитаем, сколько пользователей потянет узел, чтобы вы не переплатили за лишние карты.

Да, поставляем только оригинальные ускорители от производителя без серого и ремаркированного товара. Серверные GPU идут строго с ECC-памятью, потому что для долгих вычислений коррекция ошибок обязательна. На каждую карту даём гарантию: на оборудование действует гарантия вендора в Казахстане, на сборку GPU-сервера наша гарантия на работу и комплектующие. По запросу предоставляем серийные номера и документы для постановки на учёт и тендерных требований. Карты проверяем на стенде под нагрузкой перед отгрузкой, чтобы исключить брак и троттлинг, а вы получили заведомо рабочее железо.

Если позиция есть на складе в Алматы, отгружаем за 1-3 рабочих дня. Дефицитные флагманы вроде H100 и платформы HGX обычно идут под заказ от двух до пяти недель в зависимости от наличия у дистрибьютора и объёма партии. Готовый GPU-сервер на заказ с тестом и прогоном собираем за 5-10 дней. Точный срок называем сразу в КП и фиксируем в договоре, по дефицитным картам предупреждаем о реальной доступности честно, без обещаний на словах. В регионы Казахстана добавляется время на доставку транспортной компанией, его учитываем заранее в графике.

Да, с компаниями и ИП работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры (ЭСФ). После отгрузки подписываем накладную и акт приёма-передачи. Реквизиты, проект договора и спецификацию по картам и GPU-серверу присылаем заранее, чтобы бухгалтерия и отдел снабжения успели всё провести. Поможем с документами для постановки оборудования на учёт и амортизации. Для тендеров и госзакупок готовим полный комплект документов и технические характеристики ускорителей под требования заказчика, включая подтверждение оригинальности и гарантийных обязательств в Казахстане.

Да, при подборе мы оставляем запас под рост. В PCIe-сервере можно дозаполнить свободные слоты дополнительными картами, если хватает питания и продува, поэтому изначально закладываем блок питания и корпус с запасом. В HGX-платформе число SXM-модулей фиксировано шасси (обычно 4 или 8), поэтому под рост берут узел сразу на 8 GPU и заполняют постепенно. Для масштабирования за пределы одного узла собираем кластер из нескольких GPU-серверов со связью по InfiniBand или 100/200 GbE. Поможем спланировать апгрейд так, чтобы добавлять карты партиями без замены платформы и простоя.

NVIDIA доминирует в AI за счёт экосистемы CUDA: большинство фреймворков (PyTorch, TensorFlow, JAX) и готовых моделей оптимизированы именно под CUDA и Tensor-ядра, поэтому H100, A100, L40S это стандарт де-факто для обучения и инференса. AMD Instinct MI300X несёт рекордные 192 ГБ HBM3 и сильна в задачах, где решает объём памяти, а софт собран под ROCm. На практике выбор почти всегда диктует ваш стек: если код и модели заточены под CUDA, берут NVIDIA, если есть поддержка ROCm и нужен максимум VRAM на карту, AMD выходит выгоднее. Подскажем под ваш фреймворк, что встанет без переписывания кода.