Видеокарты для дата-центра

Конструктивно и логически это разные классы. Дата-центровая карта без собственных вентиляторов: её охлаждает фронтальный обдув шасси, поэтому она встаёт плотно в стойку без перегрева, а игровая с открытым кулером в сервере задохнётся. Память идёт с коррекцией ошибок ECC, что критично для многосуточного обучения, где сбой одного бита портит весь расчёт. Добавляются тензорные ядра под матричные операции, форматы FP8 и TF32, поддержка NVLink для связки карт и драйверы под виртуализацию vGPU. Игровая RTX 4090 мощная, но без ECC, NVLink и серверного охлаждения она не для дата-центра.

Зависит от задачи и бюджета. H100 (80 ГБ HBM3, до 3.35 ТБ/с, FP8 до 3958 TFLOPS, NVLink 900 ГБ/с) это текущий топ под обучение больших языковых моделей и генеративный AI, где важны память, скорость и быстрый интерконнект. A100 (40 или 80 ГБ HBM2e) проверенный временем ускоритель под ML, HPC и инференс: заметно дешевле H100 при солидной мощности, поэтому под многие задачи её хватает с запасом. Если вы обучаете крупные LLM с нуля, берите H100. Если это инференс, дообучение и вычисления, A100 часто выгоднее по цене за результат. Поможем посчитать оба варианта под вашу нагрузку.

Зависит от типа нагрузки и объёма модели. Под инференс и рендер хватает L40S или RTX 6000 Ada с 48 ГБ памяти. Под дообучение и средний ML берут A100 на 40-80 ГБ. Под обучение крупных LLM с нуля нужны H100 в связке через NVLink, чтобы общий пул памяти вместил модель. Под максимум памяти на карту смотрят AMD Instinct MI300X со 192 ГБ HBM3. Ключевой параметр это объём VRAM: модель должна целиком помещаться в память карт, иначе обучение замедляется на обмене с системной памятью. Опишите задачу, размер модели и бюджет, и мы бесплатно подберём GPU и платформу с запасом на рост.

NVLink это высокоскоростной мост напрямую между видеокартами в обход шины PCIe. У H100 пропускная NVLink достигает 900 ГБ/с против 64 ГБ/с у PCIe Gen5, поэтому две-четыре карты могут работать с общим пулом памяти, как одна большая. Это критично для обучения крупных моделей, которые не помещаются в память одной карты: без быстрого интерконнекта кластер упрётся в обмен данными между GPU и будет простаивать. NVSwitch масштабирует NVLink на все 8 карт внутри платформы HGX. Если вы обучаете большие модели, NVLink обязателен, для инференса на одиночных картах достаточно PCIe. Топологию связи рассчитаем под вашу модель.

Поставляем только оригинальные новые карты от производителя и авторизованных дистрибьюторов, без серого ремаркированного товара и без бывших в майнинге GPU. Майнинг-карты опасны деградировавшей памятью и питанием после круглосуточной нагрузки, поэтому в дата-центр мы их не ставим. На каждую позицию даём гарантию: на профессиональные ускорители действует гарантия вендора NVIDIA или AMD в Казахстане. По запросу предоставляем серийные номера и документы для постановки на учёт и прохождения тендерных требований. Перед отгрузкой каждая карта проходит стресс-тест под полной нагрузкой с проверкой ECC и температур.

Да, продаём видеокарты и поштучно, и оптом без платформы, если у вас уже есть совместимое шасси. Но важно проверить совместимость: дата-центровые карты без вентиляторов требуют сервера с фронтальным обдувом нужной мощности, достаточного питания (H100 SXM это до 700 Вт на карту) и поддержки нужного форм-фактора PCIe или SXM. Если просто вставить серверную карту в обычный корпус без серверного охлаждения, она перегреется и уйдёт в троттлинг. Поэтому при покупке карт отдельно мы проверяем вашу платформу на совместимость по питанию, охлаждению и слотам, чтобы карты заработали на полную, а не сгорели.

Много, и это надо считать заранее. H100 SXM это до 700 Вт на карту, поэтому платформа на 8 GPU потребляет до 5.6 кВт только на ускорители плюс процессоры, память и обвязка, итого ближе к 7-10 кВт на сервер. Под это закладывают блоки питания на 3000-6600 Вт с резервированием 2+2, ввод 16-32 А, запас по PDU стойки и ИБП. Карты попроще, L40S или RTX 6000 Ada, потребляют 300-350 Вт и нагрузка скромнее. Мы просчитываем суммарный TDP конфигурации, подбираем блоки питания с запасом и подсказываем требования к стойке и серверной, чтобы питание не стало узким местом.

Дата-центровые карты рассчитаны на принудительный фронтальный обдув: вентиляторы шасси гонят воздух спереди назад через пассивные радиаторы карт. Воздушное охлаждение в шасси 4U или 8U справляется с 4-8 картами при правильной организации потока и температуре в серверной до 25-27 градусов. Под плотные кластеры H100, где тепловыделение очень высокое, применяют жидкостное охлаждение direct-to-chip, которое снимает тепло эффективнее и позволяет уплотнить стойку. Перед поставкой мы прогоняем сервер под полным TDP и проверяем температуры карт под нагрузкой, чтобы не было троттлинга. Тепловыделение конфигурации просчитаем заранее под вашу серверную.

Да, профессиональные карты NVIDIA поддерживают технологию vGPU, которая делит одну физическую карту между несколькими виртуальными машинами с выделением части памяти и вычислений каждой. Это удобно под VDI, виртуальные рабочие станции для 3D и CAD, облачный рендер и совместный доступ к ускорителю. Хорошо подходят RTX 6000 Ada, L40S и A100 с поддержкой MIG, который аппаратно режет A100 или H100 на изолированные инстансы. Учтите, что vGPU требует отдельной лицензии NVIDIA, её мы тоже поможем подобрать и оформить. Под задачу виртуализации подскажем модель карты, число инстансов и нужные лицензии.

Если нужная модель есть на складе в Алматы, отгружаем за 1-3 рабочих дня. Сборка GPU-сервера под ваше ТЗ с тестом и прогоном занимает обычно от 5 до 10 дней. Топовые H100 и A100 под заказ поставляются от двух до четырёх недель в зависимости от модели, объёма партии и наличия у дистрибьютора, так как спрос на эти карты высокий. Точный срок называем сразу в коммерческом предложении и фиксируем в договоре. В регионы Казахстана добавляется время на доставку транспортной компанией с усиленной упаковкой, его тоже учитываем заранее. Для крупных партий резервируем поставку под график проекта.

Да, с компаниями и ИП работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры (ЭСФ). После отгрузки подписываем накладную и акт приёма-передачи. Реквизиты, проект договора и спецификацию конфигурации с моделями карт, объёмом памяти и характеристиками присылаем заранее, чтобы бухгалтерия и отдел снабжения успели всё провести. Поможем с документами для постановки дорогостоящего оборудования на учёт. Для тендеров и госзакупок готовим полный комплект документов и технические характеристики под требования заказчика. Под крупные проекты обсуждаем график оплаты и отгрузки.

Да, по запросу ставим полный программный стек под вычисления: драйверы NVIDIA CUDA или AMD ROCm, библиотеки cuDNN, контейнерную среду Docker с NVIDIA Container Toolkit, фреймворки PyTorch или TensorFlow. Настраиваем топологию NVLink и NVSwitch, проверяем, что карты видят друг друга и работают с общим пулом памяти, при необходимости разворачиваем MIG или vGPU. Можем подготовить готовый к работе узел под обучение или инференс, чтобы вы получили сервер, на котором сразу запускается ваша задача, а не голое железо. Объём настройки согласуем заранее и включаем в смету проекта.

Да, на профессиональные ускорители NVIDIA и AMD действует гарантия производителя в Казахстане, на собранный нами GPU-сервер мы даём собственную гарантию на работу и комплектующие. Дополнительно оформляем сервисное обслуживание: диагностика, замена вышедших из строя карт и компонентов, удалённая поддержка по настройке драйверов и топологии. Для критичных вычислительных узлов предлагаем расширенную поддержку с приоритетным временем реакции и подменным фондом, чтобы простой кластера был минимальным. Условия гарантии и сервиса прописываем в договоре без скрытых оговорок. Поможем и с пусконаладкой, и с дальнейшим сопровождением проекта.