GPU-сервер на RTX

RTX 4090 даёт лучшее соотношение цены и производительности под рендер и инференс: 24 ГБ GDDR6X, 82 TFLOPS FP32, около 950 000 ₸ за карту. Но это 2-слотовая карта с воздушным охлаждением без ECC, плотно поставить много штук в сервер сложнее. RTX 6000 Ada это 48 ГБ ECC-памяти, турбинное охлаждение с выдувом наружу и сертификация под серверы, поэтому 4-8 таких карт встают в стойку штатно. Если нужен максимум памяти на карту, ECC и плотная сборка, берут Ada, если важна цена за FP32 под рендер, берут 4090. Подберём под вашу задачу и бюджет.

Зависит от корпуса, платформы и питания. В корпус 4U с серверной материнской платой на AMD EPYC (128 линий PCIe) штатно встают 4 карты на полной x16, а на специализированных платформах и через PCIe-свитчи до 8 GPU. Главное ограничение это питание и охлаждение: четыре RTX 4090 это около 1800 Вт только на картах, поэтому нужны БП на 2600-3200 Вт и продуманный поток воздуха. Под 8 карт берут HGX-платформы с NVLink/NVSwitch. Мы считаем число GPU вместе с питанием и нагрузкой на серверную, чтобы карты работали стабильно под полной загрузкой.

Под обучение моделей критичны объём VRAM и пропускная способность памяти. Для средних моделей и файнтюна подходят узлы на 4x RTX 4090 или RTX 6000 Ada (48 ГБ ECC), где помещаются крупные батчи. Для больших языковых моделей и серьёзного обучения берут A100 (40/80 ГБ HBM2e) или H100 (80 ГБ HBM3 с поддержкой FP8) на платформе с NVLink, чтобы карты быстро обменивались данными. Память хоста от 128-256 ГБ ECC, быстрые NVMe под датасеты. Опишите задачу, размер моделей и фреймворк, и мы бесплатно подберём конфигурацию под обучение с запасом на рост.

Для рендера это оптимальный инструмент. Render-движки OctaneRender, Redshift, V-Ray RT и Blender Cycles масштабируются по числу карт почти линейно, поэтому 4x RTX 4090 рендерят кадр примерно вчетверо быстрее одной. Под рендер чаще всего берут именно RTX 4090 за лучшую цену на TFLOPS, а если сцены тяжёлые и не влезают в 24 ГБ, переходят на RTX 6000 Ada с 48 ГБ. Для студии собираем рендер-ноду или несколько узлов в ферму с сетевым рендером. Подберём число карт под ваши сцены и сроки и протестируем сборку на реальной нагрузке перед отгрузкой.

Игровые RTX 4090 дешевле и быстры в FP32, но это карты с воздушным открытым охлаждением, без ECC-памяти и без официальной сертификации под серверы, плотно ставить их сложно из-за выброса тепла внутрь корпуса. Серверные карты (RTX 6000 Ada, L40S, A100, H100) имеют ECC-память, турбинное охлаждение с выдувом наружу, поддержку NVLink, MIG-разделение и официальную поддержку 24/7. Для рендер-фермы экономично собрать на 4090, для дата-центра и круглосуточного AI-инференса берут серверные карты. Подскажем, где экономия оправдана, а где нужна именно серверная карта.

NVLink это высокоскоростная шина прямой связи между GPU, которая работает быстрее обычного PCIe и позволяет картам обмениваться данными напрямую, минуя CPU. Это критично при обучении крупных моделей, когда параметры распределены между несколькими картами: на A100 и H100 NVLink даёт сотни ГБ/с против десятков по PCIe. У RTX 4090 аппаратного NVLink нет, карты общаются через PCIe, что нормально для рендера и инференса, где обмен между GPU небольшой. Если ваша задача это распределённое обучение больших нейросетей, закладываем платформу с NVLink или NVSwitch, для рендер-фермы он не нужен.

Поставляем только новые оригинальные видеокарты NVIDIA и AMD от официальных дистрибьюторов, без бывших в майнинге и серого ремаркированного товара. Майнинг-карты с убитыми вентиляторами и просевшей памятью под профессиональные задачи не годятся, и мы их не предлагаем. На каждую карту даём гарантию: на серверные и брендовые позиции гарантия вендора, действующая в Казахстане, на сборку гарантия на работу и комплектующие. По запросу предоставляем серийные номера и документы для постановки на учёт и прохождения тендерных требований. Перед отгрузкой каждая карта проходит стресс-тест.

Если конфигурация есть на складе в Алматы, отгружаем за 1-3 рабочих дня. Сборка на заказ под ваше ТЗ занимает обычно от 5 до 10 дней с учётом стресс-теста всех карт и прогона под реальной нагрузкой. Платформы на A100 и H100 поставляются под заказ от 2 до 4 недель в зависимости от наличия у дистрибьютора, так как это дефицитные позиции. Точный срок называем сразу в коммерческом предложении и фиксируем в договоре. В регионы Казахстана добавляется время на доставку транспортной компанией, его тоже учитываем заранее, GPU везём в антистатической упаковке.

Да, если платформа выбрана с запасом, GPU-сервер масштабируется: добавляем карты в свободные слоты PCIe, наращиваем память и диски. Поэтому при подборе мы сразу оставляем запас по слотам, линиям PCIe и по мощности блоков питания под дозаполнение. Главное учесть заранее: четыре дополнительные карты это плюс к питанию и теплу, поэтому БП и охлаждение закладываем под полную комплектацию, даже если стартуете с двух карт. Когда придёт время расширения, подберём совместимые карты той же или старшей серии и проведём апгрейд с тестом. Это дешевле, чем собирать новый узел.

Да, с компаниями и ИП работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры (ЭСФ), после отгрузки подписываем накладную и акт приёма-передачи. Для интеграторов, студий рендера, AI/ML-команд и дата-центров считаем оптовую цену на партии карт и платформ. Реквизиты, проект договора и спецификацию конфигурации присылаем заранее, чтобы снабжение и бухгалтерия успели всё провести. Для тендеров и госзакупок готовим полный комплект документов и технические характеристики под требования. Поможем с документами для постановки оборудования на учёт.

По запросу ставим операционную систему (Linux под AI/ML или Windows Server), драйверы NVIDIA, CUDA Toolkit, cuDNN, контейнерный рантайм NVIDIA для Docker и нужные фреймворки PyTorch или TensorFlow. Для рендера разворачиваем OctaneRender, Redshift, Blender и сетевой рендер. Настраиваем мониторинг температур и загрузки GPU, чтобы вы видели состояние фермы. Если нужно объединить несколько узлов в кластер или поднять очередь задач, поможем и с этим. Объём настройки согласуем заранее и включаем в смету, чтобы вы получили готовый к работе сервер, а не просто железо в коробке.

Это первое, что мы считаем. Узел на 4x RTX 4090 потребляет под нагрузкой около 2.2-2.6 кВт и выделяет столько же тепла, восемь карт это уже 4-5 кВт на стойку, что требует отдельной линии питания и кондиционирования серверной. Если серверная не рассчитана на такую нагрузку, подскажем по линиям 220/380 В, ИБП нужной мощности и охлаждению, при необходимости подберём конфигурацию под имеющийся лимит. Внутри сервера ставим БП с резервом класса Platinum/Titanium и строим поток воздуха через карты. Лучше учесть нагрузку на серверную до закупки, чем столкнуться с перегревом и отключениями потом.

Да, на серверные и брендовые карты действует гарантия производителя в Казахстане, на сборку на заказ мы даём собственную гарантию на работу и комплектующие. Дополнительно оформляем сервисное обслуживание: диагностика, замена вышедших из строя карт и блоков питания, удалённая поддержка по драйверам и настройке. Для рендер-ферм и AI-узлов, работающих 24/7, предлагаем расширенную поддержку с приоритетным временем реакции и подменным фондом, чтобы быстро восстановить работу при сбое одной карты. Условия гарантии и сервиса прописываем в договоре, без скрытых оговорок, чтобы простой производства был минимальным.