Видеокарты партией оптом

Под обучение и дообучение моделей главное - объём VRAM и пропускная способность памяти. Для небольших моделей и инференса хватает L40S или RTX 6000 Ada на 48 ГБ. Под обучение крупных LLM и трансформеров нужны A100 (40 или 80 ГБ HBM2e) и H100 (80 ГБ HBM3 с Transformer Engine и поддержкой FP8), которые объединяются через NVLink в узлы по 8 карт. Если модель не влезает в одну карту, считаем число GPU и тип межсоединения под параллелизм. Опишите фреймворк (PyTorch, TensorFlow), размер модели и батч - подберём карты и число узлов с запасом по памяти.

Профессиональные карты RTX 6000 Ada, L40S и Quadro отличаются от игровых RTX большим объёмом VRAM с коррекцией ошибок (ECC), сертифицированными драйверами под CAD и инженерный софт, пассивным охлаждением под серверное шасси и официальным разрешением вендора на работу в дата-центре. Игровые RTX 4090 дают почти ту же сырую скорость в рендере и инференсе заметно дешевле, но без ECC, без сертификации и с активными вентиляторами под открытый стенд. Под студии, симуляции и круглосуточную работу в стойке берут профессиональные карты, под ферму рендера и инференс по бюджету - игровые. Подскажем, что выгоднее под вашу нагрузку.

Да, партию можно собрать смешанной под разные участки проекта: например, RTX 4090 под ноды рендера и инференса, плюс пара H100 под обучение, плюс L40S под графику в ЦОД. Но в рамках одного вычислительного узла или кластера мы рекомендуем однородные карты с одной ревизией и прошивкой, чтобы не было перекоса по скорости и проблем с распределением нагрузки. Под смешанную партию считаем питание и охлаждение по каждому типу карт отдельно. Опишите участки проекта и нагрузку - распишем спецификацию по позициям и пришлём единое КП на всю партию.

Да, поставляем только оригинальные карты от производителя и авторизованных дистрибьюторов, без серого ремаркированного и бывшего в майнинге товара под видом нового. На дата-центровые A100, H100, L40S и профессиональные RTX действует гарантия вендора в Казахстане. Каждую карту перед отгрузкой проверяем на стенде: тест памяти, реальные частоты под нагрузкой, температуры и отсутствие артефактов. По запросу предоставляем серийные номера и документы для постановки на учёт и прохождения тендерных требований. Под крупные партии оформляем подменный фонд, чтобы выход карты из строя не останавливал кластер.

Зависит от числа и типа карт. Под 1-2 карты хватает рабочей станции или 4U-сервера с мощным БП. Под 4-8 ускорителей нужна GPU-платформа с усиленным питанием, бэкплейном PCIe Gen5 или NVSwitch и продувом под пассивные дата-центровые карты. Игровые RTX 4090 с активным охлаждением чаще ставят на открытые стенды и майнинг-рамы. Мы поставляем и карты россыпью, и GPU-серверы в сборе под 4 или 8 GPU с нужным питанием и охлаждением, протестированные под нагрузкой. Опишите, есть ли у вас шасси, или нужен узел в сборе - подберём оптимальный вариант.

Каждая карта имеет паспортный TDP: RTX 4090 это 450 Вт, RTX 6000 Ada - 300 Вт, L40S - 350 Вт, H100 SXM - до 700 Вт. Суммарную нагрузку узла считаем как TDP карт плюс процессоры, память и накладные расходы, затем закладываем запас 20-30 процентов на пики и подбираем БП. Дальше считаем нагрузку на ввод стойки: 8 карт RTX 4090 это уже около 4 кВт только на GPU, и стойка должна это выдержать по питанию и теплоотводу. Мы делаем этот расчёт до закупки и подсказываем по БП, шасси и охлаждению, чтобы парк не уходил в троттлинг и не выбивал питание.

NVLink это быстрое прямое соединение между картами в обход PCIe, которое нужно, когда модель не влезает в одну карту и данные активно гоняются между GPU при обучении больших моделей. На A100 и H100 в SXM-исполнении карты объединяются через NVSwitch в узел из 8 ускорителей с очень высокой межкартовой пропускной способностью - это стандарт под обучение крупных LLM. Для инференса, рендера и независимых задач, где карты работают параллельно но почти не обмениваются данными, NVLink не обязателен и хватает PCIe. Подскажем, нужен ли он под вашу схему параллелизма, и подберём карты в нужном исполнении.

Если нужные карты есть на складе в Алматы, отгружаем партию за 1-3 рабочих дня. Карты под заказ у дистрибьютора, особенно дата-центровые A100, H100 и профессиональные RTX, поставляются обычно от одной до трёх недель в зависимости от модели, объёма партии и наличия. GPU-сервер в сборе под 4 или 8 карт собираем и тестируем за 1-2 недели. Точный срок называем сразу в КП и фиксируем в договоре. В регионы Казахстана добавляется время на доставку транспортной компанией, его тоже учитываем заранее. Под крупные регулярные поставки обсуждаем график отгрузок партиями.

Да, с компаниями и ИП работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры (ЭСФ). После отгрузки подписываем накладную и акт приёма-передачи. Реквизиты, проект договора и спецификацию партии присылаем заранее, чтобы бухгалтерия и отдел снабжения успели всё провести. Для тендеров и госзакупок готовим комплект документов, технические характеристики под требования и серийные номера для постановки на учёт. Под крупные партии и дата-центры обсуждаем условия оплаты, график поставок и подменный фонд, чтобы закрыть проект под ключ.

Технически RTX 4090 работает и в стойке, но есть нюансы: у игровых карт активное охлаждение под открытый стенд, а не пассивное под продув серверного шасси, нет ECC-памяти и нет официального разрешения вендора на эксплуатацию в дата-центре. Под ферму рендера, инференс и майнинг игровые карты на открытых рамах используют массово и это выгодно по цене. Под круглосуточную нагрузку в плотной стойке, обучение моделей и задачи с требованием ECC и сертификации правильнее брать L40S, RTX 6000 Ada или дата-центровые A100 и H100. Подскажем, где игровые карты допустимы под вашу задачу, а где лучше профессиональные.

Да, на дата-центровые и профессиональные карты действует гарантия производителя в Казахстане, на игровые карты - гарантия по условиям дистрибьютора. Каждую карту тестируем на стенде перед отгрузкой, поэтому брак на старте практически исключён. Под крупные партии и кластеры оформляем подменный фонд: при выходе карты из строя мы оперативно выдаём замену, чтобы узел или ферма не простаивали. Дополнительно предлагаем сервисное сопровождение: диагностика, замена компонентов, удалённая поддержка по драйверам и прошивке. Условия гарантии, подменного фонда и сервиса прописываем в договоре, без скрытых оговорок.

Да, под рендер-ферму считаем число карт по требуемой скорости и дедлайнам проектов и подбираем модель по балансу цены и производительности. Базовый выбор под рендер это RTX 4090 на 24 ГБ за лучшее соотношение цены и CUDA-производительности, а когда сцены и текстуры не влезают в 24 ГБ - RTX 6000 Ada на 48 ГБ. Считаем питание и охлаждение под нужное число карт, подбираем шасси или открытые стенды и при необходимости собираем узлы в сборе с тестом под нагрузкой. Опишите движок рендера (Redshift, Octane, V-Ray, Blender), сложность сцен и желаемую скорость - распишем конфигурацию фермы и пришлём КП.

Да, помимо NVIDIA поставляем AMD: профессиональные Radeon Pro под графику и CAD и ускорители Instinct (MI-серия) под HPC и обучение с памятью HBM большого объёма. AMD выгодна там, где софт хорошо работает на ROCm или OpenCL, и часто дешевле NVIDIA в пересчёте на объём памяти и вычисления. Но под экосистему CUDA, где завязано большинство AI/ML-фреймворков и рендер-движков, чаще берут NVIDIA. Мы подскажем, на какой платформе ваш софт работает эффективнее, и подберём партию под реальную совместимость, а не по бренду. Спецификацию и цену по AMD считаем так же, как по NVIDIA, и фиксируем в КП.