NVIDIA L40S 48GB

L40S и RTX 4090 построены на одном чипе AD102 архитектуры Ada Lovelace, но это разные продукты. RTX 4090 это десктопная игровая карта с активным охлаждением, 24 ГБ памяти без ECC и без официальной поддержки в серверах. L40S это серверный ускоритель с 48 ГБ GDDR6 с коррекцией ошибок ECC, пассивным охлаждением под обдув стойки, форматом 2-slot FHFL и официальной поддержкой драйверов в дата-центре и виртуализации vGPU. Для продакшн-инференса, многокарточных серверов и долгих расчётов берут именно L40S, а не 4090.

Зависит от задачи. A100 с памятью HBM2e и интерфейсом NVLink быстрее на обучении крупных моделей, где важна пропускная способность памяти и обмен данными между картами. L40S работает на GDDR6 без NVLink, но даёт 48 ГБ VRAM против 40 у базовой A100, поддерживает формат FP8 для инференса и стоит заметно дешевле за карту. Под инференс LLM, генерацию изображений, дообучение моделей среднего размера и рендер L40S чаще выгоднее по совокупной стоимости. Под массовое обучение больших моделей с шардингом смотрим H100. Опишите нагрузку, подберём оптимум.

Да, продаём L40S как поштучно, так и партиями. Одну карту берут под апгрейд существующего сервера или рабочей станции с поддержкой серверных GPU, под тестовый стенд или замену вышедшей из строя. При этом важно проверить совместимость: L40S это карта с пассивным охлаждением, ей нужен корпус с достаточным продувом и блок питания с запасом по линии 16-pin на 350 Вт. Если планируете несколько карт, выгоднее сразу взять готовую GPU-платформу. Поможем проверить совместимость с вашим сервером и подобрать правильный вариант.

Да, L40S рассчитана на серверную стойку и пассивное охлаждение, то есть собственного вентилятора у неё нет, карта охлаждается мощным потоком воздуха от корпусных вентиляторов сервера. Поэтому ставить её в обычный десктоп нельзя, нужна серверная платформа с продувом, поддержкой карт двойной ширины, линиями PCIe Gen4 x16 на каждую карту и блоками питания с запасом по 350 Вт на ускоритель. Мы подбираем и собираем такие платформы на 4 или 8 карт на Supermicro, ASUS, Gigabyte и Dell, считаем питание и охлаждение под нужное число карт.

У L40S 48 ГБ памяти GDDR6 с коррекцией ошибок ECC и пропускной способностью 864 ГБ/с. Этого объёма хватает, чтобы загрузить в одну карту языковые модели на 30-70 миллиардов параметров в квантовании, держать в памяти тяжёлые сцены рендера и крупные батчи при инференсе. Если модель не помещается в 48 ГБ, её распределяют между несколькими картами в сервере, и мы рассчитываем нужное число L40S под размер вашей модели и желаемую скорость. Под совсем большие модели обучения с обменом между картами обсуждаем варианты с NVLink-картами.

Нет, у L40S нет разъёма NVLink, карты обмениваются данными через шину PCIe Gen4. Это ключевое отличие от A100 и H100, где NVLink даёт высокую скорость обмена между картами и важен при обучении больших моделей с шардингом. Для инференса, рендера и независимых задач на каждой карте отсутствие NVLink не критично, потому что карты работают параллельно без интенсивного обмена. Если ваша задача требует быстрого объединения памяти нескольких карт под одну большую модель, мы предложим конфигурацию на H100 или H200 с NVLink. Под большинство инференс-нагрузок L40S по PCIe работает отлично.

TDP карты составляет 350 Вт, питание подаётся через разъём 16-pin (12VHPWR), поэтому блок питания сервера должен иметь запас мощности по 350 Вт на каждую карту плюс расход процессоров и остальной системы. Охлаждение пассивное: карта рассчитана на серверный корпус с сильным сквозным продувом, в котором вентиляторы платформы гонят воздух через радиатор карты. В обычном десктопе без направленного потока L40S перегреется. Мы рассчитываем суммарное энергопотребление сервера, подбираем блоки питания с резервом и платформу с достаточным охлаждением под нужное число карт.

Да, поставляем только оригинальные карты NVIDIA L40S от авторизованных каналов, без серого ремаркированного и восстановленного товара. На карты с памятью ECC это особенно важно: дешёвый перемаркированный товар может выдавать ошибки в расчётах и не пройти долгие тренировки. На каждую позицию даём гарантию и по запросу предоставляем серийные номера и документы для постановки оборудования на учёт и прохождения тендерных требований. Это критично для дата-центров и компаний, где оборудование закупается официально и ставится на баланс.

Если карты есть на складе в Алматы, отгружаем за 1-3 рабочих дня. Партию карт и собранный GPU-сервер под ваше ТЗ обычно поставляем от одной до трёх недель в зависимости от количества карт, выбранной платформы и наличия комплектующих у дистрибьютора. В срок входит сборка, прогон под нагрузкой и тест памяти перед отгрузкой. Точные сроки называем сразу в коммерческом предложении и фиксируем в договоре поставки. В регионы Казахстана добавляется время на доставку транспортной компанией, его учитываем заранее в графике.

Да, это основной формат, в котором L40S и применяют. Собираем GPU-платформы 2U на 4 карты и 4U на 8 карт на базе Supermicro, ASUS, Gigabyte и Dell с двумя процессорами, нужным объёмом памяти, дисками NVMe и блоками питания с запасом по 350 Вт на каждую карту. Рассчитываем распределение линий PCIe Gen4 x16, чтобы карты не упирались в шину, и охлаждение под полную загрузку всех карт. Готовый сервер прогоняем стресс-тестом и поставляем с установленными драйверами и CUDA, если это нужно. Опишите задачу, посчитаем оптимальное число карт.

Да, с компаниями, системными интеграторами, студиями и дата-центрами работаем по договору поставки и безналичному расчёту с выставлением счёта и счёта-фактуры ЭСФ. После отгрузки подписываем накладную и акт приёма-передачи. Реквизиты, проект договора и спецификацию конфигурации с характеристиками карт присылаем заранее, чтобы снабжение и бухгалтерия успели всё провести. Для тендеров и крупных закупок готовим полный комплект документов, технические характеристики под требования и серийные номера. На партии и регулярные поставки обсуждаем индивидуальные условия и цены.

Да, по запросу устанавливаем и настраиваем программную часть: драйверы NVIDIA для дата-центра, CUDA нужной версии, контейнерную среду с поддержкой GPU, vGPU для виртуализации рабочих мест. Можем проверить работу карт под вашей реальной моделью или задачей рендера перед отгрузкой, чтобы вы получили сервер, готовый к работе, а не просто железо. Если нужно развернуть инференс-стек или среду для обучения, согласуем объём настройки заранее и включим в смету. Поможем и с последующей удалённой поддержкой по запуску и сопровождению.

Обе карты дают 48 ГБ памяти GDDR6 ECC на архитектуре Ada Lovelace, но различаются исполнением и применением. RTX 6000 Ada это карта с активным охлаждением для рабочих станций: её ставят в башенный корпус под рукой у художника или инженера, она удобна для одиночного рабочего места под 3D, CAD и рендер. L40S это серверная карта с пассивным охлаждением под стойку, её берут, когда рендер нужно вынести в серверную, собрать рендер-ферму на несколько карт или совместить рендер с AI-инференсом и виртуализацией. Под одно рабочее место чаще RTX 6000 Ada, под ферму и сервер L40S. Подскажем под ваш сценарий.