Интегратор GPU-серверов и рабочих станций · Россия и СНГ
8 (800) 350-70-73 · бесплатно по России  |  Условия поставки

Как перевести сервер с H100/H200 на жидкостное охлаждение: водоблок, манифолд, QDC

Как перевести сервер с H100/H200 на жидкостное охлаждение: водоблок, манифолд, QDC
Пошаговый разбор ретрофита: водоблок EK-Pro для NVIDIA H100 NVL и H200 NVL, манифолд на 2 CPU и до 8 GPU, быстроразъёмные соединения, трубки, хладагент и испытания — и где ретрофит упирается в шасси.

Перевод сервера с NVIDIA H100 NVL или H200 NVL на жидкостное охлаждение — задача, которую всё чаще ставят перед нами заказчики с уже купленными картами: воздушный сервер шумит, летом уходит в троттлинг, а поставить вторую четвёрку ускорителей в то же шасси невозможно. Технически ретрофит сводится к трём компонентам: водоблок под конкретную карту, манифолд для распределения хладагента и быстроразъёмные соединения (QDC) для обслуживания. Ниже — что именно меняется в сервере, как выглядит процедура и где проходят границы применимости.

Что представляет собой водоблок для NVIDIA H100 NVL

Штатный радиатор H100 NVL / H200 NVL в исполнении PCIe — пассивный: он рассчитан на продув воздухом шасси и занимает два слота. Водоблок EK-Pro GPU WB H100 NVL Rack заменяет его целиком и укладывается в один слот PCIe: габариты блока 256 × 139 × 22 мм, масса 1,245 кг. Версия для H200 NVL длиннее — 315 × 127 × 22 мм, 1,298 кг — поскольку сделана под другую плату.

Конструкция обоих блоков одинакова по принципу:

  • Основание — никелированная медь с ЧПУ-обработкой; одна плита накрывает кристалл GPU, стеки памяти HBM и цепи VRM.
  • Двухпроходная гидравлика. Хладагент дважды проходит по всей площади платы, прежде чем покинуть блок. Для H100/H200 NVL это важно: тепловая нагрузка HBM пространственно отделена от области контакта с кристаллом, и двойной проход увеличивает время контакта жидкости с зоной памяти и VRM.
  • Верх — лазерно резаная нержавеющая сталь; терминал — POM Acetal с двумя портами G1/4″; уплотнения EPDM.
  • Стоечный терминал. Порты выведены к задней панели шасси, а не вверх, поэтому трубки остаются в вертикальном габарите FHFW-корпуса 1U/2U.
  • Бэкплейт с предустановленными латунными стойками защищает плату от изгиба под давлением контура и вибрацией стойки. Блок заменяет штатную планку I/O — отдельный кронштейн не нужен.

В комплекте: блок, бэкплейт, крепёж с латунными стойками, винты, гайки, шайбы и термоинтерфейс. Для H200 NVL производитель публикует 11-минутное видео полной процедуры установки, снятое на референсной плате NVIDIA.

Шаг 1. Проверка совместимости до закупки

Водоблок с полным покрытием спроектирован под конкретную печатную плату. Перед заказом убедитесь в трёх вещах:

  1. Ревизия платы. Блоки EK-Pro рассчитаны на референсную плату NVIDIA. Карты в исполнении партнёров могут иметь иную компоновку — присылайте точную модель, мы подтвердим совместимость.
  2. Габариты в шасси. Производитель публикует чертежи блока в миллиметрах (вид сверху и сбоку) для проверки зазоров к соседним слотам, дну корпуса и задней панели. Для проектирования партии доступен STEP-файл сборки.
  3. Тепловой пакет и питание. Водоблок снимает тепло, но не добавляет мощности: если блоки питания и распределение питания сервера не рассчитаны на 8 × 700 Вт, ретрофит охлаждения не превратит 4-GPU сервер в 8-GPU.

Шаг 2. Установка водоблока на карту

Работа ведётся на антистатической поверхности, при полностью отключённом питании. Последовательность стандартная для full-cover блоков: демонтаж штатного радиатора, удаление старого термоинтерфейса с кристалла и термопрокладок с памяти и VRM, установка новых термопрокладок и термопасты из комплекта, посадка блока на предустановленные стойки, установка бэкплейта, затяжка крепежа крест-накрест без избыточного усилия. Чрезмерная затяжка — главная причина повреждений платы при самостоятельной установке; именно поэтому мы рекомендуем выполнять ретрофит в нашей сборочной зоне, а не на площадке заказчика.

Важное замечание: замена штатного охлаждения может повлиять на гарантийные условия поставщика карты. Уточните это до начала работ; при поставке карт через нас гарантия оформляется с учётом установки водоблока.

Шаг 3. Манифолд: распределение хладагента на 8 карт

Восемь водоблоков нельзя просто соединить последовательно: последняя карта в цепочке получала бы хладагент, уже нагретый семью предыдущими. Манифолд — распределительный коллектор — раздаёт поток параллельно или полупараллельно, и каждая карта получает жидкость примерно одной температуры.

Манифолд EK-Pro Блоки Портов G1/4″ Назначение
2CPU 2GPU 2 CPU + 2 GPU Компактные двухпроцессорные сборки
2CPU 4GPU 2 CPU + 4 GPU Рабочие станции до 4 карт
2CPU 6GPU 2 CPU + 6 GPU Плотные станции и короткие стоечные шасси
2CPU 8GPU 2 CPU + 8 GPU 20 Максимальная плотность, 326 × 57 × 36 мм

Корпус манифолда — POM Acetal с торцевыми крышками из нержавеющей стали и никелированными латунными заглушками; крепление — универсальная пластина под посадку вентиляторов 120 и 140 мм, винты M4. Неиспользуемые порты глушатся заглушками из комплекта, так что один манифолд 2CPU 8GPU покрывает и промежуточную стадию с четырьмя картами.

Циркуляцию обеспечивает узел помпа-резервуар-манифолд (PRM) EK-Pro X6 D5: помпа D5 с PWM-управлением, 1500 л/ч при нулевом напоре, резервуар 220 мл, 14 портов, включая отдельный порт заливки и сливной порт с QDC. При ретрофите в существующее шасси место под PRM и радиатор — самый частый ограничитель; об этом ниже.

Шаг 4. QDC: обслуживание без слива контура

Быстроразъёмные соединения ставятся на вход и выход каждого водоблока. Муфты CPC-паттерна перекрывают обе стороны при разъединении, поэтому карту можно извлечь из заполненного сервера, не сливая контур и не останавливая остальные семь ускорителей. Производитель прямо рекомендует пару «манифолд + QDC-комплекты» для сборок, где простой стоит дорого. Все фитинги и муфты рассчитаны на тот же диапазон давления, что и блоки: 2500 Па рабочего, 30 000 Па максимального в контуре с PRM и 75 000 Па в остальных случаях.

Шаг 5. Трубки, хладагент, испытания

  • Трубки — EPDM EK-Tube ZMT 9,5/15,9 мм со стенкой 3,2 мм: без пластификаторов, поэтому не образуют отложений в микроканалах блоков, диапазон −30…+110 °C. Соединение — компрессионные фитинги 10/16 мм или штуцеры с хомутами на резьбе G1/4″.
  • Хладагент — EK-CryoFuel Clear в готовой смеси: ингибиторы коррозии и биоцид уже в составе, добавлять ничего нельзя. Протестирован по BS5117 / ASTM D1384 на медь, латунь, алюминий и нержавеющую сталь; электропроводность 1,04 мСм/см — существенно ниже водопроводной воды, что снижает последствия в маловероятном случае протечки.
  • Испытания. Контур проверяется тестером герметичности воздухом до заливки, затем заполняется и прокачивается для удаления воздуха, после чего проходит нагрузочный тест с контролем температур GPU и HBM.

Где ретрофит упирается в шасси

Водоблоки, манифолд и QDC — решённая часть задачи. Проблема ретрофита всегда в радиаторе: воздушный сервер не имеет места, где можно разместить теплообменник на 5–7 кВт с вентиляторами. Возможные варианты — радиатор снаружи шасси в той же стойке или подключение к стоечному CDU (что такое CDU и когда он оправдан — в отдельной статье). Оба варианта работают, но лишают ретрофит главного преимущества замкнутого контура — компактности.

Поэтому для восьми карт мы чаще предлагаем не ретрофит, а перенос уже купленных H100/H200 NVL в платформу, спроектированную вокруг контура: LM TEK 4U8GPU10KW несёт восемь водоблоков, манифолд, помпу и радиатор на фронтальном заборе воздуха в корпусе 4U и совместима со стандартными платами EATX / EEB. Карты, процессоры, память и накопители заказчика переезжают в новое шасси; блоки для H100 NVL, H200 NVL и A100 входят в валидированный список платформы. Ретрофит в исходном шасси оправдан для 2–4 карт, когда место под радиатор есть.

Что дальше

Пришлите модель и ревизию карт, тип шасси и число ускорителей — подтвердим совместимость водоблоков и предложим схему контура: ретрофит или перенос в 4U-платформу. Поставка компонентов и сборка для заказчиков из России и СНГ.

Обсудить задачу с инженером
Добавить комментарий