👑 ЧЕТЫРЕ TESLA V100 SXM2 В NVLINK — 64 ГБ ВИДЕОПАМЯТИ
Полгода назад я сказал: «представьте, что будет, если объединить две такие карты. Или четыре». Представил. Собрал. Тестировал три недели.
🧠 ГЛАВНЫЙ ВЫВОД: карты берутся НЕ за скорость.
Qwen3-14B на одной карте — 22 048 токенов контекста, на четырёх — 273 104. Скорость выросла в 1.85 раза, контекст — в 12.4.
Поэтому я загрузил в модель первый том «Войны и мира» целиком (230 000 токенов), спрятал там абзац про видеокарту и попросил найти. Нашла.
✅ ТРИ ВЕРДИКТА
🤖 Текст — V100. Крупнее 14B быстрее двух 3090 до 27%, кэша больше в 1.7 раза
🎨 Картинки — 4 из 7 моделей вровень, поток на SDXL вдвое быстрее, Qwen-Image только 3090
🎬 Видео — только 3090, в пять раз быстрее
💰 Смета: 181 476 ₽ (две RTX 3090 — +220 000 ₽)
⚠️ Мёртвая карта, болты М2,5, чёрные картинки, форк vLLM — граблей хватило.
📌 ТАЙМКОДЫ
0:00 Сборка на 4x Tesla V100 с NVLink
1:52 «Война и мир» целиком в контекст
3:55 Что и как я тестировал
4:45 Плата SXM2 с NVLink
8:06 V100 на 16 или 32 ГБ
10:47 Корпус и радиаторы
14:10 Водянка: контур и жидкость
16:16 Модули SXM2 и водоблоки
18:33 Опрессовка контура
19:34 Питание и блок питания
24:08 Температуры под нагрузкой
27:06 Мёртвая карта: как проверить SXM2 до покупки
32:49 План тестов и аренда стендов
38:23 vLLM на Volta: форк и патчи
42:56 Тензорный режим против конвейерного
44:51 LM Studio, llama.cpp, vLLM
48:50 Одна карта: 122 токена и OOM
49:51 Две карты: 26 000 контекста
50:33 Четыре карты: контекст в 17 раз
52:31 Длинный контекст в Open WebUI
54:45 MoE 35B быстрее 27B
56:27 Скорость есть, ответ мусор
58:14 Четыре пользователя сразу
59:21 NVLink против PCI Express
1:00:34 Что дают 32 ГБ
1:01:45 DeepSeek 284B на 128 ГБ
1:04:59 Соперник: две RTX 3090
1:06:12 Перелом на 14B
1:07:48 Где я был не прав
1:09:26 Вердикт по языковым моделям
1:11:15 Картинки и четыре карты
1:12:40 Флаг gpu-only в ComfyUI
1:13:55 Чёрный квадрат Qwen-Image
1:15:22 SDXL и FLUX: вровень с 3090
1:17:38 Сломанный энкодер в LTX
1:19:31 Видео: 7 минут за 2 секунды
1:20:24 32 ГБ и 4K под видео
1:23:30 Смета: 181 476 рублей
1:24:51 Чего вам не скажут
1:27:23 Ответ: что брать
1:28:50 Продаю сборку: почему тема закрыта