Форум
От автора:
Можно ли запустить мощные нейросети дома, не тратя сотни тысяч на RTX 4090? В этом видео я собираю бюджетные станции для локального ИИ до 100 000 рублей и проверяю, что реально работает, а что - пустая трата денег.
Разбираемся:
✅ Стоит ли переплачивать за Threadripper и многоканальную память?
✅ Что может старая Tesla V100 за 23к и зачем нужна CMP 40HX?
✅ Как работают MoE-модели на CPU и где начинается деградация скорости?
✅ Сравнение сборок: AM4 против Threadripper — кто победил в цене/производительности?
Показываю реальные замеры скорости (токены в секунду) для моделей gpt-oss-120b, Qwen и Gemma. Ищем «золотую середину» на Авито для тех, кто хочет свой собственный ИИ без цензуры и подписок.
Моя статья к видео на хабре (все ссылки там): https://habr.com/ru/articles/1053118/