Нейросеть на своём компьютере: локально или на сервере

Запустить нейросеть у себя хотят по трём причинам: не отдавать свои данные наружу, не платить за каждый запрос и не зависеть от чужой доступности. Все три причины разумные, но цена у них разная, и считать её лучше до покупки видеокарты.

Что определяет, поедет ли модель

Видеопамять. Модель должна поместиться в неё целиком, иначе часть уедет в оперативную память и на процессор, и скорость упадёт в десятки раз. Разница ощущается сразу: вместо потока текста вы смотрите, как слова появляются по одному.

Грубые ориентиры для квантованных версий, то есть сжатых до четырёх бит. Модель на семь или восемь миллиардов параметров занимает примерно пять или шесть гигабайт. Четырнадцать миллиардов это около десяти. Тридцать два миллиарда около двадцати. Семьдесят миллиардов уже за сорок, и одной потребительской картой тут не обойтись.

Отсюда простое правило. Восемь гигабайт видеопамяти это младшие модели. Двенадцать или шестнадцать это середина, на которой уже можно работать. Двадцать четыре гигабайта открывают модели, которые не стыдно сравнивать с облачными, но не догоняют их.

Оперативная память и процессор важны меньше, но запускать без видеокарты вообще имеет смысл только для маленьких моделей и без надежды на скорость.

Чем запускать

Ollama проще всего: ставится одной командой, модели скачиваются по имени, поднимает локальный интерфейс, совместимый с привычным API. Для начала берите его.

LM Studio для тех, кто хочет окно с кнопками, а не терминал.

llama.cpp для тех, кто хочет управлять каждым параметром и собирать под своё железо.

Локально или на сервере

Считается легко, если честно записать, сколько часов в сутки модель реально работает.

Своя видеокарта: платите один раз и потом только за электричество. Карта уровня двадцати четырёх гигабайт памяти стоит как несколько месяцев аренды, а живёт годы. Выгодно, если модель работает у вас постоянно.

Аренда GPU-сервера: на сентябрь 2026 почасовая аренда RTX 4090 начинается примерно от 75 до 90 рублей в час, помесячные тарифы стартуют примерно от 7 700 рублей за старую карту. Круглосуточная работа по часовому тарифу выходит около 55 тысяч рублей в месяц, поэтому почасовая аренда выгодна ровно до тех пор, пока вы включаете машину на пару часов в день.

Облачный сервис по подписке: дешевле обоих вариантов, пока вам хватает чужой модели и вы согласны отправлять туда данные.

Где локальная модель не нужна

Отдельно стоит сказать про самый частый случай, из-за которого люди и приходят к этой теме: работу с кодом.

Консольные агенты вроде Claude Code и Codex CLI никакой видеокарты не требуют. Модель считается у поставщика, на вашей машине живёт только программа, которая ходит к ней по сети и правит ваши файлы. Ей достаточно обычного сервера за несколько сотен рублей в месяц.

Мы это разбирали отдельно: покупка GPU-сервера ради консольного агента самая дорогая из ошибок в этой теме. Локальные модели нужны, когда данные нельзя выпускать наружу или когда работа идёт круглосуточно и потоком.

Как подойти к машине, где всё это крутится

Машина с моделью обычно стоит не там, где вы сидите: в другой комнате, в офисе или на арендованной площадке. Значит нужен способ подойти к её консоли, посмотреть загрузку, перезапустить, поменять модель.

Мы делали свой инструмент под этот случай. Терминал компьютера или сервера открывается на телефоне, процесс живёт на машине и переживает потерю связи, соединение инициирует сама машина, поэтому белый IP и проброс портов не нужны.

Чего это не даёт

Мы не ускоряем вашу модель и не даём вычислительных мощностей. Мы даём доступ к вашей машине. Видеокарта, электричество и терпение остаются вашими.

Сколько стоит

Управление машиной внутри своей домашней сети бесплатно навсегда. Подключение через интернет 900 рублей в месяц, первые семь дней бесплатно и без карты.

Смежные разборы: аренда сервера для ИИ, Claude Code и Codex на своём сервере.