
Коротко
Локальная LLM дешевле API только тогда, когда запросов хватает, чтобы GPU была занята большую часть времени. При небольшом объёме выигрывает API: по оценке автора flaviocopes.com, при 500 000 токенов в день RTX 4090 обходится примерно в $59 в месяц с электричеством, а бюджетный API – в $6. Чтобы сравнить варианты честно, считайте не цену за токен, а полную стоимость владения: железо, электричество, обслуживание и реальную загрузку.
Из чего складывается стоимость локального запуска
Затраты на локальный запуск делятся на постоянные и переменные, и ценник видеокарты – лишь одна из статей. Источник Pristren относит к постоянным затратам сервер (арендованный или собственный), а к переменным – электричество, трафик и время на обслуживание. Аренда GPU-сервера, по его данным, стоит $300–800 в месяц. Поэтому при малом числе запросов API дешевле, а при большом выигрывает локальный запуск.
Электричество часто недооценивают. По данным openclawdc.com, средний тариф для частных потребителей в США – около $0,18 за кВт·ч (август 2026 года). Это примерно на 9% больше, чем годом ранее, и выше $0,12–0,15, которые закладывает большинство руководств. Машина в 300 Вт, работающая круглосуточно, обходится примерно в $39 в месяц только за ток. Проверить легко: 0,3 кВт × 720 часов × $0,18 ≈ $39. Автор отмечает, что реальные счета, о которых сообщают пользователи, бывают выше.
Ещё одна статья расходов – амортизация. Openclawdc считает её как разницу между ценой покупки и ценой перепродажи. Ту же логику можно применить к своему железу: сколько оно потеряет в цене за период использования.
Есть и отдельное условие: карта должна вообще тянуть нужную модель. Если нет, по формулировке openclawdc, стоимость токена бесконечна. Сначала проверьте, какие модели помещаются в вашу видеопамять. Учтите и вывод автора flaviocopes.com: ни одна потребительская GPU не запускает флагманские модели. Если нужно именно такое качество, это вопрос возможностей, а не денег.
Как посчитать точку безубыточности
Точка безубыточности – это объём токенов, при котором месячные затраты на свою GPU равны плате за API. Для расчёта нужны четыре величины.
- Фиксированная часть в месяц: амортизация (покупка минус перепродажа, разделённая на месяцы) или арендная плата за сервер, плюс электричество.
- Время на обслуживание. Pristren относит его к переменным затратам, а openclawdc в рабочем листе для малого бизнеса добавляет установку, поддержку и объём принятых выходных данных.
- Реальный месячный объём токенов. Берите его из логов, а не из оценок «на глаз».
- Цена API за тот же объём для сопоставимой модели.
Простейший расчёт на Python (стандартная библиотека):
def monthly_electricity(watts, rate_per_kwh, hours=720):
return watts / 1000 * hours * rate_per_kwh
def breakeven_tokens_m(fixed_per_month, api_price_per_m):
# объём в млн токенов в месяц, при котором локальный запуск сравнивается с API
return fixed_per_month / api_price_per_m
power = monthly_electricity(300, 0.18) # ≈ 38.9 $/мес
# fixed = амортизация + power + оценка времени на обслуживание
Для масштаба возьмём цифры flaviocopes.com. 500 000 токенов в день – это около 15 млн в месяц. По нашей арифметике, $6 за этот объём на бюджетном API дают около $0,40 за миллион токенов. Те же $59 на RTX 4090 – около $3,9 за миллион. Разрыв почти в десять раз, и сокращается он только с ростом загрузки карты.
Почему «цена API» – не одно число
Сравнивать по цене токена в прайсе бессмысленно: SitePoint называет такое сравнение ловушкой, потому что и прайс API, и рекомендованная цена GPU показывают лишь часть картины.
Эффективная цена API зависит от вашей архитектуры. По данным SitePoint, LLM-шлюз, который кэширует повторяющиеся ответы или переводит простые запросы на более дешёвую модель, меняет итоговую цену за миллион токенов. Из-за этого сдвигаются все точки безубыточности. Если сравнивать локальный запуск с «голым» API, выгоду своего железа легко переоценить.
Вторая оговорка касается открытых моделей. Источник OpenRouter показывает, что для одних и тех же весов самый дорогой провайдер берёт за выходные токены Qwen3.8 27B в 3,5 раза больше самого дешёвого, а для DeepSeek V4.1 Flash – почти в 13 раз. Расчёт по одному прайсу может сильно ошибиться. Кроме того, провайдеры отдают модели в разной точности, от fp4 до bf16, и это влияет на качество. Поэтому сравнивайте диапазон цен на ту же модель с той же точностью, а не один прайс.
Когда что выбирать
Выбирайте API, если объём невелик или нестабилен, нужен флагманский уровень качества либо вы не хотите заниматься эксплуатацией. Выбирайте локальный запуск, если запросов много и GPU будет загружена стабильно. По формулировке OpenRouter, свой LLM обходится дешевле, только когда трафик держит GPU достаточно занятой.
Типичные ошибки:
- Сравнение по прайсам. Учитывайте кэширование, маршрутизацию на дешёвые модели и разброс цен между провайдерами.
- Устаревший тариф на электричество. Подставляйте свой, а не $0,12–0,15 из старых руководств.
- Игнорирование труда. Время на обслуживание – реальная статья расходов.
- Подгонка модели под железо. Сначала определите нужную модель, потом проверяйте, влезает ли она в видеопамять.
- Жёсткая привязка к провайдеру. Автор flaviocopes.com советует сделать оба варианта взаимозаменяемыми: один интерфейс, а провайдер переключается конфигурацией. Для этого он описывает паттерн LLM-адаптера на Cloudflare Workers. Тогда можно начать с API и перейти на локальный запуск, когда расчёт это оправдает.
Гибридная схема тоже возможна: в оглавлении материала OpenRouter есть вопрос о совместном использовании своего хостинга и API, но подробностей в доступном фрагменте нет. В любом случае пересчитывайте экономику, когда меняются объём трафика, тариф на электричество или цены провайдеров.
Вопросы и ответы
Что дешевле при 500 000 токенов в день? По оценке автора flaviocopes.com, RTX 4090 обходится примерно в $59 в месяц с электричеством, а бюджетный API – в $6. При таком объёме API выгоднее.
Сколько стоит электричество для локальной LLM? По данным openclawdc.com, при тарифе около $0,18 за кВт·ч машина в 300 Вт, работающая круглосуточно, обходится примерно в $39 в месяц. Реальные счета, по тем же данным, бывают выше.
Почему нельзя сравнивать только цену за токен? SitePoint называет это ловушкой: ни прайс API, ни цена GPU не отражают полную стоимость владения. Кроме того, кэширование и перевод простых запросов на дешёвую модель меняют эффективную цену за миллион токенов.
Когда локальный запуск окупается? Когда трафик достаточно загружает GPU, как указывает OpenRouter. Pristren добавляет, что при низком объёме запросов дешевле API, а при высоком выигрывает локальный запуск.
Источники
- Running LLMs locally vs paying for an API: the actual math
- Local LLMs vs Cloud APIs: 2026 Total Cost of Ownership Analysis | SitePoint
- Local LLM vs. API: When Running Models Yourself Actually Saves Money
- Local LLM Electricity Cost vs API: The Break-Even Math
- Self-Hosted LLM vs API: When Does Self-Hosting Pay Off
Внедряет ИИ и LLM в процессы компаний, разрабатывает платформы и чат-ботов. LinkedIn
Внедрение ИИ и разработка чат-ботов для бизнеса
Внедряем LLM в процессы компании: AI-агенты, Telegram-боты, автоматизация на n8n, облачные и локальные модели на своей инфраструктуре.
от 60 000 ₽ · от 2 недель
Подробнее об услуге и стоимостиПохожая задача в вашем бизнесе?
Расскажите коротко — предложим путь от аудита до запуска. Можно без формальностей.


