
Коротко
Локальная LLM для code review запускается через Ollama на вашей инфраструктуре и проверяет диффы по промпту, который вы настраиваете под проект. По данным SitePoint, при такой схеме ни один дифф не покидает сети, а вы платите только за покупку и работу железа, без оплаты за каждое рабочее место. Главное при настройке: убедиться, что Ollama не смотрит на удалённый endpoint, ограничить формат ответа модели и не считать её вердикт окончательным.
Зачем локальная модель и что она даёт
Главное преимущество локального ревьюера в том, что код остаётся у вас. В руководстве SitePoint это называется полным суверенитетом данных, но с оговоркой: Ollama должна работать на локальной инфраструктуре, а не быть настроена на удалённый endpoint. Если эту оговорку пропустить, смысл схемы теряется.
Из этого же источника следуют ещё два плюса.
Платы за место нет. Облачные инструменты ревью, как отмечает автор SitePoint, «идут с условиями», а самохостинг убирает оплату за каждого разработчика. Остаются расходы на железо и его эксплуатацию.
Промпты можно настраивать под конкретные стандарты кодирования и менять, не дожидаясь дорожной карты вендора.
Как устроен пайплайн
Рабочая система – цепочка компонентов. SitePoint описывает пять; в доступном фрагменте первым назван webhook-приёмник, который проверяет и маршрутизирует входящие события GitHub. Остальные части лучше брать из полного текста руководства.
Логика такая: событие pull request приходит на webhook, сервис получает дифф, формирует промпт, отправляет его в локальную модель и возвращает результат в виде комментария. Проверка входящих запросов нужна, потому что приёмник торчит в сеть.
Если полноценный пайплайн пока не нужен, начните со скрипта. Автор статьи на Medium использует связку LangChain и ChatOllama с моделью qwen2.5-coder, температурой 0.1 и ограничением числа замечаний в промпте. Ниже вариант под дифф из git:
import subprocess
from langchain_ollama import ChatOllama
diff = subprocess.run(
["git", "diff", "main...HEAD"],
capture_output=True, text=True, check=True
).stdout
prompt = f"""Ты проводишь code review. Найди ошибки и риски в диффе.
В ответе оставь не более 5 замечаний.
Для каждого укажи файл и причину.
{diff}"""
llm = ChatOllama(model="qwen2.5-coder", temperature=0.1)
print(llm.invoke(prompt).content)
Здесь повторены два приёма из источника: низкая температура и жёсткий лимит замечаний. Лимит не даёт модели выдавать длинный поток малозначимых советов.
Как выбрать модель и железо
Выбирайте модель по тому, что реально помещается в вашу память с запасом, а не по самой крупной версии. Источники дают несколько ориентиров, но не бенчмарки, поэтому проверяйте модели на своих диффах.
В примере на Medium используется кодовая модель qwen2.5-coder. Автор пишет, что пробовал разные модели, и в коде их можно заменить.
Репозиторий nilenso/llm-code-review описан как приложение для ревью на основе RAG и небольших локальных LLM. Идея в том, чтобы подтягивать контекст проекта, а не надеяться только на размер модели.
Пользователь Habr в комментариях описывает у себя qwen3.5:35b с контекстом 256K через LiteLLM. По его словам, она помещается на GPU, а при использовании несколькими людьми версия 27b даёт заметно больший запас по памяти. Это опыт одного комментатора, а не измерение.
Там же есть полезная архитектурная идея. Классификатор, локальная модель и инфраструктурная роль могут быть одной и той же моделью на одном backend, но с разными параметрами вызова. Запросы идут через LiteLLM с маршрутизацией и fallback при ошибке. Для ревью это значит, что быстрый «первый проход» и глубокий анализ можно развести по профилям без второй модели.
Тот же комментатор считает, что для LLM одна карта 5090 не имеет смысла и нужно хотя бы десяток таких карт. Это его мнение, и оно явно зависит от задачи. Для ревью диффов сначала замерьте свою нагрузку.
Что проверять в настройке
Прежде чем подключать ревьюера к репозиторию, пройдите по короткому чек-листу.
- Проверьте адрес Ollama: клиент должен указывать на локальный хост или внутренний сервер, а не на удалённый endpoint. Это условие суверенитета данных по SitePoint.
- Впишите в промпт стандарты проекта: нейминг, обработку ошибок, запрещённые практики. Общий промпт даёт общие замечания.
- Ограничьте число замечаний и задайте формат ответа. Лимит, как в примере выше, снижает шум, а структура (файл, причина) упрощает публикацию комментариев.
- Поставьте низкую температуру. В примере с Medium это 0.1: для ревью нужна воспроизводимость, а не креативность.
- Валидируйте входящие события GitHub на webhook, как в архитектуре, которую описывает SitePoint.
- Продумайте сбои. Если модель недоступна или ответила ошибкой, пайплайн не должен молча блокировать merge. Пример с fallback из обсуждения на Habr показывает, как это закладывается в маршрутизацию.
Типичные ошибки
- Остался удалённый endpoint в конфиге. Локальная модель тогда формально есть, но диффы уходят наружу.
- Модели скармливают весь репозиторий. Дифф плюс релевантный контекст лучше, чем всё подряд, и поэтому в одном из проектов из источников используется RAG.
- Вывод не ограничен. Без лимита разработчики быстро перестают читать комментарии бота.
- Модель считают судьёй. Локальная LLM помогает найти проблемы до человека, но не заменяет его. В источниках нет данных о точности таких систем, поэтому оценивайте долю полезных замечаний на своих pull request.
- Ставят всё сразу. Начните со скрипта на одном диффе, затем добавляйте webhook и маршрутизацию.
Вопросы и ответы
Уходит ли код за пределы сети при локальном ревью? По данным SitePoint, нет: ни один дифф не покидает сеть, если Ollama работает на локальной инфраструктуре и не настроена на удалённый endpoint.
Сколько стоит такое решение? Согласно SitePoint, вы платите только за покупку и работу оборудования, оплаты за каждое рабочее место нет. Цены на железо в источниках не приводятся.
Какую модель взять для начала?
В примере на Medium используется qwen2.5-coder через ChatOllama с температурой 0.1. Другой пример из обсуждения на Habr – qwen3.5:35b с контекстом 256K, но это опыт одного пользователя.
Можно ли обойтись без большой модели? Репозиторий nilenso/llm-code-review показывает подход с RAG и небольшими локальными LLM. Подойдёт ли он вам, покажет проверка на ваших диффах.
Источники
- Self-Hosted AI Code Review with Local LLMs: Secure Automation Guide
- GitHub - nilenso/llm-code-review: A code review bot powered by local LLMs · GitHub
- Automated code review using local LLMs · GitHub
- Langchain + Local LLMs for code review | by smrati katiyar | Medium
- Пробуем использовать локальные LLM для написания кода / Comments / Habr
Внедряет ИИ и LLM в процессы компаний, разрабатывает платформы и чат-ботов. LinkedIn
Внедрение ИИ и разработка чат-ботов для бизнеса
Внедряем LLM в процессы компании: AI-агенты, Telegram-боты, автоматизация на n8n, облачные и локальные модели на своей инфраструктуре.
от 60 000 ₽ · от 2 недель
Подробнее об услуге и стоимостиПохожая задача в вашем бизнесе?
Расскажите коротко — предложим путь от аудита до запуска. Можно без формальностей.


