Лучшие локальные LLM для программирования 2026: 6 моделей
Все статьи
Разработка 7 мин чтения

Лучшие локальные LLM для программирования 2026: 6 моделей

Сравнили 6 бесплатных open-source LLM для кода (Apache 2.0): Qwen3.6, Qwen3-Coder, Devstral, Gemma 4, gpt-oss. Под какую видеопамять что подходит и как запустить.

Сравнили 6 бесплатных open-source LLM для кода (Apache 2.0): Qwen3.6, Qwen3-Coder, Devstral, Gemma 4, gpt-oss. Под какую видеопамять что подходит и как запустить.

Коротко

Если нужен один ответ: при 24 ГБ видеопамяти берите Qwen3.6-27B, для агентной работы с репозиторием подойдёт Devstral Small 2. При 12–16 ГБ смотрите на Gemma 4 12B и gpt-oss-20b. Если памяти мало, но много обычной RAM, выручит Qwen3-Coder-30B-A3B: это MoE-модель, в которой на каждый токен работает всего около 3 млрд параметров.

Ниже разбираем, чем модели отличаются, сколько памяти им нужно на деле и как подключить их к редактору. Все цифры взяты из официальных карточек моделей и библиотеки Ollama, ссылки в конце статьи. Статья обновлена в октябре 2026 года.

Сравнительная таблица

«Размер в Ollama» — это вес файла модели в стандартной 4-битной сборке. Столько памяти нужно только под веса. Сверху понадобится ещё запас под контекст (KV-кэш): от 1–2 ГБ на обычных задачах до десятков гигабайт, если открыть весь контекст в 128–256K.

Модель Параметры Контекст Размер в Ollama Лицензия Для чего
Qwen3.6-27B 27B, dense 256K 18 ГБ (qwen3.6:27b) Apache 2.0 Лучший универсал для 24 ГБ
Devstral Small 2 24B, dense 256K 15 ГБ (devstral-small-2) Apache 2.0 Агенты: правки в нескольких файлах, работа с инструментами
Qwen3-Coder-30B-A3B 30,5B всего, 3,3B активных (MoE) 256K 19 ГБ (qwen3-coder:30b) Apache 2.0 Быстрый кодер, терпит выгрузку части слоёв в RAM
gpt-oss-20b 21B всего, 3,6B активных (MoE) 128K 14 ГБ (gpt-oss:20b) Apache 2.0 Рассуждения и код на машинах с 16 ГБ
Gemma 4 12B ~12B, dense 256K 7,7 ГБ (gemma4:12b) Apache 2.0 Лучший вариант для 8–12 ГБ
Gemma 4 31B ~31B, dense 256K 19 ГБ (gemma4:31b) Apache 2.0 Альтернатива Qwen на 24 ГБ

Все шесть моделей выпущены под Apache 2.0, то есть их можно использовать в коммерческих проектах без отдельного договора.

Что говорят бенчмарки

Сводить модели в один рейтинг по чужим тестам рискованно: производители меряют разными наборами задач и в разных режимах. Поэтому приводим только цифры из официальных карточек и сравниваем модели только внутри одного бенчмарка:

  • Qwen3.6-27B: 77,2 на SWE-bench Verified и 83,9 на LiveCodeBench v6 (карточка модели Qwen).
  • Devstral Small 2: 68,0% на SWE-bench Verified (анонс Mistral).
  • Gemma 4: на LiveCodeBench v6 версия 31B набирает 80,0%, 26B A4B — 77,1%, 12B — 72,0% (карточка Gemma 4 от Google).

SWE-bench Verified проверяет, может ли модель исправить реальную ошибку в реальном репозитории. Для агентной работы это самая показательная метрика. LiveCodeBench — это олимпиадные задачи. Независимые сравнения удобно смотреть на лидербордах LiveCodeBench и EvalPlus.

В августе 2026 года вышла Qwen3.8-27B, преемник Qwen3.6-27B, тоже на 27B и под Apache 2.0. Производитель пишет, что на большинстве тестов она сильнее предшественницы. Теперь она есть и в официальной библиотеке Ollama: qwen3.8:27b весит 18 ГБ, контекст 256K, для Apple Silicon есть сборка -mlx. Если у вас 24 ГБ видеопамяти, её стоит попробовать первой.

В октябре 2026 года NVIDIA выпустила Nemotron 3.5 Bolt — модель для локального программирования, рассуждений и работы с инструментами. Это MoE на 74 млрд параметров, из которых на каждый токен работает 9 млрд. В Ollama она весит 25 ГБ (nemotron-3.5-bolt), держит контекст до 256K и понимает изображения: скриншоты, схемы, документы. Два ограничения: лицензия NVIDIA OpenMDW 1.1 вместо Apache 2.0 (перед коммерческим использованием её стоит прочитать) и запуск только на видеокартах NVIDIA — Apple Silicon пока не поддерживается. Независимых сравнений на задачах программирования мы пока не видели, поэтому в основную таблицу модель не включаем.

Какую модель выбрать под своё железо

8 ГБ видеопамяти. Помещается gemma4:12b (7,7 ГБ), но места под длинный контекст почти не остаётся. Второй вариант — MoE-модель с частичной выгрузкой в оперативную память. У qwen3-coder:30b на каждый токен работает лишь около 3 млрд параметров, поэтому даже с частью слоёв в RAM она остаётся пригодной для работы, хотя и заметно медленнее.

12–16 ГБ. Gemma 4 12B работает с хорошим запасом под контекст. gpt-oss-20b весит 14 ГБ: он влезет, но контекст придётся ограничить. По данным OpenAI, модель рассчитана на устройства с 16 ГБ памяти.

24 ГБ (RTX 3090 / 4090). Здесь уже доступны модели, которые годятся для повседневной разработки: Qwen3.6-27B (18 ГБ), Devstral Small 2 (15 ГБ) или Gemma 4 31B (19 ГБ). Если нужен агент, который сам ходит по проекту и правит файлы, берите Devstral. Для генерации и объяснения кода выбирайте Qwen.

Mac на Apple Silicon. Видеокарта в Mac использует общую память, поэтому ориентир — объём RAM минус 8–10 ГБ на систему. На 32 ГБ комфортно работают модели уровня 24–27B. Для Gemma 4 и Qwen3.6 в Ollama есть сборки -mlx, оптимизированные под Apple Silicon.

48 ГБ и больше. Можно запускать Qwen3-Coder-Next: 80 млрд параметров, из них около 3 млрд активных, контекст 256K, Apache 2.0. Её выпустили специально для агентной разработки на своих мощностях — на таком объёме памяти мы собирали сервер на двух RTX 4090.

Как запустить: Ollama и LM Studio

Проще всего начать с Ollama. После установки одной командой скачивается модель и открывается чат:

ollama run qwen3.6:27b

Ollama поднимает локальный API на http://localhost:11434, в том числе совместимый с OpenAI. К нему подключаются редакторы и агенты.

LM Studio даёт то же самое с графическим интерфейсом: поиск моделей по Hugging Face, выбор квантования и встроенный сервер (по умолчанию http://localhost:1234) с OpenAI-совместимым API. Работать с моделью, запущенной на домашнем ПК, можно с ноутбука или iPhone через LM Link (на iPhone и iPad — через приложение Locally), об этом отдельная статья: LM Studio и LM Link.

Подробно про Ollama рассказываем в руководстве по Ollama, про LM Studio — в руководстве по LM Studio. Если не знаете, что выбрать, — сравнение Ollama и LM Studio по 13 пунктам. Модели не для кода, а для текстов и документов — в подборке «Модели для Ollama и LM Studio». Как посчитать видеопамять под модель и контекст, разбираем в статье про GPU-память для LLM.

Подключение к редактору

Модель в терминале — только половина дела. Работать с ней удобнее прямо в IDE:

  • Continue — расширение для VS Code и JetBrains. Даёт чат, автодополнение и правки по выделенному коду. В настройках указываете провайдера Ollama или адрес OpenAI-совместимого сервера LM Studio.
  • Cline — агент для VS Code: сам читает файлы проекта, предлагает правки и запускает команды, каждый шаг вы подтверждаете. С ним лучше всего работают модели, обученные под агентные задачи, например Devstral Small 2 и Qwen3.6.

Практический совет: для автодополнения берите модель поменьше и побыстрее, для чата и агента — самую сильную из тех, что помещаются в память. Continue позволяет задать их отдельно.

Когда локальная модель — плохая идея

Локальная LLM оправдана, если код нельзя отправлять во внешние сервисы, нужна работа без интернета или предсказуемые расходы. Если таких ограничений нет, облачные флагманы пока сильнее даже лучших 27–31B-моделей на сложных многошаговых задачах. Для команды свой сервер окупается только при постоянной нагрузке. Как мы считали экономику собственного стека, описано в статье LLM на своём железе.

Как выбрать и запустить нужную версию Qwen под вашу видеокарту — в статье «Qwen локально».

Итог

  • 24 ГБ: Qwen3.6-27B (или более новая Qwen3.8-27B) как универсал, Devstral Small 2 для агентов.
  • 12–16 ГБ: Gemma 4 12B, gpt-oss-20b.
  • 8 ГБ или мощный CPU с большим объёмом RAM: Gemma 4 12B впритык или Qwen3-Coder-30B-A3B с выгрузкой в RAM.
  • Новинка октября: Nemotron 3.5 Bolt от NVIDIA (25 ГБ, только CUDA, лицензия OpenMDW) — стоит попробовать, если у вас карта NVIDIA и устраивает лицензия.
  • Запуск: Ollama или LM Studio. В редакторе: Continue или Cline.

Модели для кода обновляются каждые несколько месяцев, поэтому перед выбором проверьте свежие версии на Hugging Face и в библиотеке Ollama.

Вопросы и ответы

Какая локальная LLM лучше всего подходит для программирования? При 24 ГБ видеопамяти — Qwen3.6-27B (18 ГБ в Ollama) или её преемник Qwen3.8-27B; для агентной работы с репозиторием — Devstral Small 2. При 12–16 ГБ — Gemma 4 12B или gpt-oss-20b.

Какую модель для кода запустить на 8 ГБ видеопамяти? Впритык помещается Gemma 4 12B (7,7 ГБ), но места под длинный контекст почти не остаётся. Второй вариант — MoE-модель Qwen3-Coder-30B-A3B с выгрузкой части слоёв в оперативную память.

Можно ли использовать эти модели в коммерческих проектах? Да: все шесть моделей из сравнения выпущены под Apache 2.0, отдельный договор не нужен.

Как подключить локальную модель к редактору кода? Запустить модель в Ollama (API на localhost:11434) или LM Studio (localhost:1234) — оба дают OpenAI-совместимый API — и подключить к нему Continue или Cline. Для автодополнения лучше брать модель поменьше, для чата и агента — самую сильную из помещающихся.

Источники

#LLM#КОДИРОВАНИЕ#LOCAL#GPU#OLLAMA#LM STUDIO
АП
Автор
Антон Правкин, основатель ITOQ

Внедряет ИИ и LLM в процессы компаний, разрабатывает платформы и чат-ботов. LinkedIn

Калькулятор

Сколько видеопамяти нужно вашей модели

Веса
≈ 33–42 ГБ
KV-кэш (320 КБ на токен)
≈ 2,5 ГБ
Итого без буферов движка
≈ 35–45 ГБ
Сколько останется на буферы движка:
8 ГБ12 ГБ16 ГБ24 ГБ32 ГБ48 ГБ · +3,180 ГБ · +3596 ГБ · +51

Объём служебных буферов зависит от движка и настроек, поэтому не планируйте загрузку видеокарты под 100%. Не помещается — квантуйте веса и кэш, сократите контекст или выгрузите часть слоёв в оперативную память ценой скорости. Формулы и примеры — в статье «Сколько видеопамяти нужно для LLM», отдельная страница калькулятора — здесь.

ТемаВсе материалы про локальные LLM
Делаем это для бизнеса

Внедрение ИИ и разработка чат-ботов для бизнеса

Внедряем LLM в процессы компании: AI-агенты, Telegram-боты, автоматизация на n8n, облачные и локальные модели на своей инфраструктуре.

от 60 000 ₽ · от 2 недель

Подробнее об услуге и стоимости
CTA

Похожая задача в вашем бизнесе?

Расскажите коротко — предложим путь от аудита до запуска. Можно без формальностей.

Читать дальше