
Коротко
Если нужен один ответ: при 24 ГБ видеопамяти берите Qwen3.6-27B, для агентной работы с репозиторием подойдёт Devstral Small 2. При 12–16 ГБ смотрите на Gemma 4 12B и gpt-oss-20b. Если памяти мало, но много обычной RAM, выручит Qwen3-Coder-30B-A3B: это MoE-модель, в которой на каждый токен работает всего около 3 млрд параметров.
Ниже разбираем, чем модели отличаются, сколько памяти им нужно на деле и как подключить их к редактору. Все цифры взяты из официальных карточек моделей и библиотеки Ollama, ссылки в конце статьи. Статья обновлена в октябре 2026 года.
Сравнительная таблица
«Размер в Ollama» — это вес файла модели в стандартной 4-битной сборке. Столько памяти нужно только под веса. Сверху понадобится ещё запас под контекст (KV-кэш): от 1–2 ГБ на обычных задачах до десятков гигабайт, если открыть весь контекст в 128–256K.
| Модель | Параметры | Контекст | Размер в Ollama | Лицензия | Для чего |
|---|---|---|---|---|---|
| Qwen3.6-27B | 27B, dense | 256K | 18 ГБ (qwen3.6:27b) |
Apache 2.0 | Лучший универсал для 24 ГБ |
| Devstral Small 2 | 24B, dense | 256K | 15 ГБ (devstral-small-2) |
Apache 2.0 | Агенты: правки в нескольких файлах, работа с инструментами |
| Qwen3-Coder-30B-A3B | 30,5B всего, 3,3B активных (MoE) | 256K | 19 ГБ (qwen3-coder:30b) |
Apache 2.0 | Быстрый кодер, терпит выгрузку части слоёв в RAM |
| gpt-oss-20b | 21B всего, 3,6B активных (MoE) | 128K | 14 ГБ (gpt-oss:20b) |
Apache 2.0 | Рассуждения и код на машинах с 16 ГБ |
| Gemma 4 12B | ~12B, dense | 256K | 7,7 ГБ (gemma4:12b) |
Apache 2.0 | Лучший вариант для 8–12 ГБ |
| Gemma 4 31B | ~31B, dense | 256K | 19 ГБ (gemma4:31b) |
Apache 2.0 | Альтернатива Qwen на 24 ГБ |
Все шесть моделей выпущены под Apache 2.0, то есть их можно использовать в коммерческих проектах без отдельного договора.
Что говорят бенчмарки
Сводить модели в один рейтинг по чужим тестам рискованно: производители меряют разными наборами задач и в разных режимах. Поэтому приводим только цифры из официальных карточек и сравниваем модели только внутри одного бенчмарка:
- Qwen3.6-27B: 77,2 на SWE-bench Verified и 83,9 на LiveCodeBench v6 (карточка модели Qwen).
- Devstral Small 2: 68,0% на SWE-bench Verified (анонс Mistral).
- Gemma 4: на LiveCodeBench v6 версия 31B набирает 80,0%, 26B A4B — 77,1%, 12B — 72,0% (карточка Gemma 4 от Google).
SWE-bench Verified проверяет, может ли модель исправить реальную ошибку в реальном репозитории. Для агентной работы это самая показательная метрика. LiveCodeBench — это олимпиадные задачи. Независимые сравнения удобно смотреть на лидербордах LiveCodeBench и EvalPlus.
В августе 2026 года вышла Qwen3.8-27B, преемник Qwen3.6-27B, тоже на 27B и под Apache 2.0. Производитель пишет, что на большинстве тестов она сильнее предшественницы. Теперь она есть и в официальной библиотеке Ollama: qwen3.8:27b весит 18 ГБ, контекст 256K, для Apple Silicon есть сборка -mlx. Если у вас 24 ГБ видеопамяти, её стоит попробовать первой.
В октябре 2026 года NVIDIA выпустила Nemotron 3.5 Bolt — модель для локального программирования, рассуждений и работы с инструментами. Это MoE на 74 млрд параметров, из которых на каждый токен работает 9 млрд. В Ollama она весит 25 ГБ (nemotron-3.5-bolt), держит контекст до 256K и понимает изображения: скриншоты, схемы, документы. Два ограничения: лицензия NVIDIA OpenMDW 1.1 вместо Apache 2.0 (перед коммерческим использованием её стоит прочитать) и запуск только на видеокартах NVIDIA — Apple Silicon пока не поддерживается. Независимых сравнений на задачах программирования мы пока не видели, поэтому в основную таблицу модель не включаем.
Какую модель выбрать под своё железо
8 ГБ видеопамяти. Помещается gemma4:12b (7,7 ГБ), но места под длинный контекст почти не остаётся. Второй вариант — MoE-модель с частичной выгрузкой в оперативную память. У qwen3-coder:30b на каждый токен работает лишь около 3 млрд параметров, поэтому даже с частью слоёв в RAM она остаётся пригодной для работы, хотя и заметно медленнее.
12–16 ГБ. Gemma 4 12B работает с хорошим запасом под контекст. gpt-oss-20b весит 14 ГБ: он влезет, но контекст придётся ограничить. По данным OpenAI, модель рассчитана на устройства с 16 ГБ памяти.
24 ГБ (RTX 3090 / 4090). Здесь уже доступны модели, которые годятся для повседневной разработки: Qwen3.6-27B (18 ГБ), Devstral Small 2 (15 ГБ) или Gemma 4 31B (19 ГБ). Если нужен агент, который сам ходит по проекту и правит файлы, берите Devstral. Для генерации и объяснения кода выбирайте Qwen.
Mac на Apple Silicon. Видеокарта в Mac использует общую память, поэтому ориентир — объём RAM минус 8–10 ГБ на систему. На 32 ГБ комфортно работают модели уровня 24–27B. Для Gemma 4 и Qwen3.6 в Ollama есть сборки -mlx, оптимизированные под Apple Silicon.
48 ГБ и больше. Можно запускать Qwen3-Coder-Next: 80 млрд параметров, из них около 3 млрд активных, контекст 256K, Apache 2.0. Её выпустили специально для агентной разработки на своих мощностях — на таком объёме памяти мы собирали сервер на двух RTX 4090.
Как запустить: Ollama и LM Studio
Проще всего начать с Ollama. После установки одной командой скачивается модель и открывается чат:
ollama run qwen3.6:27b
Ollama поднимает локальный API на http://localhost:11434, в том числе совместимый с OpenAI. К нему подключаются редакторы и агенты.
LM Studio даёт то же самое с графическим интерфейсом: поиск моделей по Hugging Face, выбор квантования и встроенный сервер (по умолчанию http://localhost:1234) с OpenAI-совместимым API. Работать с моделью, запущенной на домашнем ПК, можно с ноутбука или iPhone через LM Link (на iPhone и iPad — через приложение Locally), об этом отдельная статья: LM Studio и LM Link.
Подробно про Ollama рассказываем в руководстве по Ollama, про LM Studio — в руководстве по LM Studio. Если не знаете, что выбрать, — сравнение Ollama и LM Studio по 13 пунктам. Модели не для кода, а для текстов и документов — в подборке «Модели для Ollama и LM Studio». Как посчитать видеопамять под модель и контекст, разбираем в статье про GPU-память для LLM.
Подключение к редактору
Модель в терминале — только половина дела. Работать с ней удобнее прямо в IDE:
- Continue — расширение для VS Code и JetBrains. Даёт чат, автодополнение и правки по выделенному коду. В настройках указываете провайдера Ollama или адрес OpenAI-совместимого сервера LM Studio.
- Cline — агент для VS Code: сам читает файлы проекта, предлагает правки и запускает команды, каждый шаг вы подтверждаете. С ним лучше всего работают модели, обученные под агентные задачи, например Devstral Small 2 и Qwen3.6.
Практический совет: для автодополнения берите модель поменьше и побыстрее, для чата и агента — самую сильную из тех, что помещаются в память. Continue позволяет задать их отдельно.
Когда локальная модель — плохая идея
Локальная LLM оправдана, если код нельзя отправлять во внешние сервисы, нужна работа без интернета или предсказуемые расходы. Если таких ограничений нет, облачные флагманы пока сильнее даже лучших 27–31B-моделей на сложных многошаговых задачах. Для команды свой сервер окупается только при постоянной нагрузке. Как мы считали экономику собственного стека, описано в статье LLM на своём железе.
Как выбрать и запустить нужную версию Qwen под вашу видеокарту — в статье «Qwen локально».
Итог
- 24 ГБ: Qwen3.6-27B (или более новая Qwen3.8-27B) как универсал, Devstral Small 2 для агентов.
- 12–16 ГБ: Gemma 4 12B, gpt-oss-20b.
- 8 ГБ или мощный CPU с большим объёмом RAM: Gemma 4 12B впритык или Qwen3-Coder-30B-A3B с выгрузкой в RAM.
- Новинка октября: Nemotron 3.5 Bolt от NVIDIA (25 ГБ, только CUDA, лицензия OpenMDW) — стоит попробовать, если у вас карта NVIDIA и устраивает лицензия.
- Запуск: Ollama или LM Studio. В редакторе: Continue или Cline.
Модели для кода обновляются каждые несколько месяцев, поэтому перед выбором проверьте свежие версии на Hugging Face и в библиотеке Ollama.
Вопросы и ответы
Какая локальная LLM лучше всего подходит для программирования? При 24 ГБ видеопамяти — Qwen3.6-27B (18 ГБ в Ollama) или её преемник Qwen3.8-27B; для агентной работы с репозиторием — Devstral Small 2. При 12–16 ГБ — Gemma 4 12B или gpt-oss-20b.
Какую модель для кода запустить на 8 ГБ видеопамяти? Впритык помещается Gemma 4 12B (7,7 ГБ), но места под длинный контекст почти не остаётся. Второй вариант — MoE-модель Qwen3-Coder-30B-A3B с выгрузкой части слоёв в оперативную память.
Можно ли использовать эти модели в коммерческих проектах? Да: все шесть моделей из сравнения выпущены под Apache 2.0, отдельный договор не нужен.
Как подключить локальную модель к редактору кода? Запустить модель в Ollama (API на localhost:11434) или LM Studio (localhost:1234) — оба дают OpenAI-совместимый API — и подключить к нему Continue или Cline. Для автодополнения лучше брать модель поменьше, для чата и агента — самую сильную из помещающихся.
Источники
- Карточка Qwen3.6-27B: https://huggingface.co/Qwen/Qwen3.6-27B
- Карточка Qwen3.8-27B: https://huggingface.co/Qwen/Qwen3.8-27B
- Карточка Qwen3-Coder-30B-A3B-Instruct: https://huggingface.co/Qwen/Qwen3-Coder-30B-A3B-Instruct
- Карточка Qwen3-Coder-Next: https://huggingface.co/Qwen/Qwen3-Coder-Next
- Анонс Devstral 2 и Devstral Small 2 (Mistral AI): https://mistral.ai/news/devstral-2-vibe-cli/
- Карточка Gemma 4 (Google): https://ai.google.dev/gemma/docs/core/model_card_4
- Анонс gpt-oss (OpenAI): https://openai.com/index/introducing-gpt-oss/
- Nemotron 3.5 Bolt в Ollama: https://ollama.com/library/nemotron-3.5-bolt
- Карточка Nemotron 3.5 Bolt (NVIDIA): https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-GGUF
- Библиотека Ollama: https://ollama.com/library
Внедряет ИИ и LLM в процессы компаний, разрабатывает платформы и чат-ботов. LinkedIn
Сколько видеопамяти нужно вашей модели
Объём служебных буферов зависит от движка и настроек, поэтому не планируйте загрузку видеокарты под 100%. Не помещается — квантуйте веса и кэш, сократите контекст или выгрузите часть слоёв в оперативную память ценой скорости. Формулы и примеры — в статье «Сколько видеопамяти нужно для LLM», отдельная страница калькулятора — здесь.
Внедрение ИИ и разработка чат-ботов для бизнеса
Внедряем LLM в процессы компании: AI-агенты, Telegram-боты, автоматизация на n8n, облачные и локальные модели на своей инфраструктуре.
от 60 000 ₽ · от 2 недель
Подробнее об услуге и стоимостиПохожая задача в вашем бизнесе?
Расскажите коротко — предложим путь от аудита до запуска. Можно без формальностей.


