Модели для Ollama и LM Studio: какую скачать под вашу видеокарту

Коротко

Модель выбирают по объёму видеопамяти: файл модели должен поместиться в память видеокарты, и ещё нужен запас под контекст. Ориентиры для общих задач — тексты, ответы на вопросы, работа с документами:

• до 6 ГБ — Gemma 4 E2B (4,6 ГБ) или Ministral 3 3B (3,0 ГБ);
• 8 ГБ — Ministral 3 8B (6,0 ГБ), Gemma 4 E4B (6,6 ГБ), Qwen3-VL 8B для картинок (6,2 ГБ);
• 12–16 ГБ — gpt-oss-20b (14 ГБ), Mistral Small 3.2 (15 ГБ), Ministral 3 14B (9,1 ГБ);
• 24 ГБ — Qwen3.8 27B (18 ГБ) или Gemma 4 31B (19 ГБ);
• 48 ГБ и больше — Llama 3.3 70B (43 ГБ), gpt-oss-120b (65 ГБ).

Размеры — для стандартной 4-битной сборки в библиотеке Ollama, проверены 20 октября 2026 года. В LM Studio те же модели скачиваются с Hugging Face, размеры похожие. Если модель нужна для программирования, смотрите отдельное сравнение лучших локальных LLM для кода.

Сводная таблица

Прочерк в столбце «Лицензия» означает, что на странице модели в Ollama лицензия не указана — проверьте её в карточке модели перед коммерческим использованием.

Сколько памяти нужно на самом деле

Размер в таблице — это только веса модели. Сверху нужна память под контекст: от 1–2 ГБ на обычном разговоре до десятков гигабайт, если открыть весь контекст в 128–256K токенов. Поэтому на 8 ГБ лучше брать модель на 5–6 ГБ, а не на 7,7. Как посчитать точно, разбирали в статье «Сколько видеопамяти нужно для LLM».

Если модель не помещается в видеопамять, Ollama и LM Studio отдадут часть слоёв оперативной памяти. Работать будет, но заметно медленнее.

На Mac с Apple Silicon видеопамять общая с оперативной: ориентир — объём памяти минус 8–10 ГБ на систему. Для Mac у Gemma 4 и Qwen есть сборки -mlx.

Какие модели понимают русский

Здесь важно опираться на то, что пишут сами разработчики:

• Mistral Small 3.2 — русский прямо указан в списке языков карточки модели.
• Gemma 4 — по карточке Google обучена на 140+ языках, «из коробки» поддерживает 35+.
• Ministral 3 — заявлены «десятки языков»; в перечне примеров на странице Ollama русского нет.
• Qwen3.8 — число поддерживаемых языков в карточке модели не указано.
• Granite 4 от IBM — русского в списке поддерживаемых языков нет, для русских текстов её лучше не брать.

Даже если язык заявлен, качество на русском у маленьких моделей заметно ниже, чем на английском. Перед выбором прогоните 10–20 своих типовых запросов на двух-трёх кандидатах — это надёжнее любых таблиц.

Модели для картинок и документов

• Qwen3-VL (qwen3-vl:4b, 8b, 30b, 32b) — специализированная модель для изображений: скриншоты, схемы, сканы документов.
• Qwen3.8 27B — по карточке понимает изображения и видео.
• Gemma 4 — мультимодальная: распознаёт текст на изображениях, разбирает PDF, графики и рукописный текст. Версии E2B, E4B и 12B Unified по карточке ещё и распознают речь.

Модели для поиска по документам (RAG)

Чтобы модель отвечала по вашим документам, нужна вторая, маленькая модель — для эмбеддингов: она превращает тексты в векторы для поиска.

Как такие системы устроены в компаниях — в статье «RAG-система: нейросеть по документам компании».

Модели с рассуждением

DeepSeek-R1 в Ollama — это семейство: полная модель на 671 млрд параметров (404 ГБ) и уменьшенные «дистиллированные» версии от 1,1 до 43 ГБ, обученные на рассуждениях большой модели. Лицензия MIT. Подробно, какую версию поставить на обычный компьютер, — в статье «DeepSeek на ПК: как запустить локально».

Режим рассуждения есть и у gpt-oss и Qwen3.8: у Qwen3.8 по карточке его глубину можно настраивать.

Как скачать модель

Ollama: команда из таблицы, например:

ollama run qwen3.8:27b

Ollama скачает модель и откроет чат. Пошагово — в руководстве по Ollama.

LM Studio: вкладка Discover, поиск по названию (qwen3.8, gemma-4), выбор 4-битного варианта (Q4) или выше. Подробно — в руководстве по LM Studio. Чем две программы отличаются, разобрали в сравнении «Ollama или LM Studio».

Если модель нужна компании

Для компании важен не только размер модели, но и сервер под нагрузку многих пользователей, доступ по API для внутренних систем и контроль данных. В ITOQ мы разворачивали приватную Llama 3.3 для финтех-компании на двух видеокартах: 187 токенов в секунду, окупаемость 4–5 месяцев по сравнению с облачным API (кейс).

Как выбрать конкретную версию Qwen — 3.5, 3.6 или 3.8 — под вашу видеокарту, разбираем в статье «Qwen локально». Те же модели в формате GGUF запускаются и в llama.cpp.

Вопросы и ответы

Какую модель скачать для Ollama на 8 ГБ видеопамяти? Ministral 3 8B (6,0 ГБ) или Gemma 4 E4B (6,6 ГБ) — останется запас под контекст. Gemma 4 12B (7,7 ГБ) тоже запустится, но места под длинный контекст почти не будет.

Какая модель лучше всего подходит для 24 ГБ (RTX 3090 / 4090)? Qwen3.8 27B (18 ГБ) как универсал или Gemma 4 31B (19 ГБ). Обе с контекстом до 256K и лицензией Apache 2.0.

Какая локальная модель лучше понимает русский язык? Из популярных моделей русский явно указан в карточке Mistral Small 3.2. Gemma 4 обучена на 140+ языках. Проверьте 2–3 кандидата на своих запросах — качество на русском сильно зависит от размера модели.

Можно ли использовать эти модели в коммерческих проектах? Большинство моделей из таблицы — под Apache 2.0, у DeepSeek-R1 — MIT. У Llama 3.3 своя лицензия Meta. Лицензию конкретной модели проверяйте в её карточке.

Чем модели в Ollama отличаются от моделей в LM Studio? Это те же модели, но Ollama берёт их из своей библиотеки, а LM Studio — с Hugging Face. Размеры и названия вариантов могут немного отличаться.

Источники

• Библиотека моделей Ollama (размеры, контекст, теги): https://ollama.com/library
• Карточка Gemma 4 (Google): https://ai.google.dev/gemma/docs/core/model_card_4
• Карточка Qwen3.8-27B: https://huggingface.co/Qwen/Qwen3.8-27B
• Карточка Mistral Small 3.2: https://huggingface.co/mistralai/Mistral-Small-3.2-24B-Instruct-2506
• Ministral 3 в Ollama: https://ollama.com/library/ministral-3
• Granite 4 в Ollama: https://ollama.com/library/granite4
• Qwen3-VL в Ollama: https://ollama.com/library/qwen3-vl
• BGE-M3 в Ollama: https://ollama.com/library/bge-m3
• Qwen3 Embedding в Ollama: https://ollama.com/library/qwen3-embedding
• DeepSeek-R1 в Ollama: https://ollama.com/library/deepseek-r1
• gpt-oss в Ollama: https://ollama.com/library/gpt-oss