Ollama на Windows: установка, GPU и разбор типичных ошибок

Коротко

На Windows Ollama ставится одним файлом OllamaSetup.exe без прав администратора: после установки откройте новый PowerShell и запустите модель командой ollama run. Работает ли видеокарта, показывает ollama ps, а не диспетчер задач: 100% GPU — хорошо, 100% CPU — GPU не используется, разделение вроде 48%/52% CPU/GPU — модель не поместилась в видеопамять. Большинство проблем сводится к трём причинам: старое окно PowerShell, устаревший драйвер и модель, которая слишком велика для вашей памяти.

Как установить Ollama на Windows

Проще всего взять официальный установщик OllamaSetup.exe, затем открыть новый PowerShell и запустить первую модель.

По данным localaimaster.com, нужны Windows 10 22H2 или новее и 8 ГБ ОЗУ и больше. Права администратора не требуются, а вместе с обновлением драйвера всё занимает 10–15 минут. Источник vucense.com добавляет, что нативный установщик сам определяет GPU и настраивает службу и PATH. WSL и Docker для базового сценария не нужны. Ollama работает как приложение в трее с фоновым сервером.

Порядок действий:

1. Скачайте и запустите OllamaSetup.exe.
2. Откройте новое окно PowerShell. Старое не видит обновлённый PATH.
3. Выполните ollama run gemma4:e2b. Это пример из руководства electrikman.ru: модель скачается и запустится локально.

Первую модель подбирайте под объём ОЗУ. Localaimaster.com советует ollama pull llama3.1:8b (4,9 ГБ) для машин с 16 ГБ и ollama pull gemma3:4b (3,4 ГБ) для 8 ГБ.

Ollama — это runtime и менеджер моделей. Она скачивает совместимые модели, хранит их локально, запускает inference на CPU или GPU и предоставляет CLI и HTTP API. Локальный API по умолчанию доступен на http://localhost:11434. По данным vucense.com, он совместим с OpenAI.

Как проверить, что Ollama использует GPU

Запустите модель и в другом окне выполните ollama ps: колонка PROCESSOR покажет, где идут вычисления.

Автор logeshwaran.org приводит три варианта значения:

PROCESSOR	Что значит
100% GPU	Модель целиком в видеопамяти
100% CPU	GPU не использовался
48%/52% CPU/GPU (или похожее)	Частичный offload: модель не поместилась

Чтобы не гадать, откройте второй PowerShell, пока модель работает:

ollama ps

Диспетчеру задач доверять не стоит. На Windows он может показывать нагрузку GPU около 1%, пока Ollama на нём работает: стандартный график отражает 3D-графику, а не вычисления для ИИ. Это самая частая причина ложной тревоги.

Если модель разделена между CPU и GPU, электрикман связывает это с нехваткой VRAM. Скорость в таком режиме обычно хуже, чем при полном размещении на GPU. Источники не дают цифр, поэтому разницу оценивайте на своей модели.

Почему Ollama работает на CPU

По logeshwaran.org, Ollama использует GPU автоматически, если находит поддерживаемый. Если этого не происходит, причина обычно одна из четырёх:

• модель или её контекст не помещаются в видеопамять;
• драйвер GPU слишком старый или отсутствует;
• видеокарты нет в списке поддерживаемых Ollama;
• переменная окружения скрывает GPU.

Начинайте с драйвера: localaimaster.com называет устаревший драйвер одной из трёх главных ловушек. Затем сравните размер модели с объёмом видеопамяти. Если памяти не хватает, берите модель поменьше.

Про Vulkan vucense.com пишет, что он включён по умолчанию при установленном бэкенде. На Windows большинство драйверов уже поддерживают Vulkan, так что включать ничего не нужно. Если GPU на Vulkan вызывает проблемы, его отключают переменной OLLAMA_VULKAN=0 или GGML_VK_VISIBLE_DEVICES=-1. Эти же переменные проверьте, если GPU «пропал»: возможно, они заданы в системе.

Типичные ошибки и что с ними делать

Большинство сбоев сводится к короткому списку, и у каждого есть быстрая проверка.

Команда ollama не находится. Вы работаете в старом окне PowerShell, которое не знает про новый PATH. Закройте его и откройте новое.

Модель не запускается или падает из-за памяти. Первая модель оказалась слишком большой для ОЗУ. Servercore.com отмечает, что если модель заведомо не помещается, Ollama обычно сообщает об ошибке уже при загрузке. Выберите вариант меньше, ориентируясь на пары из раздела об установке (8 ГБ — gemma3:4b, 16 ГБ — llama3.1:8b).

Всё работает на CPU. Проверьте ollama ps, затем драйвер, поддержку карты и переменные окружения, как описано выше.

Часть модели на CPU. Значение вроде 48%/52% означает нехватку VRAM. Помогает модель меньшего размера. Контекст тоже занимает видеопамять, поэтому по logeshwaran.org иногда мешает именно он.

Порт 11434 занят. Servercore.com приводит пример: если запустить ollama serve вручную при уже работающей службе, второй процесс завершится с ошибкой address already in use. Пример описан для Linux со службой systemd. На Windows сервер уже запущен приложением в трее, поэтому перед ручным запуском проверьте, не работает ли он. Команды systemctl и journalctl из этого источника относятся к Linux, в Windows они не работают.

Порядок диагностики, если что-то пошло не так:

1. Новое окно PowerShell, затем ollama run с небольшой моделью.
2. ollama ps во время работы модели.
3. Обновление драйвера GPU.
4. Сравнение размера модели с VRAM и ОЗУ.
5. Проверка переменных окружения OLLAMA_VULKAN и GGML_VK_VISIBLE_DEVICES.

Вопросы и ответы

Нужны ли права администратора и WSL для Ollama на Windows? Нет. По данным localaimaster.com, OllamaSetup.exe ставится без прав администратора. Vucense.com подтверждает, что WSL и Docker для базового сценария не нужны.

Как понять, что модель работает на видеокарте? Запустите модель и выполните ollama ps, затем посмотрите колонку PROCESSOR. Значение 100% GPU означает полное использование видеокарты, 100% CPU — отсутствие GPU. Диспетчер задач может показывать около 1% нагрузки, потому что по умолчанию отображает 3D-графику.

Что значит 48%/52% CPU/GPU в выводе ollama ps? Это частичный offload: модель разделена между CPU и GPU, так как не поместилась в видеопамять. Выход — модель меньшего размера, как советуют авторы источников.

Как отключить Vulkan, если он создаёт проблемы? По данным vucense.com, для этого задают OLLAMA_VULKAN=0 или GGML_VK_VISIBLE_DEVICES=-1. По умолчанию Vulkan включён при установленном бэкенде, и вручную включать его не нужно.

Источники

1. Ollama - как установить, настроить и запустить LLM локально и на сервере
2. Ollama на Windows: установка, модели и локальный API
3. Install Ollama on Windows 10/11 (2026): 5-Minute Guide
4. Ollama on Windows 2026: Make It Use Your GPU + Open WebUI
5. Ollama Not Using GPU? Why It Runs on CPU and How to Fix It (NVIDIA, AMD, Intel) | Logeshwaran.org