Тег
RTX 4090
1 статья по теме «RTX 4090».
·5 мин
Llama 3.3 70B на двух RTX 4090: как собрать локальный AI-сервер
Что реально запускается на 2×RTX 4090 (48 ГБ): Llama 3.3 70B в 4 битах через Ollama или vLLM, требования к железу и когда выбрать модель новее.