Как запустить Qwen локально: Ollama, LM Studio и выбор модели под ваш компьютер

У Qwen есть важное отличие от многих популярных нейросетей: значительная часть моделей выпускается с открытыми весами. Это значит, что Qwen можно скачать и запустить прямо на своём компьютере, без облака, подписки и передачи данных на чужие серверы. Для этого не нужно быть разработчиком: достаточно одной программы и пары команд.

В этой инструкции разбираем, какую модель Qwen выбрать под ваш компьютер, как запустить её через Ollama или LM Studio, как подключить локальный API и что делать, если модель работает медленно или «забывает» начало разговора.

Зачем запускать Qwen локально

Облачный Qwen Chat удобен и бесплатен, но локальный запуск решает другие задачи.

• Приватность. Тексты, код и документы не покидают ваш компьютер.
• Работа без интернета. После скачивания модель работает офлайн.
• Нет лимитов сообщений. Ограничение одно — мощность вашего железа.
• Интеграции. Локальную модель можно подключить к редактору кода, скриптам и своим приложениям.

Есть и минусы: локальные модели меньше и слабее облачных флагманов, им нужны память и хорошая видеокарта, а скорость ответа зависит от железа. Когда вместо облачного ассистента действительно стоит взять локальную модель, мы разбирали в статье когда вместо Claude взять локальную модель.

Какую модель Qwen выбрать

Главный критерий — объём видеопамяти, а если видеокарты нет — оперативной памяти. Модель должна целиком помещаться в память с небольшим запасом под контекст разговора. Ниже — ориентиры по размерам загрузки в Ollama для сжатых (квантованных) версий.

Коротко о семействах

• Qwen3 — проверенная линейка текстовых моделей размером от 0,6 до 235 миллиардов параметров. Есть обычные (dense) модели и модели MoE, у которых при каждом ответе работает только часть параметров.
• Qwen3.5 — семейство, вышедшее в феврале 2026 года. Модели мультимодальные: понимают не только текст, но и изображения. Самые маленькие версии подходят даже для слабых ноутбуков.
• Qwen3.6 — весенняя линейка 2026 года с открытыми весами, ориентированная на программирование и агентные сценарии. В Ollama доступны версии 27B и 35B-A3B с контекстом до 256 тысяч токенов и поддержкой изображений на входе.
• Qwen3.8 — новейшее поколение, вышедшее в августе 2026 года. В Ollama есть открытая модель qwen3.8:27b: около 18 ГБ, контекст до 256 тысяч токенов, текст и изображения на входе. Флагман Qwen3.8-Max работает только в облаке.

О возможностях Qwen 3.6 в облаке и в целом подробнее рассказано в обзоре Qwen 3.6: модель, возможности и применение.

Способ 1. Ollama: быстрый запуск из терминала

Ollama — бесплатная программа для Windows, macOS и Linux, которая скачивает модели, подбирает настройки и запускает локальный сервер.

1. Установите Ollama. На Windows и macOS скачайте установщик с официального сайта ollama.com. На Linux достаточно команды curl -fsSL https://ollama.com/install.sh | sh.
2. Скачайте и запустите модель. Откройте терминал и введите, например, ollama run qwen3:8b. При первом запуске модель загрузится, это может занять время.
3. Общайтесь. После загрузки в терминале появится строка ввода. Пишите запрос на русском, для выхода введите /bye.

Полезные команды:

• ollama list — показать скачанные модели;
• ollama pull qwen3.6:27b — скачать модель без запуска;
• ollama rm qwen3:8b — удалить модель и освободить место;
• ollama ps — посмотреть, какие модели сейчас загружены в память.

Режим размышлений

Модели Qwen3 умеют «думать» перед ответом — выводить ход рассуждений. Это полезно для задач на логику и код, но замедляет простые ответы. В интерактивном режиме Ollama рассуждения можно выключить командой /set nothink и включить обратно командой /set think.

Длина контекста

По умолчанию Ollama может использовать короткое окно контекста, и тогда модель «забывает» начало длинного разговора. Разработчики Qwen рекомендуют задавать параметр вручную, например командой /set parameter num_ctx 32768. Учтите: чем больше контекст, тем больше нужно памяти.

Способ 2. LM Studio: всё через интерфейс

Если терминал вызывает дискомфорт, используйте LM Studio — бесплатное приложение с графическим интерфейсом.

1. Скачайте LM Studio с официального сайта и установите.
2. Откройте раздел поиска моделей и введите «Qwen».
3. Выберите модель и вариант квантования. Программа подсказывает, поместится ли модель в память вашего компьютера.
4. Нажмите «Download», дождитесь загрузки и откройте вкладку чата.

LM Studio удобна, чтобы сравнить несколько моделей на одной задаче: переключение занимает пару кликов.

Локальный API: подключаем Qwen к своим программам

И Ollama, и LM Studio поднимают локальный сервер, совместимый с форматом OpenAI API. У Ollama он по умолчанию доступен по адресу http://localhost:11434/v1. Это значит, что большинство библиотек и программ, которые умеют работать с OpenAI, можно переключить на локальный Qwen, поменяв адрес и название модели.

Так локальную модель подключают к редакторам кода, ботам и скриптам автоматизации. Если же нужна облачная мощность без своего железа, используйте официальный API — пошаговая инструкция есть в материале Qwen API: как получить ключ и сделать первый запрос.

Типичные проблемы и решения

• Модель отвечает очень медленно. Скорее всего, она не помещается в видеопамять и работает на процессоре. Возьмите модель поменьше или более сжатую версию.
• Не хватает памяти, программа вылетает. Закройте тяжёлые приложения, уменьшите длину контекста или выберите модель на ступень меньше.
• Модель не находится в Ollama. Обновите Ollama: новые семейства моделей поддерживаются только свежими версиями.
• Ответы на английском. Добавьте в начало запроса «Отвечай на русском языке».
• Ответ обрывается или зацикливается. Проверьте длину контекста и при необходимости выключите режим размышлений для простых задач.

Что реально можно делать на локальном Qwen

• Черновики текстов, писем и постов без отправки данных в облако.
• Разбор и объяснение кода, генерация тестов и небольших функций.
• Конспекты и пересказ документов, которые нельзя загружать в облачные сервисы.
• Перевод и редактура.
• Эксперименты с ИИ-агентами и автоматизацией.

Для сложных многошаговых задач облачные модели всё ещё заметно сильнее, поэтому разумная схема — локальная модель для приватных и рутинных задач, облачная — для самых трудных.

Частые вопросы

Можно ли запустить Qwen без видеокарты?

Да. Маленькие модели размером 2–4 миллиарда параметров работают на процессоре и обычной оперативной памяти. Скорость будет ниже, но для коротких запросов этого достаточно.

Это законно и бесплатно?

Открытые модели Qwen распространяются под открытыми лицензиями, а Ollama и LM Studio бесплатны для личного использования. Для коммерческого применения проверьте лицензию конкретной модели на её странице.

Локальная модель такая же умная, как Qwen Chat?

Нет. В облаке работают более крупные модели. Локальная версия меньше, но для многих повседневных задач её качества хватает.

Сколько места на диске нужно?

От 1–3 ГБ для маленьких моделей до 20 ГБ и больше для крупных. Учитывайте запас, если планируете хранить несколько моделей.

Итог

Запустить Qwen локально проще, чем кажется: установите Ollama или LM Studio, выберите модель по объёму памяти и начните с одной команды. Для слабого ноутбука подойдут маленькие версии Qwen3.5, для компьютера с видеокартой на 8–16 ГБ — Qwen3 8B или 14B, а владельцам мощных видеокарт стоит попробовать Qwen3.8 27B или Qwen3.6. Так вы получите приватного ИИ-помощника, который работает даже без интернета.