Как запустить DeepSeek локально: что реально работает на своём ПК

Фраза «DeepSeek можно запустить локально» верна, но без уточнения модели вводит в заблуждение. Маленький дистиллят R1 и полный V4.1 Flash требуют совершенно разного железа.

Зачем запускать локально

• данные не нужно отправлять в облачный чат;
• можно работать без постоянного интернета;
• нет оплаты за каждый API-токен;
• модель можно встроить во внутренние инструменты;
• проще контролировать журналирование и доступ.

Можно ли запустить V4.1 Flash на обычном ПК

Полную модель — практически нет. Открытые веса V4.1 Flash имеют сотни миллиардов параметров, а развёртывание полной серверной версии требует оборудования класса многогPU-сервера.

Поэтому слово Flash не означает «маленькая модель для ноутбука». Оно описывает эффективность обслуживания, а не бытовой размер файла.

Что тогда запускать дома

Для обычного компьютера логичнее выбирать меньшие модели DeepSeek и дистилляты, которые помещаются в доступную RAM/VRAM. Например, семейство R1-Distill выпускалось в нескольких размерах, поэтому можно подобрать вариант под своё железо.

Ollama или LM Studio

Ollama удобна для локального API и терминала. LM Studio — для тех, кому нужен графический интерфейс и простое управление скачанными моделями.

Оба инструмента не превращают слабый компьютер в сервер: если модель физически не помещается в память, интерфейс это не исправит.

Как выбрать размер модели

Смотрите на четыре параметра:

• размер весов после квантования;
• объём RAM/VRAM;
• желаемую длину контекста;
• скорость, которая вас устраивает.

Оставляйте запас памяти для контекста и самой системы. Модель, которая «впритык» помещается в RAM, может оказаться слишком медленной для нормальной работы.

Локально не всегда дешевле API

Если вы делаете несколько тысяч запросов в месяц, дешёвый DeepSeek API может оказаться выгоднее покупки дорогого GPU. Локальный запуск имеет смысл ради приватности, контроля или постоянной высокой нагрузки.

Локальная модель и Harness

DeepSeek Harness сам по себе является локальной рабочей средой, но подключённая модель может быть удалённой. Поэтому «Harness установлен на компьютере» не равно «все данные никогда не покидают компьютер».

Разница описана в статье про DeepSeek Harness.

Безопасность

Локальная модель снижает риск передачи промптов внешнему провайдеру, но не отменяет безопасность самого компьютера. История чатов, логи и файлы могут храниться локально в незашифрованном виде в зависимости от клиента.

Общие вопросы — в разборе приватности DeepSeek.

Пошаговый локальный запуск через Ollama

Не путайте полную облачную модель V4.1 Flash и небольшие открытые дистилляты R1. Для домашнего компьютера начните с небольшой локальной модели и оцените скорость на своих задачах.

1. Установите Ollama с официального сайта.
2. Откройте терминал и запустите модель 1.5B командой ниже. На первом запуске файлы модели скачиваются.
3. Отправьте контрольный запрос и проверьте, что возвращается содержательный ответ.
4. Если всё работает, протестируйте модель крупнее.

ollama run deepseek-r1:1.5b
# Для более крупной модели:
ollama run deepseek-r1:7b

По каталогу Ollama версии занимают приблизительно 1,1 ГБ для 1.5B, 4,7 ГБ для 7B и 5,2 ГБ для 8B в вариантах, указанных в каталоге. Это размеры пакетов модели, не минимально необходимая RAM: на контекст, систему и вычисления нужен дополнительный запас.

Как проверить локальный API

curl http://localhost:11434/api/chat \
  -d '{"model":"deepseek-r1:7b","messages":[{"role":"user","content":"Ответь одним словом: 2+2?"}],"stream":false}'

Проверьте наличие объекта message в JSON. Не запускайте такой запрос, пока модель 7B не загружена.

Для контроля конфиденциальности проверяйте, не подключён ли к локальному приложению удалённый API; установка локального интерфейса сама по себе не гарантирует полностью локальную обработку данных.

Коротко

Запустить DeepSeek дома реально, если выбрать подходящую по размеру модель. Для актуального полного V4.1 Flash нужен серверный класс железа; для обычного ПК разумнее использовать меньшие дистилляты через Ollama или LM Studio.