运维命令仓库

主题

Windows WSL 本地安装参考 ​

本页为社区参考指南整理，放在专题目录内且不进侧栏（sidebar: false）。
机房 RTX 5090 / vLLM 实操部署请看：DeepSeek-OCR-2 部署说明。

来源：Visual Frontier — DeepSeek-OCR-2 Windows WSL 指南（作者 Visual Frontier / DeepSeek / Hy3@WorkBuddy；整理日期 2026-07-25）

本文说明在 Windows WSL 中，用 Miniconda、vLLM 与国内镜像安装 DeepSeek-OCR-2，并启动 OpenAI 兼容服务的流程。

0. 安装 / 更新 NVIDIA 驱动 ​

访问官网选择 GeForce，下载最新驱动：

示例版本：610.74（以官网当前版本为准）。

1. 安装 WSL ​

以管理员打开 PowerShell：

powershell
wsl --install

安装完成后重启（若提示）。

2. 启动 Ubuntu ​

开始菜单打开 Ubuntu，完成首次用户名 / 密码设置。

3. 安装 Miniconda 并配置国内镜像 ​

在 Ubuntu 终端执行：

bash
cd ~
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh

conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/main
conda tos accept --override-channels --channel https://repo.anaconda.com/pkgs/r

# conda 镜像（清华）
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda config --set show_channel_urls yes
conda clean -i

# pip 镜像
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip config set install.trusted-host pypi.tuna.tsinghua.edu.cn

按安装程序提示把 conda 写入 ~/.bashrc，然后 source ~/.bashrc。

4. 安装 uv 并配置镜像 ​

bash
curl -LsSf https://astral.sh/uv/install.sh | sh

echo 'export UV_DEFAULT_INDEX="https://pypi.tuna.tsinghua.edu.cn/simple"' >> ~/.bashrc
source ~/.bashrc

5. 安装 ModelScope（推荐国内下载权重） ​

bash
pip install modelscope

可选：Hugging Face + 镜像 ​

bash
pip install huggingface_hub
echo 'export HF_ENDPOINT=https://hf-mirror.com' >> ~/.bashrc
source ~/.bashrc

6. 下载模型权重 ​

bash
modelscope download --model deepseek-ai/DeepSeek-OCR-2
# 默认目录：~/.cache/modelscope/models/deepseek-ai--DeepSeek-OCR-2

Hugging Face：

bash
hf download deepseek-ai/DeepSeek-OCR-2

7. 创建并激活 Conda 环境 ​

bash
conda create -n deepseek-ocr-2 python=3.12.9 -y
conda activate deepseek-ocr-2

8. 安装 CUDA Toolkit 并设置 WSL 库路径 ​

bash
conda install nvidia::cuda-toolkit -y

mkdir -p $CONDA_PREFIX/etc/conda/activate.d
mkdir -p $CONDA_PREFIX/etc/conda/deactivate.d

echo 'export LIBRARY_PATH=/usr/lib/wsl/lib:$LIBRARY_PATH' >> $CONDA_PREFIX/etc/conda/activate.d/env_vars.sh
echo 'export LD_LIBRARY_PATH=/usr/lib/wsl/lib:$LD_LIBRARY_PATH' >> $CONDA_PREFIX/etc/conda/activate.d/env_vars.sh
echo 'unset LD_LIBRARY_PATH' > $CONDA_PREFIX/etc/conda/deactivate.d/env_vars.sh

conda deactivate
conda activate deepseek-ocr-2

9. 安装 vLLM ​

不要照搬官方文档里钉死旧版 torch / vLLM / flash-attn 的步骤；当前推荐：

bash
# 参考：https://docs.vllm.ai/projects/recipes/en/latest/DeepSeek/DeepSeek-OCR-2.html
uv pip install -U vllm --torch-backend auto

若目标机器是 RTX 5090（sm_120），不要用本文的 auto 路径，改用机房文档中的 cu130 + 指定 torch 方案，见 DeepSeek-OCR-2 部署说明。

10. 启动 vLLM 服务 ​

默认 OpenAI 兼容入口：http://127.0.0.1:8000/

bash
vllm serve ~/.cache/modelscope/models/deepseek-ai--DeepSeek-OCR-2/snapshots/master/ \
  --served-model-name DeepSeek-OCR-2 \
  --logits_processors vllm.model_executor.models.deepseek_ocr:NGramPerReqLogitsProcessor \
  --no-enable-prefix-caching \
  --mm-processor-cache-gb 0

可选客户端：VibeOCR。

可选：克隆上游仓库（仅开发参考） ​

bash
mkdir -p ~/workspace
cd ~/workspace
git clone https://github.com/deepseek-ai/DeepSeek-OCR-2.git

仓库不是启动推理的必要条件。