环境要求

  • Windows 10/11
  • NVIDIA GPU(推荐 RTX 4080 及以上,16GB+ 显存)
  • Python 3.12

安装步骤

1. 安装 Python 3.12

系统未预装 Python,使用 winget 安装:

powershell
winget install Python.Python.3.12 --accept-source-agreements --accept-package-agreements --silent

踩坑点:winget 安装超时可能导致 Python 环境不完整(报 No module named encodings)。如果遇到此问题,先卸载再重装:

powershell
winget uninstall Python.Python.3.12 --accept-source-agreements
winget install Python.Python.3.12 --accept-source-agreements --accept-package-agreements --silent

安装完成后,Python 路径为:

纯文本
C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe

2. 克隆仓库

powershell
cd C:\Users\<用户名>\Desktop
git clone https://github.com/QwenLM/Qwen3-ASR.git
cd Qwen3-ASR

3. 安装 qwen-asr 包

国内使用清华镜像源加速:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -m pip install -U qwen-asr -i https://pypi.tuna.tsinghua.edu.cn/simple

踩坑点:如果直接用 pip installNo matching distribution found for numpy>=1.17,需要先单独安装 numpy:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -m pip install numpy -i https://pypi.tuna.tsinghua.edu.cn/simple

4. 安装 PyTorch CUDA 版本

这是关键步骤。默认安装的 PyTorch 是 CPU 版本,会报错:

纯文本
AssertionError: Torch not compiled with CUDA enabled

必须从 PyTorch 官方源安装 CUDA 版本:

powershell
# 先卸载 CPU 版本
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -m pip uninstall torch -y
# 安装 CUDA 版本(约 3GB,需耐心等待)
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -m pip install torch --index-url https://download.pytorch.org/whl/cu129

踩坑点

  • 不能用 -i https://pypi.tuna.tsinghua.edu.cn/simple--index-url 同时使用,否则会从清华源下载 CPU 版本
  • 下载约 3GB,超时设置建议 900 秒以上
  • 如果超时中断,重新运行命令会断点续传

验证 CUDA 是否可用:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -c "import torch; print(torch.__version__); print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))"

正确输出示例:

纯文本
2.9.0+cu129
True
NVIDIA GeForce RTX 4080 SUPER

5. 下载模型

使用 ModelScope 下载(国内推荐):

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -m pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\Scripts\modelscope.exe" download --model Qwen/Qwen3-ASR-1.7B --local_dir "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B"

也可以用 HuggingFace 下载:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -m pip install -U "huggingface_hub[cli]" -i https://pypi.tuna.tsinghua.edu.cn/simple
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\Scripts\huggingface-cli.exe" download Qwen/Qwen3-ASR-1.7B --local-dir "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B"

6. 启动 Gradio Demo

本地访问:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" "C:\Users\<用户名>\Desktop\qwen3-asr\qwen_asr\cli\demo.py" --asr-checkpoint "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B" --backend transformers

局域网访问(监听 0.0.0.0):

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" "C:\Users\<用户名>\Desktop\qwen3-asr\qwen_asr\cli\demo.py" --asr-checkpoint "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B" --backend transformers --ip 0.0.0.0 --port 8000

启动后访问:

  • 本机:http://localhost:8000
  • 局域网其他设备:http://<本机IP>:8000

启动参数说明

参数说明默认值--asr-checkpoint模型路径或 HuggingFace repo ID必填--aligner-checkpoint强制对齐模型路径(启用时间戳)无--backend推理后端:transformersvllmtransformers--ip监听 IP0.0.0.0--port监听端口8000--cuda-visible-devices使用的 GPU 编号0--backend-kwargs后端参数(JSON 格式)无

启用时间戳功能

需要额外下载对齐模型:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\Scripts\modelscope.exe" download --model Qwen/Qwen3-ForcedAligner-0.6B --local_dir "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ForcedAligner-0.6B"

启动时加上 --aligner-checkpoint

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" "C:\Users\<用户名>\Desktop\qwen3-asr\qwen_asr\cli\demo.py" ^
  --asr-checkpoint "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B" ^
  --aligner-checkpoint "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ForcedAligner-0.6B" ^
  --backend transformers ^
  --ip 0.0.0.0 --port 8000

使用 vLLM 后端(更快推理)

需要额外安装 vLLM:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" -m pip install -U "qwen-asr[vllm]"

启动:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" "C:\Users\<用户名>\Desktop\qwen3-asr\qwen_asr\cli\demo.py" ^
  --asr-checkpoint "C:\Users\<用户名>\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B" ^
  --backend vllm ^
  --ip 0.0.0.0 --port 8000

常见问题

1. No module named qwen_asr.demo

不要用 python -m qwen_asr.demo,直接运行 demo.py 文件:

powershell
& "C:\Users\<用户名>\AppData\Local\Programs\Python\Python312\python.exe" "C:\Users\<用户名>\Desktop\qwen3-asr\qwen_asr\cli\demo.py" ...

2. Torch not compiled with CUDA enabled

PyTorch 是 CPU 版本,需要按步骤 4 重装 CUDA 版本。

3. Could not find platform independent libraries <prefix>

Python 安装不完整,需要卸载后重新安装。

4. pip 下载慢

使用清华镜像源:

powershell
-i https://pypi.tuna.tsinghua.edu.cn/simple

5. 模型下载失败

国内推荐使用 ModelScope 而不是 HuggingFace。


完整一键安装脚本

将以下内容保存为 install.ps1,以管理员身份运行:

powershell
# 安装 Python(如果未安装)
winget install Python.Python.3.12 --accept-source-agreements --accept-package-agreements --silent

$PYTHON = "C:\Users\$env:USERNAME\AppData\Local\Programs\Python\Python312\python.exe"
$PIP = "$PYTHON -m pip"

# 安装 qwen-asr
& $PYTHON -m pip install numpy -i https://pypi.tuna.tsinghua.edu.cn/simple
& $PYTHON -m pip install -U qwen-asr -i https://pypi.tuna.tsinghua.edu.cn/simple

# 卸载 CPU 版 PyTorch,安装 CUDA 版
& $PYTHON -m pip uninstall torch -y
& $PYTHON -m pip install torch --index-url https://download.pytorch.org/whl/cu129

# 安装 ModelScope 并下载模型
& $PYTHON -m pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple
& "C:\Users\$env:USERNAME\AppData\Local\Programs\Python\Python312\Scripts\modelscope.exe" download --model Qwen/Qwen3-ASR-1.7B --local_dir "C:\Users\$env:USERNAME\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B"

Write-Host "安装完成!启动命令:"
Write-Host "& `"$PYTHON`" `"C:\Users\$env:USERNAME\Desktop\qwen3-asr\qwen_asr\cli\demo.py`" --asr-checkpoint `"C:\Users\$env:USERNAME\Desktop\qwen3-asr\models\Qwen3-ASR-1.7B`" --backend transformers --ip 0.0.0.0 --port 8000"