stable-diffusion.cpp 高性能本地生图与视频生成全攻略

1
2

# 前往 Releases 下载对应平台的 sd-cli 或 sd-server
# 例如 Windows: sd-cli.exe, Linux: sd-cli

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17

# 1. 克隆代码（务必递归子模块）
git clone --recursive https://github.com/leejet/stable-diffusion.cpp.git
cd stable-diffusion.cpp

# 2. 创建构建目录
mkdir build && cd build

# 3. CMake 配置（根据硬件选择）
# 基础 CPU 版本
cmake ..
# CUDA 加速（NVIDIA GPU）
cmake .. -DGGML_USE_CUBLAS=ON
# Vulkan 加速（AMD/Intel/跨平台）
cmake .. -DGGML_USE_VULKAN=ON

# 4. 编译
cmake --build . --config Release

1
2
3
4

./bin/sd-cli -M metadata --image ./output.png
./bin/sd-cli -M metadata --image ./output.jpg --metadata-format json
./bin/sd-cli -M metadata --image ./output.png --metadata-raw
./bin/sd-cli -M metadata --image ./output.png --metadata-all

1

curl -L -O https://huggingface.co/runwayml/stable-diffusion-v1-5/resolve/main/v1-5-pruned-emaonly.safetensors

1

./bin/sd-cli -m ../models/v1-5-pruned-emaonly.safetensors -p "a lovely cat"

1

./sd-cli.exe --diffusion-model  ./models/qwen-image-2512-Q4_K_M.gguf --vae ./models/qwen_image_vae.safetensors  --llm ./models/Qwen2.5-VL-7B-Instruct-Q4_K_M.gguf  -p '一个穿着"17you"标志的T恤的中国美女正拿着黑色的马克笔面相镜头微笑。她身后的玻璃板上手写体写着 “一、Qwen-Image的技术路线： 探索视觉生成基础模型的极限，开创理解与生成一体化的未来。二、Qwen-Image的模型特色：1、复杂文字渲染。支持中英渲染、自动布局； 2、精准图像编辑。支持文字编辑、物体增减、风格变换。三、Qwen-Image的未来愿景：赋能专业内容创作、助力生成式AI发展。”' --cfg-scale 2.5 --sampling-method euler -v --offload-to-cpu -H 1024 -W 1024 --diffusion-fa --flow-shift 3 -o "./test3.png"

1

./sd-cli.exe --diffusion-model "./models/flux-2-klein-4b-Q4_0.gguf"   --llm "./models/Qwen3-4B-Q4_K_M.gguf"   --vae "./models/FLUX.2-dev-ae.safetensors"   --offload-to-cpu   --vae-tiling   --vae-on-cpu  -p "a lovely dog"   -W 512 -H 512 --steps 4 --cfg-scale 1.0 --sampling-method euler  -o "./test.png"  --diffusion-fa -v

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39

./sd-cli.exe --diffusion-model "./models/z_image_turbo-Q4_K_M.gguf"   --llm "./models/Qwen3-4B-Q4_K_M.gguf"   --vae "./models/ae.safetensors"   --offload-to-cpu   --vae-tiling   --vae-on-cpu  -p "a lovely cat"   -W 512 -H 512 --steps 9 --cfg-scale 1.0 --sampling-method euler  -o "./test.png" --diffusion-fa

./sd-cli.exe --diffusion-model "./models/z_image_turbo-Q4_K_M.gguf"   --llm "./models/Qwen3-4B-Q4_K_M.gguf"   --vae "./models/ae.safetensors"   -p "a lovely cat"  -o "./test3.png" --cfg-scale 1.0 -v --offload-to-cpu --diffusion-fa -H 1024 -W 512  --steps 9

#  启用CPU卸载与分块解码
./sd-cli.exe -M img_gen `
  --diffusion-model "./models/z_image_turbo-Q5_K_M.gguf" `
  --llm "./models/Qwen3-4B-Q5_K_M.gguf" `
  --vae "./models/ae.safetensors" `
  --offload-to-cpu `       # 关键：将部分权重卸载到系统内存
  --vae-tiling `           # 关键：启用VAE分块解码，避免大显存峰值
  --vae-on-cpu `           # 关键：强制VAE在CPU上运行
  -p "A simple test" `
  -W 512 -H 512 --steps 9 --cfg-scale 0.0 `  # 先降低分辨率测试
  --sampling-method euler `
  -o "./test.png"
  
  # 纯 CPU 模式
  ./sd-cli.exe -M img_gen `
  --diffusion-model "./models/z_image_turbo-Q3_K.gguf" `  # 必须用最低量化
  --llm "./models/Qwen3-4B-Q3_K.gguf" `
  --vae "./models/ae.safetensors" `
  -b cpu `                      # 关键：强制使用CPU后端
  -t 4 `                        # 设置CPU线程数（根据你的CPU核心数调整）
  -p "A simple test" `
  -W 512 -H 512 --steps 9 --cfg-scale 0.0 `
  --sampling-method euler `
  -o "./test.png"
  
  # 改用Q4
  ./sd-cli.exe -M img_gen `
  --diffusion-model "./models/z_image_turbo-Q4_K_M.gguf" `  
  --llm "./models/Qwen3-4B-Q4_K_M.gguf" `                   # LLM也需对应降级
  --vae "./models/ae.safetensors" `
  -p "A simple test" `
  -W 512 -H 512 --steps 9 --cfg-scale 0.0 `                 # 先试512x512
  --sampling-method euler `
  -o "./test.png"
  

1
2
3
4
5
6
7

Svr Options:
  -l, --listen-ip <string>      server listen ip (default: 127.0.0.1)        
  --serve-html-path <string>    path to HTML file to serve at root (optional)
  --listen-port <int>           server listen port (default: 1234)
  -v, --verbose                 print extra info
  --color                       colors the logging tags according to level   
  -h, --help                    show this help message and exit

1

./sd-server.exe --listen-port 8081   --diffusion-model "./models/flux-2-klein-4b-Q4_0.gguf"  --llm "./models/Qwen3-4B-Q4_K_M.gguf"   --vae "./models/FLUX.2-dev-ae.safetensors"   --offload-to-cpu --vae-tiling --vae-on-cpu --diffusion-fa -v

1
2
3
4
5
6
7
8
9

# 智能体调用，可以查看server终端进度，根据配置需要时间可能很长
curl -X POST "http://127.0.0.1:8081/sdapi/v1/txt2img" `
  -H "Content-Type: application/json" `
  -d '{"prompt": "一只可爱的小猫","n":1, "width": 768, "height": 1024, "steps": 6,"cfg_scale":5,"clip_skip":0,"seed":1521052,"denoising_strength":0.6,"negative_prompt":"","init_images":[],"inpainting_mask_invert":null,"inpainting_fill":null}' `
  --output "./testa.png"

# win11
Invoke-RestMethod -Uri "http://127.0.0.1:8081/sdapi/v1/txt2img" -Method Post -Body '{"prompt":"高清封面"}' -ContentType "application/json" -OutFile "./outputs/我的图片.png"
  

1
2
3
4
5
6
7
8
9

{
  "mcpServers": {
    "sd-cpp": {
      "command": "/absolute/path/to/sd-cli",
      "args": ["-m", "/path/to/model.gguf", "--server"],
      "env": {"GGML_USE_CUBLAS": "1"}
    }
  }
}