标签：PD分离部署

2026-07-26andy阅读(945)

PD 分离部署是否值得做？本文拆解 Prefill/Decode 资源差异、KV Cache 传输、网络与调度瓶颈，并给出 vLLM、SGLang 的选型和部署方法。