ai-infra PD 分离后首 Token 变慢?KV Cache 传输瓶颈排查2026-11-07andy阅读(10)评论(0)按单条请求拆解 PD 分离的首 token 延迟,估算 KV Cache 字节数,区分传输慢、Decode 槽位等待、Prefill 排队与代理缓冲。