标签：吞吐

2026-11-07andy阅读(42)评论(0)

解读 vLLM 与 SGLang 单卡 L4 公开实测，提供统一流式接口的压测命令，按 TTFT、TPOT、吞吐和成功率选择配置。

2026-01-30andy阅读(1004)评论(0)

在PyTorch深度学习训练中，数据加载的速度（即I/O吞吐量）往往是整个训练流程的瓶颈。当尝试使用多进程（num_workers > 0）来加速数据读取时，用户可能会遇到程序锁死、内存暴涨或性能不升反降的问题。本文将深入解析如何通过合理配...