遇到模型下载失败、NCCL 卡住、推理显存不足或训练中断,可以从下面的症状入口找到对应教程、日志说明和下载工具。各文章单独列出环境与验证范围,工具结果需要结合自己的版本和硬件判断。
先确定问题发生在哪一步
- 模型还未就绪:先查下载授权、Token 和缓存。
- 进程已启动但通信不通:先查初始化与各 rank 日志,再测集合通信带宽。
- 服务能够启动但请求异常:区分显存容量、并发压力与延迟指标。
- 训练或 API 调用中断:检查 Checkpoint、账户状态与请求错误。
推理性能与显存
- vLLM vs SGLang 单卡压测:L4 数据、TTFT、TPOT 与吞吐怎么比
对照单卡压测方法、L4 数据与测试边界,理解首 Token 延迟、后续 Token 延迟和吞吐指标。
- PD 分离后首 Token 变慢?KV Cache 传输瓶颈排查
沿 Prefill、KV Cache 传输和 Decode 三段排查首 Token 变慢,核对网络传输是否抵消分离收益。
- vLLM 显存不足怎么查?权重加载、KV Cache 与并发排障
按日志区分权重加载、KV Cache 容量和并发压力,参考文章中的 RTX 2080 Ti 复现条件。
分布式通信与模型下载
- NCCL 多机初始化卡住怎么查?网卡、端口与 rank 日志
用最小探针区分 rendezvous、NCCL 初始化和第一次 all_reduce,核对网卡、端口与各 rank 日志。
- NCCL all_reduce_perf 带宽低怎么查?algbw、busbw 与多机排障
解释 nccl-tests 输出中的 algbw 与 busbw,结合报告脚本保留可对比的测试结果。
- hf download 报 401/403 怎么办?模型授权、Token 与下载恢复
先区分模型访问授权和 Token 权限,再检查下载缓存与恢复步骤。
训练恢复与 API 调用
- Google Colab 断线续训:用 Checkpoint 恢复 LoRA 训练(完整 Notebook)
核对模型、训练配置与完整 Checkpoint,按教程恢复 LoRA 训练。
- Colab 没有免费 GPU,怎么去 Kaggle 继续训练?
将 Colab 训练目录迁移到 Kaggle,检查模型版本、依赖和 Checkpoint 是否满足续训条件。
- DeepSeek API 余额、限流与请求失败排查:附成本计算脚本
区分余额不足、限流与请求错误,结合成本计算脚本检查调用预算。
- 怎么用免费额度调用大模型 API?
按服务商核对免费额度和试用条件,通过检查脚本确认首次请求结果;额度与计费以服务商账户为准。
下载工具与复现材料
先阅读对应教程中的安装要求与运行参数。Notebook 和初始化探针可能使用 GPU 资源,请自行确认运行环境的计费状态。
如何引用与反馈
引用实验数据时,请链接到具体教程,并保留测试日期、硬件、软件版本与限制说明。引用本页作为资源导航时,可使用“汤不热吧:AI 排障工具与实测教程”。发现失效链接或复现差异,可在对应文章评论区说明版本、步骤和已脱敏日志。
汤不热吧