标签：万卡

2026-04-07andy阅读(51)评论(0)

如何通过FSDP与异步分布式快照应对万卡集群的扩展性挑战 随着大模型参数量向万亿级迈进，AI Infra 的重心已从单机性能优化转向\”万卡集群\”的系统级工程。在万卡规模下，AI 基础设施面临两个致命挑战：节点平均...

2025-11-19andy阅读(253)评论(0)

在万卡（10000+ GPU）规模的AI集群中进行大模型训练时，CheckPoint（检查点）的可靠性和速度是决定训练效率的关键。一个TB级甚至PB级的检查点，如果采用传统同步方式存储，可能导致训练停顿数小时，极大增加了恢复时间目标（RTO...