标签：训练

2025-11-17andy阅读(504)评论(0)

如何配置PyTorch FSDP实现千亿级模型的高效并行训练及内存优化 在训练千亿级（Trillion-Scale）参数的超大规模语言模型（LLMs）时，单卡GPU的内存限制是最大的瓶颈。PyTorch FSDP (Fully Sharde...

2025-11-10andy阅读(477)评论(0)

抢占式实例（Spot Instance）是云服务商提供的一种基于竞价模式的计算资源，通常价格比按需实例（On-Demand）低50%到90%。对于需要数周甚至数月训练周期的大型语言模型（LLM）而言，Spot Instance是降低训练成本...

2025-11-08andy阅读(472)评论(0)

在AI模型部署和训练的场景中，GPU利用率往往是衡量基础设施效率的核心指标。很多用户在使用PyTorch进行分布式训练（DDP）时，发现GPU的SMs（流式多处理器）利用率偏低，这通常意味着模型训练并非计算密集型，而是受到了I/O或通信的限...