标签：ZeRO优化

2026-08-19andy阅读(2)

引言：为什么梯度累积是大模型训练的”隐形基础设施” 在 ChatGPT 横空出世的三年后，大模型训练的”显学”似乎已经从单卡微调转移到了千卡预训练。各类技术文章铺天盖地讨论着 3D 并行、Ze...