标签：tb

2026-02-15andy阅读(34)评论(0)

在现代 AI 项目中，数据和模型的规模正迅速膨胀至 TB 甚至 PB 级别。传统的版本控制系统（如 Git）专为源代码设计，无法有效处理如此庞大的二进制文件。将大型文件直接提交到 Git 仓库会导致仓库膨胀、克隆缓慢，并很快触及存储限制。 ...

2026-02-06andy阅读(85)评论(0)

在训练万亿参数（TB级权重）的大型语言模型（LLM）时，断点续训（Checkpointing）是至关重要的一环。然而，传统的PyTorch保存方式通常需要Rank 0节点聚合所有权重，这会导致严重的I/O瓶颈和内存溢出，使得保存一次权重可能...

2026-01-30andy阅读(60)评论(0)

在处理 TB 级别或者需要实时生成的流式数据集时，传统的 PyTorch Dataset（Map-style Dataset，通过 __getitem__ 随机访问）机制会遇到致命的内存瓶颈。因为这类数据集要求在初始化时或者通过索引访问时将...