标签：rdma

2026-06-27andy阅读(109)

引言：为什么网络通信成为AI集群的”必争之地” 随着大模型参数规模突破千亿乃至万亿级别，分布式训练已成为AI基础设施的标配。然而，当我们将计算任务分散到数十甚至数千张GPU上时，一个严峻的问题随之浮现：计算可以并行，...

2026-02-04andy阅读(423)评论(0)

如何利用RDMA/RoCE v2实现大模型训练的极致加速：深度解析‘零拷贝’网络通信 随着AI模型规模（如LLM）的爆炸式增长，分布式训练已成为常态。然而，传统的网络通信方式（基于TCP/IP）在多GPU节点间传输海量梯度和参数时，会造成严...

2025-11-27andy阅读(480)评论(0)

在现代AI基础设施中，分布式训练（如使用PyTorch DDP和NCCL）对网络延迟和带宽的要求极高。RDMA（Remote Direct Memory Access）技术，无论是基于InfiniBand还是RoCEv2，都是实现高性能集群...