汤不热吧
Long Context 专题：为了跑通 1M 上下文，Infra 层需要做哪些 Ring Attention 优化？
处理百万级（1M）上下文长度是大型语言模型（LLM）面临的巨大挑战。传统的自注意力机制（Self-Attention）在序列长度$N$上具有$O(N^2)$的计算复杂度和内存占用，导致单个GPU无法容纳如此巨大的KV Cache和中间激活。...
ai-infra
第7页软件定义 AI 算力：利用池化技术（Pooling）实现显存资源的跨服务器动态借调
简介：软件定义AI算力与显存池化 在现代AI训练和推理集群中，GPU显存（VRAM）是核心且昂贵的资源。传统的资源分配方式是静态的，即一个任务独占一台服务器上的一个或多个GPU及其全部显存。这种模式常导致两个主要问题：资源碎片化和低利用率。...
AI 集群的功耗挑战：如何通过动态调频（DVFS）在性能不掉队下节省电费
AI 集群的功耗挑战与 DVFS 简介 随着AI模型规模的爆炸式增长，支持这些模型的计算集群（无论是使用高性能CPU还是GPU）消耗的能源也水涨船高。高功耗不仅意味着高昂的电费，还会带来巨大的散热压力和潜在的硬件故障风险。在许多情况下，集群...
MOE 混合专家模型 Infra 挑战：如何处理路由（Router）带来的负载不均与显存开销
混合专家模型（Mixture-of-Experts, MoE）通过稀疏激活实现模型扩展，显著提升了参数量和训练效率。然而，其核心组件——路由器（Router）——在将输入Token分配给不同专家（Expert）时，带来了两大基础设施挑战：专...
存算一体架构（CIM）：AI 算力下一阶段的救命稻草还是实验室玩具？
存算一体架构（CIM）：AI算力下一阶段的性能飞跃还是工程挑战？ 随着AI模型（尤其是大语言模型和Transformer架构）的规模爆炸式增长，对算力的需求也急剧上升。然而，传统的冯·诺依曼（Von Neumann）架构正在成为限制AI加速...
一道思考题：在移动端 NPU 上，为什么 3×3 卷积有时跑得比 1×1 卷积还快？
在深度学习模型优化，尤其是移动端（如高通Adreno NPU、华为Ascend NPU等）部署时，我们通常认为1×1卷积（点卷积）由于其极少的浮点运算量（FLOPs）理应比3×3卷积快得多。然而，在实际的NPU性能测试中...
在大规模集群中，如何利用“拓扑感知调度”减少跨交换机的通信开销？
在大规模数据中心集群中，网络拓扑通常采用多级架构（如Fat-Tree或Spine-Leaf），跨越不同交换机（尤其是跨越核心交换机）的通信，相比同一交换机下的通信，往往具有更高的延迟和更大的带宽开销。对于需要高频、低延迟通信的应用（如分布式...
如果训练 Loss 突然变成 NaN，作为 Infra 工程师，你该提供哪些底层数据辅助？
深度学习模型训练过程中，如果发现训练损失（Loss）突然飙升并变为NaN（Not a Number），通常标志着梯度爆炸或数值溢出。虽然直接的数值问题需要ML工程师从模型结构、学习率、或数据预处理层面解决，但作为Infra（基础设施）工程师...
底层黑魔法：怎样通过 Triton 或 TVM 编写一个比厂商原生库更快的算子？
在深度学习和高性能计算领域，算子（Kernel）的性能往往是模型推理速度的瓶颈。虽然像 cuBLAS 和 cuDNN 这样的厂商原生库已经高度优化，但它们是通用性的。当面对特定维度、数据类型或计算模式时，通过像 Triton 这样的领域特定...
面试必问：为什么 Transformer 的计算瓶颈往往在存储带宽而非算力？
在深度学习，尤其是大型语言模型（LLM）的面试中，这是一个非常常见且重要的问题。理解计算瓶颈是优化模型部署和推理速度的关键。对于基于 Transformer 架构的大模型，在推理（Inference）阶段，计算瓶颈确实往往落在存储带宽（Me...