标签：演进

2026-03-12andy阅读(16)评论(0)

1. 为什么我们需要矢量化？ 在 Android 端侧推理（如 NCNN、MNN、TFLite）中，算子性能是核心。传统的标量计算（Scalar）一次只能处理一个数据，而 SIMD（Single Instruction Multiple D...

2026-02-28andy阅读(55)评论(0)

如何理解 Go 语言 defer 性能的演进：从堆分配到开放编码 在 Go 语言中，defer 是一个非常实用的关键字，用于确保资源（如文件句柄、互斥锁）在函数返回前被正确释放。然而，defer 在早期版本中的性能开销一直是开发者讨论的热点...

2026-02-04andy阅读(116)评论(0)

FlashAttention v1/v2 演进史：它是如何通过减少显存读写让速度飞起来的 自Transformer架构诞生以来，Attention机制一直是其核心但也是性能瓶颈所在。当序列长度 $N$ 增大时，标准Attention的计算复...

2026-01-31andy阅读(143)评论(0)

计算机体系结构中有一个长期存在的瓶颈，称为“内存墙”（Memory Wall）。它描述了处理器速度增长（基于摩尔定律）远快于内存访问速度和带宽增长的现象。对于传统的CPU计算任务，这早已是性能限制因素；而对于今天的大型语言模型（LLMs），...