手写一个简单的 Tiling 策略:演示如何通过 L1/L2 缓存优化矩阵运算的访存局部性。
矩阵乘法(GEMM)是高性能计算中最基础且最核心的操作之一。然而,简单的三层循环实现(ijk顺序)往往效率低下,主要瓶颈在于CPU L1/L2缓存的频繁失效(Cache Miss)。这是因为在默认的行主序(Row-Major)存储中,访问矩...
矩阵乘法(GEMM)是高性能计算中最基础且最核心的操作之一。然而,简单的三层循环实现(ijk顺序)往往效率低下,主要瓶颈在于CPU L1/L2缓存的频繁失效(Cache Miss)。这是因为在默认的行主序(Row-Major)存储中,访问矩...
在构建大规模向量搜索系统时,我们经常面临“非对称搜索”场景:查询向量(Query Vector)通常保持高精度(浮点型),而数据库中的索引向量(Database Vector)为了节省存储和提高I/O效率,会使用量化压缩技术(如Produc...