如何针对摩尔线程 MT-S 系列显卡优化 Transformer 算子性能:深度解析底层流水线排布
如何通过流水线排布优化摩尔线程 MT-S 系列显卡的 Transformer 算子性能 在国产 GPU 适配过程中,摩尔线程(Moore Threads)的 MUSA 架构表现出色。但要榨干其 MT-S 系列(如 MT-S80/MT-S30...
如何通过流水线排布优化摩尔线程 MT-S 系列显卡的 Transformer 算子性能 在国产 GPU 适配过程中,摩尔线程(Moore Threads)的 MUSA 架构表现出色。但要榨干其 MT-S 系列(如 MT-S80/MT-S30...
概述:为什么需要分布式 Faiss 检索 随着深度学习模型产生的向量维度和数量爆炸式增长(例如,十亿级以上的向量),单台服务器的内存和计算能力(即使配备了多张高性能 GPU)也难以完全容纳和处理。Faiss 提供了强大的机制来应对这种超大规...