一道算力估算题:已知 A100 的内存带宽与算力,请计算矩阵乘法(GEMM)在何种规模下会达到算力峰值?
在高性能计算(HPC)领域,理解何时工作负载受限于计算能力(Compute Bound)或内存带宽(Memory Bound)至关重要。这通常通过“屋顶线模型”(Roofline Model)来分析。 对于矩阵乘法(GEMM)任务,我们希望...
在高性能计算(HPC)领域,理解何时工作负载受限于计算能力(Compute Bound)或内存带宽(Memory Bound)至关重要。这通常通过“屋顶线模型”(Roofline Model)来分析。 对于矩阵乘法(GEMM)任务,我们希望...