标签：cuda

2026-08-20andy阅读(160)

为什么需要自定义算子？ 在深度学习的工程实践中，TensorFlow 提供了数百个内置算子（Operator），覆盖了从基础矩阵运算到复杂卷积、注意力机制的绝大多数场景。然而，当你的模型需要特殊的数学变换、与硬件深度绑定的优化逻辑，或者 T...

2026-07-26andy阅读(678)评论(0)

在脱离了熟悉的 CUDA 生态后，针对华为昇腾（Ascend）硬件进行深度学习模型推理性能优化，是许多开发者需要面临的挑战。昇腾平台的核心是 CANN（Compute Architecture for Neural Networks）工具链...

2026-07-26andy阅读(909)评论(0)

如何解决 PyTorch 模型迁移至昇腾 NPU 时的算子性能瓶颈与精度漂移 在国产化替代的浪潮中，将深度学习模型从 CUDA 环境迁移到华为昇腾（Ascend）CANN 平台，绝非简单的 device=’cuda’...

2026-07-26andy阅读(949)评论(0)

如何利用华为迁移工具自动化实现 CUDA 到 CANN 的算子代码映射 随着国产算力加速卡的应用普及，将原本运行在 NVIDIA GPU 上的 CUDA 算子迁移到华为昇腾 Ascend NPU 环境已成为开发者的核心痛点。本文将详解如何利...

2026-07-26andy阅读(1243)评论(0)

现有 CUDA 项目如何迁移到摩尔线程 MUSA？本文覆盖环境搭建、PyTorch 代码迁移、自定义 CUDA 算子适配及性能验证。

2026-04-11andy阅读(602)评论(0)

为什么AI开发者必须了解CUDA？ 在大模型时代，仅仅会调用 API 或编写 Python 代码已经不够了。为了追求极致的推理速度和训练效率，深入底层了解 CUDA (Compute Unified Device Architecture)...

2026-02-16andy阅读(502)评论(0)

在高性能计算和深度学习领域，NVIDIA的Triton编译器正逐渐成为编写高性能GPU内核（尤其针对矩阵乘法等张量操作）的首选工具。一个常被问到的面试问题是：为什么一个编译器生成的代码，在某些场景下，能够反超由经验丰富的专家手动编写、并经过...

2026-02-16andy阅读(447)评论(0)

Warp Divergence（线程束分化）是CUDA编程中一个极其重要的概念，它直接关系到核函数（Kernel）的执行效率。对于追求极致性能的高性能算子来说，理解并消除Warp Divergence是提升速度的关键。 1. 什么是Warp...

2026-02-12andy阅读(491)评论(0)

在高性能计算和深度学习推理领域，我们经常遇到这样的瓶颈：模型计算量不大，但由于由大量细小、串联的计算操作（Kernel）组成，导致整体性能不佳。瓶颈不在于GPU的计算能力（SMs），而在于CPU与驱动层（Driver）频繁通信以发射（Lau...

2026-02-02andy阅读(726)评论(0)

在 AI 推理加速领域，人们通常关注 FLOPS 或计算密度，但对于延迟敏感的场景（尤其是使用小型模型或具有许多顺序层的大型模型），CPU 发射（Kernel Launch）开销往往会成为主要的性能瓶颈。每次 PyTorch 调用 GPU ...