深度学习

2026-02-28andy阅读(347)评论(0)

如何排查国产AI芯片环境下因算子精度差异导致的模型不收敛问题 在将深度学习模型（如ResNet、Transformer）从标准的PyTorch/TensorFlow环境迁移到国产NPU（如昇腾、寒武纪、昆仑芯等）时，开发者常遇到一个痛点：代...

2026-02-27andy阅读(376)评论(0)

如何构建标准的国产化算力容器镜像：详解底层硬件映射与二进制文件注入 在国产化 AI 浪潮中，昇腾 (Ascend)、寒武纪 (Cambricon)、海光 (DCU) 等硬件层出不穷。由于各家厂商的驱动模型与 CUDA 体系存在差异，开发者往...

2026-02-27andy阅读(392)评论(0)

如何通过内核版本匹配解决国产加速卡驱动导致的黑屏与系统死机 在适配国产加速卡（如昇腾、寒武纪、沐曦、摩尔线程等）时，最常见的“开门黑”就是驱动安装后重启出现黑屏、循环登录或内核崩溃（Kernel Panic）。这通常不是硬件故障，而是驱动模...

2026-02-27andy阅读(351)评论(0)

如何利用国产分布式框架实现跨异构芯片的混合调度 在国产化替代的大背景下，很多企业的数据中心不再是单一的架构，而是演变为一个包含华为昇腾（Ascend）、寒武纪（Cambricon）等多种国产AI芯片的异构算力池。如何打破厂商壁垒，在同一个集...

2026-02-26andy阅读(335)评论(0)

1. 背景：为什么相同的量化模型在不同芯片上精度不同？ 在国产化适配过程中，开发者常遇到一个困惑：在 PyTorch 下验证良好的 INT8 量化模型，部署到昇腾（Ascend）、寒武纪（Cambricon）或昆仑芯（KunlunCore）...

2026-02-26andy阅读(351)评论(0)

如何利用 MindSpore 算子下沉机制显著提升模型训练速度 在深度学习模型的训练过程中，Host（CPU）与 Device（如昇腾 NPU 或 GPU）之间的频繁通信往往是性能的绊脚石。国产 AI 框架 MindSpore 提供了一种强...

2026-02-26andy阅读(493)评论(0)

如何解决国产 AI 芯片下的集合通信瓶颈：深度对比 HCCL 与 NCCL 在 Ring AllReduce 上的差异 在分布式深度学习中，集合通信（Collective Communication）是决定训练效率的关键。在 NVIDIA ...

2026-02-25andy阅读(395)评论(0)

如何利用 MUSA 运行时的显存超发机制解决大模型推理中的显存不足问题 在国产 GPU 适配的过程中，显存不足（OOM, Out of Memory）是运行大规模语言模型（LLM）时最常见的痛点。摩尔线程（Moore Threads）的 M...

2026-02-25andy阅读(397)评论(0)

如何通过 MUSA 集群进行大模型分布式训练：详解多卡互联与带宽优化 随着国产算力的崛起，摩尔线程（Moore Threads）的 MUSA 架构已成为大模型训练的重要选择。在多卡集群环境下，如何充分利用 MT-Link 互联技术并优化通信...

2026-02-24andy阅读(550)评论(0)

1. 为什么大模型推理会受限于 HBM？ 在大模型（LLM）推理过程中，Transformer 架构中存在大量的逐元素（Element-wise）操作，如 Add、LayerNorm、Mul 和 Silu 等。在标准的执行流中，每个算子都需...