andy的文章

2026-02-26andy阅读(357)评论(0)

如何利用 MindSpore 算子下沉机制显著提升模型训练速度 在深度学习模型的训练过程中，Host（CPU）与 Device（如昇腾 NPU 或 GPU）之间的频繁通信往往是性能的绊脚石。国产 AI 框架 MindSpore 提供了一种强...

2026-02-26andy阅读(322)评论(0)

在 Go 语言开发中，反射（reflect）是一把双刃剑。它提供了强大的运行时动态处理能力，但同时也带来了显著的性能开销。本文将从 reflect.Type 与 reflect.Value 的底层实现入手，分析性能瓶颈并给出实战调优方案。 ...

2026-02-26andy阅读(395)评论(0)

如何理解 Go 语言泛型：详解单态化与字典查找的性能权衡 Go 1.18 引入泛型后，开发者在享受代码复用便利的同时，也对其底层实现产生的性能影响感到好奇。Go 并没有盲目追随 C++ 的完全单态化，也没有像 Java 那样通过类型擦除导致...

2026-02-25andy阅读(416)评论(0)

如何利用 MUSA 运行时的显存超发机制解决大模型推理中的显存不足问题 在国产 GPU 适配的过程中，显存不足（OOM, Out of Memory）是运行大规模语言模型（LLM）时最常见的痛点。摩尔线程（Moore Threads）的 M...

2026-02-25andy阅读(357)评论(0)

如何构建高效的CI/CD/CT自动化流水线：实现AI模型的持续训练与自动部署 在传统的软件开发中，CI/CD（持续集成/持续部署）已经成为了行业标准。然而，在AI/ML领域，由于数据分布会随时间发生偏移（Data Drift），仅仅依靠软件...

2026-02-25andy阅读(404)评论(0)

如何通过 MUSA 集群进行大模型分布式训练：详解多卡互联与带宽优化 随着国产算力的崛起，摩尔线程（Moore Threads）的 MUSA 架构已成为大模型训练的重要选择。在多卡集群环境下，如何充分利用 MT-Link 互联技术并优化通信...

2026-02-25andy阅读(289)评论(0)

如何彻底解决AI模型训练的不确定性：从随机种子到环境依赖的全路径管理 在AI基础设施管理中，最令工程师头疼的问题莫过于“在我本地运行正常，但在生产服务器上效果下降”或“同样的参数跑两次，结果完全不同”。这种不确定性通常源于随机化管理不善和环...

2026-02-25andy阅读(303)评论(0)

如何使用 unsafe.Pointer 与 uintptr 在 Go 中实现黑盒内存地址操作 Go 语言通过强类型系统保证了内存安全，但在某些底层开发场景（如系统调用、自定义序列化或极端的性能优化）中，我们需要像 C 语言一样直接操控内存。...

2026-02-25andy阅读(315)评论(0)

如何通过内存对齐 Padding 提升 Go 结构体在 CPU 缓存行中的访问性能 在现代多核 CPU 架构中，内存访问的最小单位并非单个字节，而是被称为缓存行（Cache Line）的数据块，通常为 64 字节。当多个线程（或 Gorou...

2026-02-24andy阅读(313)评论(0)

如何通过 Kubeflow Pipelines 深入解耦并并行化 AI 训练流水线 在现代 AI 生产环境中，单一的巨型脚本（Monolithic script）已成为迭代效率的杀手。通过将 AI 流程分解为有向无环图（DAG），我们可以实...