Android 平台 NDK 调试实录:如何利用 ASan 与 HWAsan 精准定位推理引擎的内存损坏
如何利用 ASan 与 HWAsan 精准定位 Android 端侧推理引擎的内存损坏 在开发基于 ncnn、MNN 或 TFLite 等框架的 Android 端侧推理引擎时,由于涉及大量 C++ 原始指针操作、高性能内存池管理以及复杂的...
如何利用 ASan 与 HWAsan 精准定位 Android 端侧推理引擎的内存损坏 在开发基于 ncnn、MNN 或 TFLite 等框架的 Android 端侧推理引擎时,由于涉及大量 C++ 原始指针操作、高性能内存池管理以及复杂的...
如何通过系统底层指令精准监控国产AI芯片的算力能效比 在智算中心和国产化替代的趋势下,针对国产AI芯片(如华为昇腾、寒武纪、元枢等)的精细化监控变得至关重要。本文将以昇腾(Ascend)系列芯片为例,重点讲解如何通过底层指令获取实时功耗与算...
在处理AI/ML训练、高性能计算(HPC)等场景时,我们经常需要确保特定的工作负载只能运行在具备特定硬件(如GPU、高性能SSD或特殊网络接口)的机器上。Kubernetes的节点亲和性(Node Affinity)就是解决这一问题的核心机...