andy的文章

2026-07-26andy阅读(585)评论(0)

如何使用 CANN 插件在国产昇腾 NPU 上快速迁移并加速 PyTorch 模型 随着国产化算力需求的爆发，将现有的 AI 模型从 CUDA 环境迁移到国产昇腾（Ascend）平台已成为许多开发者的核心任务。得益于华为提供的 CANN（C...

2026-07-26andy阅读(320)评论(0)

在资源受限的端侧设备（如手机、IoT设备）上部署深度学习模型时，模型量化（通常是转换为INT8）是降低延迟和功耗的关键技术。然而，量化方案并非只有一种。本文将对比静态离线量化（Static Post-Training Quantizatio...

2026-07-26andy阅读(442)评论(0)

在大型语言模型（LLM）的推理过程中，通常分为两个关键阶段：Prefill（预填充/处理Prompt）阶段和Decode（解码/自回归生成）阶段。这两个阶段对硬件资源的需求截然不同，理解它们的瓶颈对于优化推理性能至关重要。 1. 概念定义：...

2026-07-26andy阅读(386)评论(0)

深入理解 Android NNAPI 的中间层调度机制 Android Neural Networks API (NNAPI) 是 Google 为 Android 设备提供的一套用于运行计算密集型机器学习模型的框架。它的核心价值在于提供了...

2026-07-26andy阅读(381)评论(0)

很多个人站长在使用VPS或公有云虚拟机部署网站时，经常遇到一个令人沮丧的问题：我在宝塔或其它控制面板里明明把 80 端口放行了，为什么网站还是打不开？ 答案是肯定的，你猜对了：服务商后台确实还有一层甚至多层防火墙！ 要解决80端口不通的问题...

2026-07-26andy阅读(577)评论(0)

在移动端 AI 推理领域，MNN（阿里巴巴）和 NCNN（腾讯）是两个最受欢迎的深度学习推理框架。它们的性能差异往往取决于底层的硬件加速能力和驱动适配情况，尤其是在面对高通（Qualcomm Adreno）和联发科（MediaTek Mal...

2026-07-26andy阅读(404)评论(0)

对于个人站长来说，如果不进行ICP备案，选择香港、东京或首尔的公有云虚拟机或VPS几乎是唯一的选择。这三个地区都提供了相对低延迟的服务，但哪里的IP最不容易被防火墙（GFW）针对或封锁呢？答案并非简单的地理位置决定，而是取决于您VPS的网络...

2026-07-26andy阅读(340)评论(0)

作为Elasticsearch（ES）的资深用户，我们深知数据的删除操作并非简单的“一删了之”。标准的物理删除操作会在ES内部留下“tombstone”（删除标记），这些标记只有在后续的段合并（Segment Merge）过程中才会被清理，...

2026-07-26andy阅读(401)评论(0)

在脱离了熟悉的 CUDA 生态后，针对华为昇腾（Ascend）硬件进行深度学习模型推理性能优化，是许多开发者需要面临的挑战。昇腾平台的核心是 CANN（Compute Architecture for Neural Networks）工具链...

2026-07-26andy阅读(335)评论(0)

在使用 TensorFlow (TF) 进行深度学习开发时，尤其是涉及到 GPU 资源管理时，许多开发者会遇到一个令人头疼的问题：TensorFlow 默认会在初始化时，预先分配几乎所有可用的 GPU 显存，即使模型非常小。这导致了显存资源...