andy的文章

2026-03-10andy阅读(34)评论(0)

如何优化 Android 端 AI 模块启动：详解动态库的延迟加载策略 在 Android 端集成 NCNN、MNN 或 TensorFlow Lite 等 AI 框架时，开发者常面临一个难题：这些框架生成的 .so 动态链接库通常很大（往...

2026-03-10andy阅读(31)评论(0)

如何利用 RenderScript 实现 Android 高性能图像预处理 在移动端 AI 推理（如使用 TensorFlow Lite 或 MNN）的过程中，图像预处理（缩放、归一化、色域转换）往往会成为整体耗时的瓶颈。虽然 Google...

2026-03-10andy阅读(32)评论(0)

为什么选择 FP16？ 在移动端 AI 推理中，内存带宽和功耗通常是最大的性能瓶颈。相比传统的 FP32（单精度浮点），FP16（半精度浮点）不仅能减少 50% 的模型内存占用和带宽需求，还能在支持 ARMv8.2-A 指令集的 CPU 上...

2026-03-10andy阅读(35)评论(0)

在机器学习工程化（MLOps）中，CI/CD 不仅仅涉及代码的构建与部署。一个完整的 AI 流水线必须包含三个核心维度的验证：代码逻辑、数据质量和模型性能。这种三位一体的测试方法能够有效防止因数据漂移或训练回归导致的生产事故。 1. 代码层...

2026-03-09andy阅读(40)评论(0)

如何通过 CPU 亲和性绑定控制推理线程：解决安卓系统大小核切换导致的性能波动 在移动端部署 AI 模型（如人脸识别、实时滤镜）时，开发者常遇到一个棘手现象：同一模型在同一台手机上，有时推理仅需 20ms，有时却突然跳到 100ms。这种性...

2026-03-09andy阅读(36)评论(0)

如何利用 MLflow 构建模型资产管理系统：实现从版本控制到平滑退役的全生命周期管理 在 AI 基础设施建设中，模型不仅仅是代码和权重的集合，更是核心资产。随着模型迭代速度的加快，如何有效地追踪不同版本的模型、管理其在开发/生产环境中的状...

2026-03-09andy阅读(33)评论(0)

如何理解 Android NNAPI 的算子分发逻辑：从底层架构到实战调用 Android NNAPI (Neural Networks API) 是 Android 系统中专门为机器学习推理设计的 C API。它不直接运行模型，而是作为“...

2026-03-09andy阅读(36)评论(0)

背景：为什么 AI 推理需要 TEE？ 在端侧 AI 场景中，模型权重和用户隐私数据（如人脸特征、生物信息）通常是最高级别的核心资产。传统的推理过程在 CPU 或 GPU 的通用内存中进行，极易受到 Root 提权攻击或恶意内存扫描。TEE...

2026-03-09andy阅读(42)评论(0)

如何利用计算图切分实现可信环境（TEE）与非安全环境（REE）协同推理 在端侧AI应用中，保护模型权重或用户隐私数据至关重要。传统的全加密推理（如全同态加密）性能极差，而“计算图切分”技术提供了一种实用的平衡方案：将涉及敏感隐私的计算环节（...

2026-03-09andy阅读(42)评论(0)

如何通过自动化指标监控系统精准量化 MLOps 的实施效益 在企业推进 AI 产业化的过程中，“MLOps 到底带来了多少价值”往往是管理层关注的核心问题。单纯的技术感悟不足以支撑预算申请，我们需要一套量化的评估体系。本文将借鉴 DevOp...