标签：深度

2026-07-26andy阅读(801)评论(0)

在移动端 AI 推理领域，MNN（阿里巴巴）和 NCNN（腾讯）是两个最受欢迎的深度学习推理框架。它们的性能差异往往取决于底层的硬件加速能力和驱动适配情况，尤其是在面对高通（Qualcomm Adreno）和联发科（MediaTek Mal...

2026-03-23andy阅读(346)评论(0)

如何针对座舱红外摄像头模型优化夜间低光照环境下的算子精度 在智能座舱场景中，红外摄像头（IR）是实现疲劳驾驶监测（DMS）和乘客监测（OMS）的核心硬件。然而，夜间低光照环境下，IR图像往往存在高噪点、对比度低的问题。当模型从FP32量化为...

2026-03-17andy阅读(361)评论(0)

如何设计神经符号混合系统：利用逻辑规则弥补深度模型的鲁棒性缺陷 引言 深度学习模型（如 LLM、CNN）虽然在感知与生成任务上表现卓越，但在面对极端长尾场景时常会出现“幻觉”或违反常识的错误。这种缺乏确定性的表现是 AI 生产环境部署的最大...

2026-03-17andy阅读(379)评论(0)

如何使用FastAPI与Redis部署基于元数据的实时Deepfake检测服务 在生成式AI爆发的今天，单纯依靠模型推理来检测Deepfake（深度伪造）内容往往面临高延迟和高算力成本的问题。在工业界，一种更为高效且互补的方案是基于元数据的...

2026-03-06andy阅读(425)评论(0)

如何利用 sysdump 剖析 CPU 降频对端侧推理性能的致命影响 在移动端部署深度学习模型（如使用 ncnn, MNN 或 TFLite）时，开发者经常遇到一个诡异的问题：同样的模型，在实验室测试时推理耗时非常稳定（如 30ms），但集...

2026-02-23andy阅读(394)评论(0)

如何在昇腾（Ascend）平台上深度适配并优化 PyTorch 模型训练 随着国产算力的崛起，昇腾（Ascend）系列芯片已成为 AI 开发者的重要选择。很多开发者习惯了 NVIDIA + CUDA 的生态，初次接触昇腾的 CANN（Com...

2026-02-17andy阅读(422)评论(0)

深度学习模型在手机或嵌入式设备上运行时，性能优化不仅仅是为了追求速度，更关键的是控制功耗和散热。高计算负载会导致设备温度急剧上升，一旦达到系统设定的阈值，操作系统会强制降低CPU/GPU的工作频率（即热降频或Thermal Throttli...

2026-02-11andy阅读(411)评论(0)

为什么 Faiss 会 OOM 或崩溃？ 在生产环境中处理数千万乃至数十亿的向量时，Faiss 索引的内存消耗是一个核心挑战。导致服务器 OOM (Out of Memory) 或索引崩溃的主要原因通常有两个： 索引结构选择不当 (Inde...

2026-02-10andy阅读(707)评论(0)

引言：为什么需要 TrustZone 保护人脸识别？ 人脸识别（Face Recognition）技术已广泛应用于手机解锁、支付认证等场景。然而，用户的人脸模板数据是高度敏感的生物特征信息。如果这些模板存储在普通的操作系统（Normal W...

2026-02-08andy阅读(452)评论(0)

PyTorch 的 Autograd 机制是其核心竞争力之一。与 TensorFlow 1.x 等框架使用的静态图不同，PyTorch 采用动态计算图（Define-by-Run），这意味着计算图是在前向传播过程中即时构建的。而 backw...