标签：耗时

2026-03-13andy阅读(295)评论(0)

在移动端部署深度学习模型（如使用 MNN、NCNN 或 TFLite）时，开发者常遇到这样的困境：模型刚启动时推理飞快，但持续运行几分钟后，帧率骤降。这通常是由于安卓系统的温控系统（Thermal Service）为了保护硬件，强制降低了 ...

2026-02-17andy阅读(279)评论(0)

随着汽车智能化进程的加速，国产化NPU（神经网络处理器）在车载平台中扮演着越来越重要的角色。然而，许多新兴的国产NPU平台在提供模型部署SDK时，往往缺乏成熟的、细粒度的性能分析工具（Profiler）。当遇到模型推理延迟过高，特别是当延迟...

2026-02-17andy阅读(306)评论(0)

在 Go 语言的并发模型中，goroutine 的调度是自动且高效的。然而，当遇到极端 CPU 密集型（CPU-bound）任务，并且这些任务在执行过程中从不进行系统调用、网络I/O或锁操作时，可能会导致一个问题：调度器饥饿（Schedul...

2026-02-01andy阅读(625)评论(0)

在处理大规模向量搜索时，我们通常需要在搜索速度（延迟）和搜索准确性（召回率）之间做出权衡。Faiss 的 IVF（Inverted File Index）系列索引是实现高性能搜索的关键工具，而 nprobe 参数则是控制这种权衡的核心。 本...