标签：线程

2026-03-09andy阅读(38)评论(0)

如何通过 CPU 亲和性绑定控制推理线程：解决安卓系统大小核切换导致的性能波动 在移动端部署 AI 模型（如人脸识别、实时滤镜）时，开发者常遇到一个棘手现象：同一模型在同一台手机上，有时推理仅需 20ms，有时却突然跳到 100ms。这种性...

2026-03-05andy阅读(43)评论(0)

在移动端部署深度学习模型时，开发者常面临一个困境：简单的设置线程数为核心总数往往会导致严重的发热降频，而线程数太少又无法满足实时性需求。本文将深入解析如何在 ARM big.LITTLE 架构（如典型的 A76+A55 组合）下，通过合理的...

2026-02-25andy阅读(75)评论(0)

如何通过流水线排布优化摩尔线程 MT-S 系列显卡的 Transformer 算子性能 在国产 GPU 适配过程中，摩尔线程（Moore Threads）的 MUSA 架构表现出色。但要榨干其 MT-S 系列（如 MT-S80/MT-S30...

2026-02-25andy阅读(114)评论(0)

引言 随着国产 GPU 算力的快速发展，摩尔线程推出的 MUSA (Moore Threads Unified System Architecture) 架构因其对 CUDA 生态的高度兼容性，成为 AI 开发者实现国产化替代的首选路径之一...

2026-02-17andy阅读(114)评论(0)

在 Go 1.14 版本之前，Go 语言的调度器主要依赖于“协作式抢占”（Cooperative Preemption）。这意味着 Goroutine 只有在执行函数调用、系统调用或特定的运行时检查点时，才会主动或被动地交出控制权，让调度器...

2026-02-13andy阅读(84)评论(0)

Java 平台自诞生以来，其并发模型主要基于“平台线程”（Platform Threads），即操作系统线程的一对一映射。当并发量达到数万级别时，创建和管理这些重量级的操作系统线程会带来巨大的内存开销和上下文切换成本，严重限制了Java在高...

2026-02-12andy阅读(126)评论(0)

作为Java并发编程的利器，CompletableFuture 极大地简化了异步任务的编排。然而，许多开发者在使用自定义线程池进行任务切换时，会遭遇一个隐蔽的陷阱：异步任务突然变得阻塞，甚至导致整个系统性能下降。 这个陷阱的核心在于对 Co...

2026-02-04andy阅读(106)评论(0)

Faiss (Facebook AI Similarity Search) 是一个高效的向量相似度搜索库。然而，在将其部署到需要高并发查询的环境（例如 Web 服务）时，如果简单地使用 Python 的多线程，很快就会遇到性能急剧下降甚至不...

2026-02-02andy阅读(146)评论(0)

在高性能的并发编程中，控制任务的执行时间和优雅地管理资源至关重要。Python 的 concurrent.futures 模块提供了一个高级接口来异步执行可调用对象，它内置了对任务超时和资源释放的支持。 本文将详细介绍如何使用 Thread...

2026-01-15andy阅读(146)评论(0)

作为站长，我们常常在公有云虚拟机或 VPS 上部署基于 Java 的 Web 应用（如 Spring Boot, Tomcat）。在高并发环境下，如果不对共享变量进行适当处理，极易发生“脏读”或“数据不可见”的问题。这不仅会导致用户体验下降...