标签：共享

2026-03-12andy阅读(20)评论(0)

如何解决安卓多模型部署时的显存瓶颈：详解权重复用与Backbone共享技巧 在安卓移动端部署 AI 能力时，开发者常面临「内存焦虑」。当你需要在一个 App 中同时运行人脸检测、五官定位和属性识别时，如果每个模型都包含独立的骨干网络（Bac...

2026-03-06andy阅读(50)评论(0)

如何通过共享内存实现多进程模型权重共享：大幅降低 App 内存占用 在端侧推理或高并发 Web 服务场景中，为了提升吞吐量，我们常会启动多个进程并行处理推理请求。然而，如果每个进程都独立加载一份模型（例如一个 2GB 的 BERT 模型），...

2026-02-11andy阅读(98)评论(0)

什么是伪共享（False Sharing）？ 在高性能并发编程中，我们经常追求最小化锁的竞争，但即使我们避免了锁，也可能遇到一个棘手的性能瓶颈：伪共享（False Sharing）。 伪共享是由于CPU缓存机制引起的现象。现代CPU有多级缓...

2026-02-01andy阅读(112)评论(0)

在Python中，当我们使用multiprocessing模块实现并发时，与多线程（threading）不同，子进程拥有独立的内存空间。这意味着父进程中定义的普通变量（如列表、字典、普通对象实例）不会自动且安全地在子进程间共享。如果尝试直接...

2025-12-21andy阅读(156)评论(0)

很多个人站长在使用 VPS 或公有云虚拟机时，都会遇到一个令人困惑的问题：服务商宣传机器拥有“100Mbps 端口”或“峰值 100M 带宽”，但实际使用下载或上传速度却远低于预期，比如只有 20Mbps。这并非主机商在故意欺骗，而是因为你...