andy的文章

2026-02-15andy阅读(28)评论(0)

很多站长刚启动新的VPS或虚拟机实例，几分钟内就会发现SSH日志中充满了来自世界各地的爆破尝试。虽然修改默认端口（22）能减少一部分骚扰，但这只是“安全靠模糊”（Security by Obscurity）。想要一劳永逸地解决SSH爆破，我...

2026-02-15andy阅读(35)评论(0)

OTA（Over-The-Air）固件升级是嵌入式设备生命周期管理的核心。然而，便捷性也带来了巨大的安全风险。如果攻击者能够植入伪造的、包含后门的固件，设备的完整性将荡然无存。确保OTA升级的安全性，就像给固件加了一道“生死线”，核心在于两...

2026-02-15andy阅读(37)评论(0)

移动端AI应用面临一个常见的挑战：模型迭代速度远快于App发版周期。每次微小的模型优化都需要用户下载新的App包，这极大降低了模型部署的效率和灵活性。本文将详细介绍如何在Android和iOS设备上，通过模型热更新机制，实现在不重新发布Ap...

2026-02-15andy阅读(32)评论(0)

作为架构师，支撑百万级的并发长文本（如大模型推理）请求，同时保证低延时，是一个极具挑战性的任务。长文本推理的挑战在于：推理时间长（Token生成速度慢），且显存消耗大（KV Cache占用）。纯粹的增加服务器并不能解决根本问题，我们需要一套...

2026-02-15andy阅读(37)评论(0)

如何使用TFX Data Validation (TFDV)确保AI训练管道的数据质量和一致性 在MLOps实践中，模型性能的衰退往往不是因为模型算法本身，而是因为数据质量或分布发生变化（数据漂移或模式偏差）。“脏数据”进入训练管道是致命的...

2026-02-15andy阅读(46)评论(0)

详解 Git 提交规范：如何利用 Conventional Commits 构建自动化的版本发布日志 Git 提交规范是现代软件开发中不可或缺的一环。一个清晰、一致的提交历史不仅能帮助团队成员快速理解变更内容，更是实现自动化版本发布和生成 ...

2026-02-15andy阅读(30)评论(0)

在 AI 模型部署到端侧设备或采用异构 CPU 架构（如 ARM big.LITTLE 或 Intel P/E 核设计）的服务器时，我们经常面临一个挑战：推理延迟（Latency）的抖动（Jitter）过大，导致 P99 延迟性能不佳。这是...

2026-02-15andy阅读(32)评论(0)

在 Android 端侧推理项目中，我们通常需要集成各种高性能计算库（如 TNN, MNN, NCNN 或 TensorFlow Lite的自定义 Delegate），这些库都以 .so 动态链接库的形式提供。管理这些 .so 文件面临两大...

2026-02-15andy阅读(34)评论(0)

在移动端进行AI推理时，显存（通常是共享内存DRAM或专用的VRAM）往往是瓶颈。对于参数量较大的模型（如轻量级LLM或大型CV模型），其激活值和中间计算结果可能会瞬间占用数百兆甚至超过1GB的内存。本文将聚焦于推理引擎中最关键的优化技术之...

2026-02-15andy阅读(70)评论(0)

vLLM（Virtual Large Language Model）框架凭借其创新的内存管理技术 PagedAttention，极大地提升了LLM推理的吞吐量和效率。PagedAttention借鉴了传统操作系统中的虚拟内存和分页思想，核心...