andy的文章

2026-02-15andy阅读(138)评论(0)

如何使用TFX Data Validation (TFDV)确保AI训练管道的数据质量和一致性 在MLOps实践中，模型性能的衰退往往不是因为模型算法本身，而是因为数据质量或分布发生变化（数据漂移或模式偏差）。“脏数据”进入训练管道是致命的...

2026-02-15andy阅读(191)评论(0)

详解 Git 提交规范：如何利用 Conventional Commits 构建自动化的版本发布日志 Git 提交规范是现代软件开发中不可或缺的一环。一个清晰、一致的提交历史不仅能帮助团队成员快速理解变更内容，更是实现自动化版本发布和生成 ...

2026-02-15andy阅读(117)评论(0)

在 AI 模型部署到端侧设备或采用异构 CPU 架构（如 ARM big.LITTLE 或 Intel P/E 核设计）的服务器时，我们经常面临一个挑战：推理延迟（Latency）的抖动（Jitter）过大，导致 P99 延迟性能不佳。这是...

2026-02-15andy阅读(140)评论(0)

在 Android 端侧推理项目中，我们通常需要集成各种高性能计算库（如 TNN, MNN, NCNN 或 TensorFlow Lite的自定义 Delegate），这些库都以 .so 动态链接库的形式提供。管理这些 .so 文件面临两大...

2026-02-15andy阅读(138)评论(0)

在移动端进行AI推理时，显存（通常是共享内存DRAM或专用的VRAM）往往是瓶颈。对于参数量较大的模型（如轻量级LLM或大型CV模型），其激活值和中间计算结果可能会瞬间占用数百兆甚至超过1GB的内存。本文将聚焦于推理引擎中最关键的优化技术之...

2026-02-15andy阅读(176)评论(0)

vLLM（Virtual Large Language Model）框架凭借其创新的内存管理技术 PagedAttention，极大地提升了LLM推理的吞吐量和效率。PagedAttention借鉴了传统操作系统中的虚拟内存和分页思想，核心...

2026-02-15andy阅读(150)评论(0)

对于个人站长来说，当旧的VPS或虚拟机性能不足，需要将网站（尤其是包含数百GB附件、媒体文件或备份）迁移到新的高性能机器时，如何快速、不中断地传输海量数据是一个关键挑战。传统的FTP或SCP传输效率低下且容易断线。 我们将使用行业标准的命令...

2026-02-15andy阅读(151)评论(0)

ISO 21434 是汽车网络安全管理体系的核心标准。其中，威胁分析和风险评估（TARA）是识别并应对系统安全风险的关键步骤。对于功能日益复杂的汽车座舱（Cockpit Domain Controller, Infotainment Hea...

2026-02-15andy阅读(174)评论(0)

在现代 AI 项目中，数据和模型的规模正迅速膨胀至 TB 甚至 PB 级别。传统的版本控制系统（如 Git）专为源代码设计，无法有效处理如此庞大的二进制文件。将大型文件直接提交到 Git 仓库会导致仓库膨胀、克隆缓慢，并很快触及存储限制。 ...

2026-02-15andy阅读(180)评论(0)

Java 的注解处理器（Annotation Processor，基于 JSR 269 标准）是编译期代码生成和分析的强大工具。它允许我们在代码编译阶段读取自定义注解，并根据这些注解动态创建新的 Java 源文件，从而彻底消除大量重复的样板...