标签：离线

2026-02-21andy阅读(42)评论(0)

如何解决在线和离线特征计算中的一致性与漂移问题 在机器学习系统中，训练-预测偏差（Training-Serving Skew） 是最令人头疼的问题之一。其核心矛盾在于：离线训练时我们使用基于批处理（Batch）的 SQL 或 Spark 逻...

2026-02-17andy阅读(54)评论(0)

在部署深度学习模型，尤其是在边缘设备或对实时性要求极高的服务器上时，用户经常会抱怨模型第一次执行的延迟特别高。这个延迟通常不是模型本身的推理时间，而是由首次执行的初始化开销所导致，包括JIT编译、显存分配、驱动程序加载以及计算内核（Kern...

2026-02-15andy阅读(42)评论(0)

在资源受限的端侧设备（如手机、IoT设备）上部署深度学习模型时，模型量化（通常是转换为INT8）是降低延迟和功耗的关键技术。然而，量化方案并非只有一种。本文将对比静态离线量化（Static Post-Training Quantizatio...

2026-01-31andy阅读(77)评论(0)

在现代智能座舱中，语音交互的体验直接决定了用户的满意度。传统的云端 ASR（自动语音识别）虽然识别精度高，但其固有的网络传输和全句等待时间，使得端到端延迟通常在数百毫秒甚至秒级，难以满足实时交互对“零延迟”的严苛要求。 本文将聚焦如何结合离...

2025-11-15andy阅读(309)评论(0)

引言：为什么特征一致性是AI部署的关键瓶颈？ 特征平台（Feature Store）是现代机器学习管道的核心组件，它旨在标准化特征的创建、存储和提供。然而，在模型部署过程中，最大的挑战之一是“训练/服务偏差”（Training/Servin...