标签：生产部署

2026-09-07andy阅读(63)

在大模型参数量从百亿向千亿乃至万亿规模演进的今天，传统的稠密（Dense）模型面临着训练成本指数级增长和推理延迟难以接受的困境。Mixture of Experts（MoE，混合专家模型）通过稀疏激活机制，让模型在保持总参数量巨大的同时，每...

2026-06-29andy阅读(284)

引言：从Demo到生产的鸿沟 2025到2026年，AI Agent从一个实验室概念迅速演变为企业级基础设施的核心组件。当无数技术团队兴奋地跑通了第一个”自动写邮件”的Demo后，等待他们的却是生产环境中的一连串&#...

2026-06-23andy阅读(262)

为什么生产环境需要 Qdrant：向量数据库的架构设计哲学 随着大语言模型（LLM）和检索增强生成（RAG）技术的广泛落地，向量数据库已经成为现代 AI 基础设施中不可或缺的一环。在众多向量数据库产品中，Qdrant 凭借其独特的 Rust...