标签：大模型推理

2026-10-18阅读(82)评论(0)

阿里云GPU云服务器如何部署vLLM？本文从模型显存估算、GPU实例选型开始，给出驱动检查、vLLM安装、OpenAI兼容API上线、安全配置与成本优化完整步骤。

2026-10-10andy阅读(110)

在大模型落地部署的环节中，推理框架的选择直接决定了服务的吞吐量、延迟、显存利用率和运维复杂度。当前主流的推理框架包括 vLLM、SGLang、TensorRT-LLM、TGI（Text Generation Inference）以及近两年崛...

2026-09-28andy阅读(281)

CUDA项目如何迁移到海光DCU？完整讲解ROCm/DTK环境配置、代码与算子适配、容器部署、性能验证及常见错误排查。

2026-09-03andy阅读(166)

在大模型落地应用的过程中，一个愈发普遍的需求是：同一个基座模型（如 LLaMA-3-70B），需要同时服务数千个不同的下游任务。每个任务有自己的微调权重——客服对话、代码补全、文档摘要、多语言翻译……如果为每个任务都部署一个独立模型副本，显...

2026-08-24andy阅读(303)

为什么 Prefix Caching 成为大模型推理的必备优化？ 在大模型推理服务的生产环境中，一个经常被忽视但影响巨大的现象是：大量请求共享相同的前缀。无论是系统提示词（System Prompt）、Few-shot 示例，还是多轮对话中...

2026-08-07andy阅读(275)

为什么 KV Cache 成了大模型推理的命门？ 在 Transformer 架构的大语言模型中，自回归生成（autoregressive generation）是推理阶段的核心模式——每生成一个新 token，模型都需要关注之前所有已生成...

2026-08-01andy阅读(290)

引言：Prefill 阶段的”独木桥”困境 在大模型推理的工程实践中，我们常常遇到这样一个矛盾场景：当请求队列中有一个长文本（比如 32K tokens 的法律文档）正在进行 Prefill 处理时，后面排队等候的短...

2026-07-27andy阅读(290)

引言：为什么 Batching 策略决定了推理服务的天花板 在大模型推理服务的工程实践中，有一个经常被低估却至关重要的设计决策：如何将并发的用户请求组织成批次（Batch）送入 GPU 执行。这个看似简单的调度问题，实际上直接决定了服务的吞...

2026-07-26andy阅读(836)

PD 分离部署是否值得做？本文拆解 Prefill/Decode 资源差异、KV Cache 传输、网络与调度瓶颈，并给出 vLLM、SGLang 的选型和部署方法。

2026-07-17andy阅读(582)

SGLang 和 vLLM 怎么选？从 PagedAttention、RadixAttention、调度、吞吐、显存、结构化输出和生产成熟度进行系统对比。