标签：LLM部署

2026-07-06andy阅读(69)

引言：为什么模型量化成为大模型落地的关键瓶颈 2024年以来，大语言模型（LLM）的参数规模竞赛已经进入一个微妙阶段——模型能力在持续提升，但部署成本成为了横亘在大多数企业与开发者面前的现实障碍。以Llama 3.1 70B为例，其FP16...

2026-07-02andy阅读(66)

引言：大模型推理的瓶颈与vLLM的诞生 随着大语言模型（LLM）参数规模从数十亿飙升到数千亿，推理部署成为制约落地的核心瓶颈。传统的推理框架（如 Hugging Face Transformers 的 naive 实现）在推理时面临两大痛点...