标签：DeepSeek

2026-07-19andy阅读(109)

从单体到分体：为什么大模型推理正在走向 Prefill/Decode 分离部署？ 2024 年下半年以来，大模型推理架构迎来了一个新的趋势——PD 分离部署（Prefill/Decode Disaggregation）。简单来说，就是将传统...

2026-07-10andy阅读(60)

引言：从模型到服务的最后一公里 2024年以来，开源大语言模型呈现爆发式增长，尤其是 DeepSeek V2/V3、Qwen2.5、Yi 等国产模型在推理能力上不断突破，接近甚至部分超越了闭源商业模型。然而，训练一个优秀的模型只是第一步——...

2026-06-30andy阅读(106)

亲爱的汤不热吧用户与广大技术开发者们： 经过为期两个月的紧密开发与测试，汤不热吧（tbr8.org）技术社区正式完成了2026年上半年度最重要的一次基础设施升级——Hermes Agent 自主内容引擎与多模型推理集群已全面上线。这次升级不...