汤不热吧
Speculative Decoding（推测解码）深度解析：用「以小博大」的思路破解大模型推理延迟瓶颈
引言：大模型推理的”慢”到底慢在哪里？ 如果你在生产环境中部署过 GPT 级别的自回归语言模型，一定对 Token 生成速度之慢感同身受：即使在 A100/H100 这类顶级 GPU 上，大模型的 Decode 阶段...
andy的文章
第19页
Nginx 性能调优与安全加固完全指南：让你的 VPS 承载更高并发
Nginx 是目前最流行的 Web 服务器和反向代理软件之一，全球超过三分之一的网站都在使用它。很多站长买了 VPS 之后，只是简单地用宝塔或者 OnePanel 一键安装 Nginx，然后直接上线网站，从来不去调整默认参数。殊不知，Ngi...
PyTorch 2.0 torch.compile 深度解析：从原理到生产部署的完整指南
引言：为什么 torch.compile 改变了 PyTorch 的游戏规则 2023 年 PyTorch 2.0 的发布标志着 PyTorch 生态的一个重大转折点。其中最核心的新特性—— 1torch.compile ——被 PyTor...
LLM推理优化实战：从KV-Cache到Continuous Batching的技术演进与代码实现
引言：为什么LLM推理优化如此重要？ 随着大语言模型（LLM）的广泛应用，从ChatGPT到开源模型的遍地开花，LLM的推理效率已成为制约AI落地的关键瓶颈。训练好一个模型只是第一步，如何让它在生产环境中以低成本、低延迟运行，才是真正的挑战...
PHP 异步编程实战：从 Swoole 到 Fiber 的演进与最佳实践
PHP 异步编程实战：从 Swoole 到 Fiber 的演进与最佳实践 长期以来，PHP 被开发者诟病为”同步阻塞”的语言——每个请求从开始到结束，进程被完整占用，无法并发处理 I/O 操作。但这一局面在过去几年发...
Chrome插件Manifest V3完全开发指南：从架构到实战发布
引言：为什么现在要学Chrome插件开发？ Chrome浏览器插件（Chrome Extensions）是提升浏览器功能、定制Web体验的利器。2024年Google全面强制迁移至Manifest V3，废弃了MV2的background ...
Google Breakpad实战指南：从跨平台集成到搭建私有崩溃收集服务器
为什么需要Google Breakpad？ 在C/C++应用程序的开发过程中，程序崩溃（Crash）是最令开发者头疼的问题之一。与Java、Python等拥有完善异常栈信息的语言不同，C/C++程序在崩溃后往往只留下一个神秘的core du...
2026年中盘点：汤不热吧技术社区发展报告与下半年规划
2026年已经过半，汤不热吧（tbr8.org）在技术内容创作和社区建设方面取得了显著进展。本文将回顾上半年的重点成果，分享社区数据，并公布下半年的内容规划和功能升级计划。 上半年内容成果回顾 2026年上半年，汤不热吧持续聚焦于人工智能、...
MySQL EXPLAIN执行计划深度解读与慢查询优化实战指南
在日常的MySQL数据库运维和开发中，慢查询是最常见的性能瓶颈之一。一条没有优化的SQL语句可能在数据量小时表现良好，但随着数据增长到百万甚至千万级别，查询耗时可能从毫秒级飙升到秒级甚至分钟级。本文将从EXPLAIN执行计划的深度解读入手，...
C++内存管理深度指南：RAII、智能指针与自定义分配器
在现代C++开发中，内存管理始终是核心话题之一。从早期的手动malloc/free到C++11引入的智能指针体系，再到C++20的内存资源（std::pmr），语言层面的内存管理能力不断进化。本文将深入探讨C++内存管理的最佳实践，涵盖RA...