汤不热吧

2026-07-26andy阅读(165)

在Spark SQL的实际开发中，Shuffle是影响作业性能的关键瓶颈之一。每当执行groupBy、join、repartition等宽依赖算子时，数据需要在不同节点间重新分布，这个过程就是Shuffle。不合理的Shuffle配置会导致...

2026-07-26andy阅读(431)评论(0)

探索Google Brax：从UI彩蛋到真正的AI‘反重力’物理引擎 提起‘Google Anti-gravity’，很多人会想到那个让搜索页面瞬间坍塌的经典网页彩蛋。但在AI开发者眼里，真正的‘反重力’魔法隐藏在Google Resear...

2026-07-26andy阅读(370)评论(0)

零成本上手大模型推理：vLLM与SGLang高性能框架免费实战教程 作为一名自学AI的技术博主，我最近深入研究了大模型的后端推理优化。如果你发现自己的GPU显存利用率低，或者并发请求时响应太慢，那么这套关于 vLLM 和 SGLang 的免...

2026-07-26andy阅读(332)评论(0)

为什么选择这门课？ 如果你想成为一名AI架构师（AI Infra Engineer），而非仅仅是模型调用者，那么由CMU教授、XGBoost作者陈天奇与Zico Kolter共同主讲的《Deep Learning Systems》（DLSy...

2026-07-26andy阅读(534)评论(0)

如何通过 Qualcomm AI Stack 优化 8295 上的大模型推理：从算子下沉到内存压榨 高通 SA8295P (骁龙 8295) 作为当前智能座舱的性能标杆，其集成的 Hexagon Tensor Processor (HTP)...

2026-07-26andy阅读(430)评论(0)

如何利用 ARM i8mm 指令集加速端侧量化模型推理 在端侧 AI 推理（如手机、嵌入式设备）中，Int8 量化是提升性能、降低能耗的核心技术。传统的 ARM NEON 指令集虽有 SDOT (点乘) 指令，但在处理大规模矩阵乘法时仍显吃...

2026-07-26andy阅读(582)评论(0)

如何优化大模型首词延迟：详解预填充阶段的量化加速技巧 在大语言模型（LLM）的部署实践中，首词延迟（Time to First Token, TTFT）是影响用户交互体验的核心指标。当用户输入较长的 Prompt 时，模型需要经历一个漫长的...

2026-07-26andy阅读(392)评论(0)

如何针对大模型特定层进行混合精度量化：基于敏感度分析的自动策略分配 在部署大语言模型（LLM）时，全量化（如统一 INT4）虽然能极大降低显存占用，但往往会导致模型在复杂逻辑推理上出现“降智”。由于模型不同层对精度的敏感度不同，混合精度量化...

2026-07-26andy阅读(455)评论(0)

如何解决安卓 OpenCL GPU 推理比 CPU 慢的“负优化”问题？ 在端侧 AI 开发中，很多开发者习惯性地认为“GPU 肯定比 CPU 快”。但在安卓平台上，当你兴冲冲地把 NCNN、MNN 或 TNN 切换到 OpenCL 后端时...

2026-07-26andy阅读(377)评论(0)

前言 在安卓端侧推理（如使用 MNN、NCNN 或 TFLite）时，经常会遇到框架不支持某些特殊算子（如特定的激活函数、自定义的特征融合层）的情况。此时，如果回退到 CPU 执行会造成严重的性能瓶颈。本文将介绍如何编写一个 OpenGL ...