深度学习

2026-07-05andy阅读(336)评论(0)

如何利用 GPTQ 与 AWQ 算法实现 LLM 4-bit 量化：原理剖析与端侧适配指南 大语言模型（LLM）如 Llama 3、Qwen 等动辄数十亿的参数量，让移动端和边缘侧部署面临巨大的显存挑战。4-bit 量化技术通过将模型权重从...

2026-07-05andy阅读(388)评论(0)

如何通过流水线排布优化摩尔线程 MT-S 系列显卡的 Transformer 算子性能 在国产 GPU 适配过程中，摩尔线程（Moore Threads）的 MUSA 架构表现出色。但要榨干其 MT-S 系列（如 MT-S80/MT-S30...

2026-07-05andy阅读(368)评论(0)

如何实现 AI 模型权重的端到端加密部署：从服务器下发到 TEE 内部解密的完整链路 在 AI 模型商业化落地中，模型权重是核心资产。如果模型直接以 .onnx 或 .tflite 明文形式存储在终端磁盘，极易被破解者直接“拖库”。本文将介...

2026-07-03andy阅读(67)

为什么需要关注数据管线性能 在深度学习项目中，很多人把精力花在模型架构设计和超参数调优上，却忽视了数据加载管线的优化。实际上，当 GPU 利用率长期低于 70% 时，模型训练时间可能因为数据管线的瓶颈而被拉长 2-3 倍。TensorFlo...

2026-07-02andy阅读(76)

引言：大模型推理的瓶颈与vLLM的诞生 随着大语言模型（LLM）参数规模从数十亿飙升到数千亿，推理部署成为制约落地的核心瓶颈。传统的推理框架（如 Hugging Face Transformers 的 naive 实现）在推理时面临两大痛点...

2026-06-28andy阅读(95)

引言：为什么需要模型量化 在深度学习模型从研发走向生产的过程中，模型量化（Model Quantization）是一个绕不开的关键环节。随着Transformer、LLM等大模型规模的不断增长，模型的存储体积、推理速度和能耗成为制约落地的核...

2026-06-27andy阅读(80)

在过去的几年中，Transformer 架构已经成为深度学习领域最核心的基石，从 NLP 到 CV 再到多模态大模型，几乎无处不在。而注意力机制（Attention）作为 Transformer 的核心组件，其计算复杂度随序列长度呈二次增长...

2026-06-24andy阅读(118)

引言：为什么需要分布式训练？ 随着深度学习模型的规模不断增长，单张GPU卡已经难以满足大多数实际生产场景的训练需求。从BERT（3.4亿参数）到GPT-3（1750亿参数），再到LLaMA系列和最近流行的DeepSeek、Qwen等大语言模...

2026-06-20andy阅读(108)

在TensorFlow 2.x中，Keras提供了高层的 1model.fit() 接口，大多数场景下使用起来非常方便。但当我们需要更精细地控制训练过程时——比如实现梯度裁剪、多优化器交替更新、对抗训练（GAN）或者自定义学习率调度——就需...

2026-06-20andy阅读(82)

在深度学习模型训练中，batch size 的选择直接影响模型的收敛速度和最终精度。研究表明，较大的 batch size 能让梯度估计更加稳定，有助于模型跳出局部最优，同时充分利用 GPU 的并行计算能力。然而，受限于显存容量，很多开发者...