标签：显存

2026-01-29andy阅读(108)评论(0)

在深度学习模型的训练和推理过程中，尤其是在使用PyTorch时，我们经常会遇到一个棘手的问题：明明通过 nvidia-smi 看到显存（GPU Memory）还有剩余，但在尝试分配新的大张量时却报出了 OOM（Out of Memory）错...

2026-01-29andy阅读(66)评论(0)

许多AI开发者在使用PyTorch进行训练或推理时，经常会遇到一个困惑：当我使用del删除张量后，或者模型明明只占用了几个GB的显存，但通过nvidia-smi查看时，GPU的显存占用率仍然居高不下。本文将深入解析PyTorch的显存分配机...

2026-01-06andy阅读(99)评论(0)

引言：为什么传统部署方法无法应对LLM的流量高峰？ 大型语言模型（LLM）的部署面临两大核心挑战：低延迟（用户响应时间）和高吞吐量（每秒处理的总请求数）。传统的推理框架，如基于标准的Hugging Face Transformers，在处理...

2025-12-24andy阅读(115)评论(0)

在训练或部署超大规模AI模型（如千亿参数LLM）时，GPU显存（VRAM）是最大的瓶颈。尽管单卡显存容量不断提升，但模型增长速度更快。解决这一问题的核心技术思路是实现“分级存储”（Memory Tiering），将高频访问的“热数据”驻留在...

2025-12-02andy阅读(182)评论(0)

引言：AIGC训练中的“内存墙”挑战 Stable Diffusion（SD）这类大型生成模型，尤其是在高分辨率图像（例如512×512或更高）上进行微调或预训练时，对GPU显存（VRAM）的需求极其苛刻。对于拥有80GB显存的N...