标签：场景

2026-02-21andy阅读(8)评论(0)

如何处理 GPU 的 ECC 可修正错误：立即下线还是坚持到训练结束？ 背景 在深度学习集群中，GPU 显存错误（ECC Error）是运维和算法工程师经常面临的难题。当系统报出“可修正错误”（Correctable Error）时，你的训...

2026-02-10andy阅读(45)评论(0)

引言：为什么我们需要轻量化 Kubernetes？ 传统的 Kubernetes（K8s）是一个强大但资源密集型的容器编排系统。在数据中心，充足的硬件资源不成问题。但在边缘计算、IoT 设备、小型分支机构或资源受限的开发环境，运行完整的 K...

2026-02-09andy阅读(48)评论(0)

在构建大规模向量搜索系统时，我们经常面临“非对称搜索”场景：查询向量（Query Vector）通常保持高精度（浮点型），而数据库中的索引向量（Database Vector）为了节省存储和提高I/O效率，会使用量化压缩技术（如Produc...

2026-02-02andy阅读(68)评论(0)

Kubernetes Service 是将一组 Pod 抽象化并提供稳定网络访问点的核心资源。了解不同的 Service 类型及其用途，对于正确设计 K8s 集群的通信架构至关重要。本文将聚焦三种最常见的 Service 类型：Cluste...

2026-02-01andy阅读(72)评论(0)

在汽车智能座舱环境中，部署多模态大模型（如处理语音、视觉和文本的VLM/LLM）是提升用户体验的关键。然而，座舱系统通常对硬件资源（尤其是GPU/NPU的显存）具有严格的限制。当用户进行长时间的连续对话时，大模型用于存储历史信息的KV Ca...

2026-01-31andy阅读(69)评论(0)

在训练大规模深度学习模型（特别是LLMs）时，单块GPU的计算能力和内存往往无法满足需求。分布式训练是解决这一问题的核心手段。面试中，区分数据并行（DP）、模型并行（MP/TP）和流水线并行（PP）及其切分依据，是考察候选人分布式系统理解能...

2026-01-30andy阅读(74)评论(0)

Git是现代软件开发中不可或缺的版本控制系统。在日常工作中，我们难免会犯错或需要回溯历史。Git提供了多种“撤销”或“回退”机制，其中最核心且最容易混淆的是 git reset、git revert 和 git checkout（或 git...