andy的文章

2026-01-30andy阅读(70)评论(0)

车载座舱中的AI应用，如驾驶员状态监控（DMS）、手势识别和语音处理，对实时性要求很高，但同时面临着严峻的散热挑战。在炎热环境或持续高负载下，端侧AI芯片（NPU/GPU）产生的热量可能导致系统性能下降甚至硬件损坏。为了保证AI系统的长期稳...

2026-01-30andy阅读(68)评论(0)

在处理 TB 级别或者需要实时生成的流式数据集时，传统的 PyTorch Dataset（Map-style Dataset，通过 __getitem__ 随机访问）机制会遇到致命的内存瓶颈。因为这类数据集要求在初始化时或者通过索引访问时将...

2026-01-30andy阅读(79)评论(0)

概述：理解并行计算的基石 在高性能计算领域，实现大规模数据并行是提升运算速度的关键。CPU和GPU在底层架构上选择了不同的路径来实现这一目标：CPU主要依赖SIMD (Single Instruction, Multiple Data)，而...

2026-01-30andy阅读(58)评论(0)

在将AI模型部署到生产环境时，公平性（Fairness）已成为与性能（Accuracy）同等重要的指标。然而，去偏见技术常常伴随着一个核心挑战：公平性提升是否会以牺牲模型的整体预测性能为代价？ 本文将深入探讨如何通过一种实用的AI基础设施技...

2026-01-30andy阅读(85)评论(0)

引言：为什么需要 Faiss GPU？ 在处理海量向量数据（例如，数百万或数十亿个128维或更高维度的向量）时，传统的CPU计算受限于核心数量和内存带宽，查询延迟往往难以接受。Faiss通过其高度优化的GPU模块，能够充分利用NVIDIA ...

2026-01-30andy阅读(86)评论(0)

Git是现代软件开发中不可或缺的版本控制系统。在日常工作中，我们难免会犯错或需要回溯历史。Git提供了多种“撤销”或“回退”机制，其中最核心且最容易混淆的是 git reset、git revert 和 git checkout（或 git...

2026-01-30andy阅读(103)评论(0)

在PyTorch深度学习训练中，数据加载的速度（即I/O吞吐量）往往是整个训练流程的瓶颈。当尝试使用多进程（num_workers > 0）来加速数据读取时，用户可能会遇到程序锁死、内存暴涨或性能不升反降的问题。本文将深入解析如何通过合理配...

2026-01-30andy阅读(92)评论(0)

PyTorch 默认使用 NCHW (Batch, Channels, Height, Width) 内存布局，这是一种从科学计算历史遗留下来的传统格式。然而，对于现代视觉模型，尤其是在利用 NVIDIA Tensor Core 或其他高度...

2026-01-30andy阅读(69)评论(0)

在训练深度学习模型，尤其是如Transformer这类拥有数百甚至数千层的超大模型时，GPU显存往往成为瓶颈。标准的反向传播算法需要存储前向传播中每层的所有中间激活值（Activations），以便在计算梯度时使用，这消耗了大量的显存。当模...

2026-01-30andy阅读(69)评论(0)

许多个人站长或技术爱好者在使用自己的VPS或本地macOS机器编译Android Open Source Project (AOSP)时，在尝试运行核心配置命令lunch时，会遇到bash: lunch: command not found...