andy的文章

2026-01-30andy阅读(570)评论(0)

PyTorch 默认使用 NCHW (Batch, Channels, Height, Width) 内存布局，这是一种从科学计算历史遗留下来的传统格式。然而，对于现代视觉模型，尤其是在利用 NVIDIA Tensor Core 或其他高度...

2026-01-30andy阅读(478)评论(0)

在训练深度学习模型，尤其是如Transformer这类拥有数百甚至数千层的超大模型时，GPU显存往往成为瓶颈。标准的反向传播算法需要存储前向传播中每层的所有中间激活值（Activations），以便在计算梯度时使用，这消耗了大量的显存。当模...

2026-01-30andy阅读(405)评论(0)

许多个人站长或技术爱好者在使用自己的VPS或本地macOS机器编译Android Open Source Project (AOSP)时，在尝试运行核心配置命令lunch时，会遇到bash: lunch: command not found...

2026-01-30andy阅读(438)评论(0)

在深度学习领域，模型规模不断增大，对计算速度的要求也水涨船高。传统的FP32（单精度浮点数）运算虽然精度高，但计算量大、能耗高。为了解决这一问题，NVIDIA引入了专用的硬件加速单元——Tensor Core，并结合软件层面的混合精度（Mi...

2026-01-30andy阅读(715)评论(0)

高通骁龙8295（通常集成在Snapdragon Cockpit平台）是为高性能AI计算设计的SoC，尤其擅长处理大模型（LLMs, Vison Transformers）推理任务。其核心优势在于集成的Hexagon NPU/DSP，但要充...

2026-01-30andy阅读(392)评论(0)

在高风险应用场景，如信贷审批、招聘决策或司法判决中，AI模型的偏见（Bias）可能导致严重的社会不公和法律风险。因此，将公平性审计（Fairness Auditing）嵌入到模型部署和监控流程中，不再是一个“可选项”，而是一个基础设施的“必...

2026-01-30andy阅读(362)评论(0)

什么是 Python 字节码和 dis 模块？ 在 Python 中，我们编写的源代码并不会直接被机器执行。相反，Python 解释器（CPython）首先将源代码编译成一种低级、平台无关的指令集，称为字节码（Bytecode）。然后，Py...

2026-01-30andy阅读(413)评论(0)

Python 作为一种支持多重继承的面向对象语言，必须有一个清晰的规则来确定当子类调用一个方法时，应该在哪个父类中查找该方法。这个规则就是方法解析顺序（Method Resolution Order, MRO）。 在 Python 2.3 ...

2026-01-29andy阅读(372)评论(0)

Docker 作为容器技术的基石，解决了应用打包和环境隔离的难题。然而，当应用进入生产环境，对稳定性、伸缩性和可管理性提出要求时，仅靠 Docker CLI 或 Docker Compose 就显得力不从心。这就是为什么 Docker 之后...

2026-01-29andy阅读(763)评论(0)

在现代人工智能，特别是大型语言模型（LLM）的训练中，GPU的核心计算能力（TFLOPS）固然重要，但常常被忽视的瓶颈是数据移动的速度。本文将详细解释GPU中使用的HBM（High Bandwidth Memory，高带宽显存）技术，以及为...