andy的文章

2026-01-28andy阅读(89)评论(0)

高维向量搜索是现代推荐系统、图像识别和自然语言处理的核心技术。当数据集达到百万甚至数十亿级别时，线性搜索（暴力搜索）变得不可接受。HNSW（Hierarchical Navigable Small World，层级可导航小世界）是目前最流行...

2026-01-28andy阅读(92)评论(0)

在 PyTorch 的模型训练和推理过程中，为了节省内存或提高计算效率，我们经常会用到原地操作（Inplace Operations），例如使用 add_()、mul_() 而不是标准的 + 或 *****。然而，在涉及到梯度计算（即 re...

2026-01-28andy阅读(107)评论(0)

在 PyTorch 中，我们通常使用 torch.no_grad() 来关闭梯度追踪，以加速推理过程或节省内存。但如果我们需要在复杂的训练流程中，根据特定的条件（例如，在执行一个嵌入式评估函数时）动态地、有条件地控制梯度，标准的上下文管理器...

2026-01-28andy阅读(98)评论(0)

在 PyTorch 的模型推理阶段，我们通常需要禁用梯度计算，以节省内存和提高运行速度。最常用的方法是使用上下文管理器 torch.no_grad()。然而，PyTorch 1.9 版本引入了一个更强大的替代品：torch.inferenc...

2026-01-28andy阅读(82)评论(0)

在使用 VPS 或公有云虚拟机搭建服务时，Docker 和 Docker Compose 是常用的部署工具。然而，如果不注意清理，Docker 留下的持久化卷（Volume）会迅速占用大量的磁盘空间，尤其是数据库或日志相关的卷。本文将详细指...

2026-01-28andy阅读(83)评论(0)

深入理解LLM中的文化偏见 随着大型语言模型（LLM）在全球范围内部署，其内在的文化偏见和刻板印象成为了一个关键的伦理和基础设施挑战。这些偏见往往源于训练数据的不均衡，并在特定文化背景下表现得尤为明显。对于负责全球化部署的AI基础设施工程师...

2026-01-28andy阅读(61)评论(0)

CPython（标准的Python解释器实现）的内存管理机制是高效且巧妙的。它主要依赖引用计数（Reference Counting），但为了弥补引用计数无法处理的缺陷（即循环引用），CPython引入了分代垃圾回收（Generationa...

2026-01-28andy阅读(91)评论(0)

Python以其简洁和动态性而闻名，但这种灵活性是有代价的：内存占用通常较高。默认情况下，Python中的每个类实例都会维护一个内部的字典（__dict__）来存储其属性。虽然这允许在运行时动态添加属性，但对于需要创建数百万个轻量级对象的应...

2026-01-27andy阅读(82)评论(0)

在Python编程中，如果你测试两个相同的小整数变量的内存地址（使用内置的id()函数），你会惊奇地发现它们的地址是完全一样的。然而，当你对较大的整数执行相同的操作时，它们的地址却可能是不同的。这是因为Python（特指CPython实现）...

2026-01-27andy阅读(79)评论(0)

在使用VMware Workstation或ESXi管理虚拟机（尤其运行Linux发行版）时，共享文件夹（HGFS）是宿主机和访客机之间传输数据最便捷的方式。虽然VMware Tools通常会自动完成挂载，但有时由于内核更新、工具安装不完整...