2026年01月的文章

2026-01-29andy阅读(368)评论(0)

许多AI开发者在使用PyTorch进行训练或推理时，经常会遇到一个困惑：当我使用del删除张量后，或者模型明明只占用了几个GB的显存，但通过nvidia-smi查看时，GPU的显存占用率仍然居高不下。本文将深入解析PyTorch的显存分配机...

2026-01-29andy阅读(329)评论(0)

对于运行在公有云VPS或Docker容器中的Celery Worker，正确选择并发池（Pool）是提高任务吞吐量和资源利用率的关键。在Ubuntu Docker环境中，我们通常需要在内存效率和CPU利用率之间做出平衡。 1. Celery...

2026-01-29andy阅读(337)评论(0)

引言：理解AI公平性的内在矛盾 在AI模型的部署阶段，公平性（Fairness）是一个核心的质量指标。然而，公平性并非一个单一的概念，它通常被划分为两大主要流派：群体公平性（Group Fairness）和个体公平性（Individual ...

2026-01-29andy阅读(273)评论(0)

简介：Python字典的魔力 Python中的字典（dict）是使用最广泛的数据结构之一，它提供了平均 O(1) 的时间复杂度进行查找、插入和删除操作。这种高效性能的背后，是基于哈希表（Hash Table）的精妙设计。然而，在Python...

2026-01-29andy阅读(329)评论(0)

在复杂的Python应用中，标准的性能分析工具（如 cProfile）虽然功能强大，但有时我们只需要针对特定的函数或代码块进行轻量级、定制化的时间测量。Python的 sys.settrace 函数提供了一个强大的底层接口，允许我们深入到解...

2026-01-28andy阅读(682)评论(0)

对于在VPS或公有云虚拟机上运行高性能、高并发Python应用（例如使用Flask-SocketIO或OpenStack相关服务）的站长来说，eventlet 是一个常用的库，它通过实现“绿色线程”（green threads）来实现非阻塞...

2026-01-28andy阅读(543)评论(0)

如何利用 Doc Values 磁盘列式存储提升 Elasticsearch 聚合性能 在Elasticsearch中，数据检索主要依赖倒排索引（Inverted Index）。然而，倒排索引是为快速搜索文档而优化的（即“哪些文档包含这个词...

2026-01-28andy阅读(491)评论(0)

在 PyTorch 中，当内置操作无法满足性能或功能需求时，我们需要自定义高性能的 C++/CUDA 算子。要让 PyTorch 的自动求导机制（Autograd）识别并正确计算这些自定义算子的梯度，我们必须使用 torch.autogra...

2026-01-28andy阅读(337)评论(0)

在AI模型被广泛应用于信贷审批、招聘推荐和医疗诊断等高风险场景时，模型决策的“黑箱”特性以及潜在的公平性偏差（Bias）成为了部署中不可回避的挑战。为了提升用户信任和满足监管要求，我们必须将公平性监控结果以用户友好的方式呈现。 本文将聚焦于...

2026-01-28andy阅读(410)评论(0)

高维向量搜索是现代推荐系统、图像识别和自然语言处理的核心技术。当数据集达到百万甚至数十亿级别时，线性搜索（暴力搜索）变得不可接受。HNSW（Hierarchical Navigable Small World，层级可导航小世界）是目前最流行...