andy的文章

2026-01-29andy阅读(382)评论(0)

自动混合精度（Automatic Mixed Precision, AMP）训练是 PyTorch 1.6+ 版本引入的一项重要功能，它允许模型在训练过程中自动使用 FP16（半精度浮点数）进行计算，同时保留 FP32（单精度浮点数）来处理...

2026-01-29andy阅读(468)评论(0)

车载系统级芯片（SOC）是智能座舱的核心。随着功能越来越复杂，传统的 CPU 单核运算已无法满足需求。现代座舱依赖异构计算架构，即同时使用通用处理器（CPU）、图形处理器（GPU）和神经网络处理器（NPU）来分担工作负载。平衡这三种核心的算...

2026-01-29andy阅读(637)评论(0)

在深度学习模型的训练和推理过程中，尤其是在使用PyTorch时，我们经常会遇到一个棘手的问题：明明通过 nvidia-smi 看到显存（GPU Memory）还有剩余，但在尝试分配新的大张量时却报出了 OOM（Out of Memory）错...

2026-01-29andy阅读(480)评论(0)

Git 是现代软件开发中不可或缺的工具。然而，强大的命令如 git reset –hard 或不小心删除分支，可能会导致本地提交记录“丢失”。幸运的是，Git 提供了一个本地的安全网：git reflog。本文将详细解释 ref...

2026-01-29andy阅读(461)评论(0)

许多AI开发者在使用PyTorch进行训练或推理时，经常会遇到一个困惑：当我使用del删除张量后，或者模型明明只占用了几个GB的显存，但通过nvidia-smi查看时，GPU的显存占用率仍然居高不下。本文将深入解析PyTorch的显存分配机...

2026-01-29andy阅读(397)评论(0)

对于运行在公有云VPS或Docker容器中的Celery Worker，正确选择并发池（Pool）是提高任务吞吐量和资源利用率的关键。在Ubuntu Docker环境中，我们通常需要在内存效率和CPU利用率之间做出平衡。 1. Celery...

2026-01-29andy阅读(408)评论(0)

引言：理解AI公平性的内在矛盾 在AI模型的部署阶段，公平性（Fairness）是一个核心的质量指标。然而，公平性并非一个单一的概念，它通常被划分为两大主要流派：群体公平性（Group Fairness）和个体公平性（Individual ...

2026-01-29andy阅读(335)评论(0)

简介：Python字典的魔力 Python中的字典（dict）是使用最广泛的数据结构之一，它提供了平均 O(1) 的时间复杂度进行查找、插入和删除操作。这种高效性能的背后，是基于哈希表（Hash Table）的精妙设计。然而，在Python...

2026-01-29andy阅读(411)评论(0)

在复杂的Python应用中，标准的性能分析工具（如 cProfile）虽然功能强大，但有时我们只需要针对特定的函数或代码块进行轻量级、定制化的时间测量。Python的 sys.settrace 函数提供了一个强大的底层接口，允许我们深入到解...

2026-01-28andy阅读(809)评论(0)

对于在VPS或公有云虚拟机上运行高性能、高并发Python应用（例如使用Flask-SocketIO或OpenStack相关服务）的站长来说，eventlet 是一个常用的库，它通过实现“绿色线程”（green threads）来实现非阻塞...