标签：amp

2026-07-24andy阅读(51)

在深度学习模型规模不断膨胀的今天，训练一个大型模型动辄需要数十甚至上百 GPU·天。当显存成为瓶颈、训练时间成为成本大头时，混合精度训练（Mixed Precision Training）就成了必须掌握的优化手段。它可以在几乎不损失模型精度...

2026-06-22andy阅读(151)

PHP 异步编程实战：从 Swoole 到 Fiber 的演进与最佳实践 长期以来，PHP 被开发者诟病为”同步阻塞”的语言——每个请求从开始到结束，进程被完整占用，无法并发处理 I/O 操作。但这一局面在过去几年发...

2026-01-29andy阅读(339)评论(0)

自动混合精度（Automatic Mixed Precision, AMP）训练是 PyTorch 1.6+ 版本引入的一项重要功能，它允许模型在训练过程中自动使用 FP16（半精度浮点数）进行计算，同时保留 FP32（单精度浮点数）来处理...