深度学习

2026-01-28andy阅读(33)评论(0)

在 PyTorch 的模型训练和推理过程中，为了节省内存或提高计算效率，我们经常会用到原地操作（Inplace Operations），例如使用 add_()、mul_() 而不是标准的 + 或 *****。然而，在涉及到梯度计算（即 re...

2026-01-28andy阅读(26)评论(0)

在 PyTorch 中，我们通常使用 torch.no_grad() 来关闭梯度追踪，以加速推理过程或节省内存。但如果我们需要在复杂的训练流程中，根据特定的条件（例如，在执行一个嵌入式评估函数时）动态地、有条件地控制梯度，标准的上下文管理器...

2026-01-28andy阅读(34)评论(0)

在 PyTorch 的模型推理阶段，我们通常需要禁用梯度计算，以节省内存和提高运行速度。最常用的方法是使用上下文管理器 torch.no_grad()。然而，PyTorch 1.9 版本引入了一个更强大的替代品：torch.inferenc...

2026-01-27andy阅读(31)评论(0)

导语 在使用 PyTorch 进行深度学习模型开发时，我们经常会遇到一个棘手的 RuntimeError，提示我们不能对一个需要梯度的非叶子张量（non-leaf Tensor）进行原地（in-place）修改。这背后涉及到 PyTorch...

2026-01-27andy阅读(26)评论(0)

在深度学习模型训练过程中，梯度爆炸（Gradient Explosion）是一个常见且致命的问题。它通常表现为损失值突然变为 NaN 或 Inf，导致训练中断或模型权重迅速发散。PyTorch 提供了强大的工具 register_hook，...

2021-04-28andy阅读(2779)评论(0)

相似搜索问题的背景 相似搜索在业务里的场景：图片相似搜索，衍生的业务：拍照购物，截图搜电影、盗版图查找；文本相似搜索：智能搜索引擎，推荐系统，问答机器人，机翻；声音相似搜搜：听歌识曲等 相似搜索要解决的关键问题 相似搜索无非就是为了 ...

2020-02-19andy阅读(6860)评论(0)

YOLO v3 tensorflow inference 报错failed to run cuBLAS routine cublasSgemm_v2: CUBLAS_STATUS_EXECUTION_FAILED的解决办法 环境cuda9....

2019-03-24andy阅读(5743)评论(0)

Faiss索引类型怎么选择 是否需要精确的结果? 是，那就得用Flat 唯一保证百分百准确性的是IndexFlatL2（L2距离）和IndexFlatIP（内积距离）. 可以用来做其他索引的baseline，不支持压缩， 不支持add_wi...

2018-08-16andy阅读(11792)评论(0)

首先介绍下tensorRT，tensorRT类似于tensorflow serving，都是一种用于将训练好的深度学习模型用于实时inference的工具，区别在于tensorflow serving是以一种server的方式提供出来的也就...

2018-05-25andy阅读(54230)评论(1)

CentOS安装GPU版本的tensorflow serving问题总结 之前安装tensorflow serving一直都是使用的docker镜像的方式，简单快速，但是近来有一台gpu物理机 需要跑一批模型 要求越快越好 担心docker...