标签：tensorflow

2025-12-20andy阅读(499)评论(0)

关于“TensorFlow的受欢迎程度正在下降吗？”的讨论，反映了AI社区在研究端向PyTorch转移的趋势。然而，对于AI基础设施和模型部署的工程师来说，TensorFlow生态（特别是TensorFlow Serving和TFLite）...

2025-12-20andy阅读(493)评论(0)

谷歌是否会放弃TensorFlow（TF）是一个复杂的生态问题，但对于AI基础设施工程师而言，更实际的挑战是：如何在新模型普遍倾向于使用PyTorch训练的情况下，继续高效利用已经搭建好的TensorFlow Serving（TFS）集群和...

2025-12-20andy阅读(534)评论(0)

在AI模型进入生产环境时，模型的部署和管理是至关重要的一环。直接在Web框架中加载TensorFlow模型会带来性能瓶颈、版本控制困难和缺乏监控等问题。TensorFlow Serving (TFS) 是Google专门为部署机器学习模型设...

2018-05-25andy阅读(65054)评论(1)

CentOS安装GPU版本的tensorflow serving问题总结 之前安装tensorflow serving一直都是使用的docker镜像的方式，简单快速，但是近来有一台gpu物理机 需要跑一批模型 要求越快越好 担心docker...

2018-01-22andy阅读(9590)评论(2)

java通过gRPC整合tensorflow serving(之二)——安装tfserving并部署示例模型 承接上一篇【java通过gRPC整合tensorflow serving——gRPC java入门例子】 这是本系列的第二篇，上一...

2018-01-19andy阅读(5828)评论(0)

TensorFlow中的decode_jpeg与opencv的imread结果不一致 关于这个问题，我觉得有必要记录一下，开发中可能就是一个小坑。 我遇到的问题是我导出模型部署到了tensorflow serving，然后python编写客...

2017-11-18andy阅读(5229)评论(1)

tensorflow serving多模型配置文件格式 tensorflow serving一个serving实例如何发布多个模型？ 使用配置文件的方式启动即可，首先编写模型配置文件，比如命名为models.json model_confi...