标签：istio

2026-09-07阅读(44)评论(0)

随着汤不热吧技术社区微服务规模突破 200+ 节点，跨集群、跨边界的服务间认证与授权问题日益突出。传统的 IP 白名单和 mTLS 证书手工管理方式已无法满足动态扩缩容与多租户隔离的需求。经过三个月的架构设计与灰度验证，我们正式上线了基于 ...

2026-09-07andy阅读(40)

随着汤不热吧技术社区微服务规模突破 200+ 节点，跨集群、跨边界的服务间认证与授权问题日益突出。传统的 IP 白名单和 mTLS 证书手工管理方式已无法满足动态扩缩容与多租户隔离的需求。经过三个月的架构设计与灰度验证，我们正式上线了基于 ...

2026-09-07andy阅读(43)

随着汤不热吧技术社区微服务规模突破 200+ 节点，跨集群、跨边界的服务间认证与授权问题日益突出。传统的 IP 白名单和 mTLS 证书手工管理方式已无法满足动态扩缩容与多租户隔离的需求。经过三个月的架构设计与灰度验证，我们正式上线了基于 ...

2026-08-27andy阅读(65)

随着汤不热吧技术社区微服务数量的持续增长，传统的 Kubernetes Service + Ingress 架构在流量管理、安全策略和可观测性方面逐渐暴露出瓶颈。经过三个月的架构评估与灰度迁移，我们正式完成了基于 Istio 1.22 与 ...

2026-04-03andy阅读(357)评论(0)

背景 在生产环境下部署 AI 模型（如大语言模型或图像识别服务）时，AI 基础设施面临两个核心挑战：首先是安全性，推理接口往往涉及敏感数据和核心资产，必须确保通信加密和身份校验；其次是可用性，由于 GPU 资源昂贵且推理过程耗时较长，突发流...

2026-02-28andy阅读(382)评论(0)

如何利用 Kubernetes、Istio 与 NVIDIA Triton 构建工业级 AI 推理微服务架构 在将 AI 模型从实验室推向生产环境时，开发者往往面临三大挑战：如何高效利用 GPU 资源、如何实现无损的流量切换、以及如何根据实...

2026-02-10andy阅读(587)评论(0)

Istio 作为目前最流行的 Service Mesh 解决方案之一，其核心能力在于透明地接管和控制服务之间的所有网络流量。这种“透明”的魔力是如何实现的呢？答案藏在 Kubernetes Pod 内部的网络配置——尤其是 Linux 的强...

2025-11-19andy阅读(573)评论(0)

在AI模型部署中，确保新模型版本的稳定性和性能至关重要。直接将新模型全面上线（Big Bang Release）风险极高。A/B测试和Canary发布是两种主流的渐进式发布策略，它们允许我们在生产环境中安全地验证新模型。 我们将重点介绍如何...