标签：istio

2026-02-28andy阅读(48)评论(0)

如何利用 Kubernetes、Istio 与 NVIDIA Triton 构建工业级 AI 推理微服务架构 在将 AI 模型从实验室推向生产环境时，开发者往往面临三大挑战：如何高效利用 GPU 资源、如何实现无损的流量切换、以及如何根据实...

2026-02-10andy阅读(61)评论(0)

Istio 作为目前最流行的 Service Mesh 解决方案之一，其核心能力在于透明地接管和控制服务之间的所有网络流量。这种“透明”的魔力是如何实现的呢？答案藏在 Kubernetes Pod 内部的网络配置——尤其是 Linux 的强...

2025-11-19andy阅读(230)评论(0)

在AI模型部署中，确保新模型版本的稳定性和性能至关重要。直接将新模型全面上线（Big Bang Release）风险极高。A/B测试和Canary发布是两种主流的渐进式发布策略，它们允许我们在生产环境中安全地验证新模型。 我们将重点介绍如何...