标签：pod

2025-12-27andy阅读(68)评论(0)

在使用Rancher RKE部署的Kubernetes集群中，AI/ML负载（如训练任务、推理服务）经常需要精确调度到特定的GPU节点上。我们通常使用nodeSelector或nodeAffinity来实现这一目标。然而，当这些负载被集中调...

2025-12-16andy阅读(119)评论(0)

在AI基础设施部署中，尤其是面对微服务化部署的大量模型服务（如使用KServe或VLLM部署小型专用模型）或高密度计算任务时，Kubernetes集群的节点Pod密度限制往往成为瓶颈。Rancher部署的K8s集群（通常基于RKE或RKE2...