andy的文章

2025-11-25andy阅读(112)评论(0)

深入理解 Selective Search 算法在AI模型部署中的应用 Selective Search (选择性搜索) 算法是计算机视觉领域，尤其是在深度学习浪潮兴起之前，目标检测管线中的核心组件。它的主要任务是高效地从图像中生成一组高质...

2025-11-25andy阅读(155)评论(0)

在AI模型部署和基础设施管理中，依赖冲突是一个常见且令人头疼的问题。其中，runtimeError: module compiled against API version 0xe but this version of numpy is ...

2025-11-25andy阅读(110)评论(0)

在构建高性能的AI基础设施和数据分析平台时，我们经常需要对数据进行多维度的实时统计。传统的做法可能是执行多个SELECT COUNT(*)查询，每个查询对应一个特定的WHERE条件。然而，这种方法效率低下，因为它需要数据库对同一张表进行多次...

2025-11-25andy阅读(128)评论(0)

在AI模型部署和推理服务中，传统的Kubernetes Horizontal Pod Autoscaler (HPA) 往往力不从心。HPA通常基于CPU或内存利用率，但这无法准确反映AI工作负载的真实压力，尤其是在GPU密集型任务、异步批...

2025-11-25andy阅读(126)评论(0)

AI基础设施的自动化部署是加速模型从实验到生产的关键。MLOps工具链，如Kubeflow、MLFlow或Seldon，涉及复杂的组件依赖和跨云资源的配置。本篇文章将聚焦于如何结合使用Terraform进行云基础设施（AWS EKS）的快速...

2025-11-24andy阅读(125)评论(0)

作为AI基础设施的构建者，我们经常需要处理模型元数据、版本信息或部署指标等复杂的关联数据。虽然我们倾向于使用NoSQL数据库或向量数据库，但在传统的关系型数据库（如PostgreSQL/MySQL）中，MyBatis仍然是处理高性能数据持久...

2025-11-24andy阅读(123)评论(0)

引言：为什么我们需要全卷积网络（FCN）？ 在计算机视觉领域，图像识别从最开始的图像分类（判断图片中有什么物体）逐渐发展到了更精细的语义分割（判断图片中每个像素点属于哪个物体）。传统的基于CNN的分类网络（如VGG或ResNet）在特征提取...

2025-11-24andy阅读(119)评论(0)

引言：FCN与Mask R-CNN的内在联系 对于实例分割任务，Mask R-CNN是业界最常用的模型之一。然而，要高效地部署和优化Mask R-CNN，我们必须理解其核心组件——全卷积网络（FCN）所扮演的角色。 FCN（Fully Co...

2025-11-24andy阅读(142)评论(0)

在多租户（Multi-Tenant）AI集群环境中，资源共享是常态，但“邻里喧嚣”（Noisy Neighbor）和数据安全问题是核心挑战。本文将深入探讨如何利用NVIDIA的硬件级隔离技术Multi-Instance GPU (MIG)和...

2025-11-24andy阅读(135)评论(0)

在复杂的AI基础设施中，尤其是基于Kubeflow的MLOps平台，缺乏透明度是导致生产环境问题的主要原因之一。Prometheus和Grafana的组合是Kubernetes生态中最成熟的监控解决方案。本文将指导您如何在已有的Kubefl...