andy的文章

2025-12-02andy阅读(64)评论(0)

引言：AIGC训练中的“内存墙”挑战 Stable Diffusion（SD）这类大型生成模型，尤其是在高分辨率图像（例如512×512或更高）上进行微调或预训练时，对GPU显存（VRAM）的需求极其苛刻。对于拥有80GB显存的N...

2025-12-01andy阅读(47)评论(0)

在进行AI模型边缘侧部署（如使用TensorFlow Lite或PyTorch Mobile）时，我们通常需要使用最新的Android Gradle Plugin (AGP) 版本来确保依赖兼容性和构建效率。当项目升级到AGP 7.0及以上...

2025-12-01andy阅读(51)评论(0)

作为AI基础设施的资深架构师，我们在构建高并发、低延迟的推理服务时，经常采用Spring WebFlux或原生Reactor来提升吞吐量。理解Reactive Stream的生命周期钩子（Hooks）对于精确控制副作用、高效日志记录和资源清...

2025-12-01andy阅读(70)评论(0)

在移动端AI模型部署中，我们经常需要依赖Native Development Kit (NDK) 来编译高性能的C++推理引擎、自定义TFLite算子或使用JNI接口优化模型加载速度。然而，NDK环境的配置稍有不慎，就会导致臭名昭著的构建失...

2025-12-01andy阅读(49)评论(0)

对于许多AI应用场景，例如定时报告分析、夜间批处理或用户量波动巨大的内部工具，模型的流量往往呈现出低频且突发性的特点。如果为此类任务部署传统的常驻GPU服务，将导致高昂的闲置成本。Serverless架构，尤其是AWS Lambda，正是解...

2025-12-01andy阅读(49)评论(0)

在现代AI模型部署架构中，一个完整的推理链路往往涉及多个微服务，例如数据预处理服务、特征工程服务、以及最终的模型推理服务。传统上，服务间通信依赖于RESTful API (基于HTTP 1.1)，但这种方式在大数据量、高频率的推理请求场景下...

2025-11-30andy阅读(59)评论(0)

如何解决 Node.js ESM 环境下 ReferenceError: require is not defined 错误 在现代 AI 基础设施和模型部署工具链的开发中，我们越来越依赖于高性能、模块化的 JavaScript/TypeS...

2025-11-30andy阅读(57)评论(0)

概述：AI训练中的“驱动黑洞” 在容器化（如Docker或Kubernetes）的AI训练环境中，GPU驱动版本的兼容性是一个常见的痛点。许多用户错误地认为只要在容器内安装了正确的CUDA运行时库，问题就解决了。然而，GPU的核心驱动是运行...

2025-11-30andy阅读(71)评论(0)

大规模深度学习（LLM、视觉模型）的训练已经从单卡扩展到数千张GPU的集群。在这一规模下，网络通信而非计算速度，往往成为系统性能的决定性瓶颈。选择正确的网络拓扑对于优化All-Reduce等集体通信操作至关重要。 本文将深入比较两种最流行的...

2025-11-29andy阅读(74)评论(0)

在AI基础设施和模型部署的场景中，我们经常需要使用像Puppeteer这样的无头浏览器库来处理数据预处理、生成报告或进行爬虫任务。然而，当我们在Docker容器或CI/CD流水线中运行npm install时，常常会遇到一个令人沮丧的错误：...