人工智能和大数据

2026-07-31andy阅读(135)

在大规模数据处理场景中，Spark 集群的资源利用率一直是工程师们关注的核心问题。传统的静态资源分配模式下，每个 Executor 从作业启动到结束都占用固定资源，即使处于空闲状态也无法释放，导致大量资源浪费。Spark 动态资源分配（Dy...

2026-07-29andy阅读(142)

在机器学习模型越来越多地被应用于医疗诊断、金融风控、司法判决等高风险场景的今天，模型的可解释性已经从一个「加分项」变成了「必选项」。一个准确率高达99%的模型，如果无法解释其决策逻辑，就很难获得业务方的信任，更无法满足监管合规的要求。本文将...

2026-07-28andy阅读(170)

线性代数是科学计算的基石，无论是机器学习中的参数求解、信号处理中的频域变换，还是物理仿真中的偏微分方程离散化，都离不开矩阵运算。Python 生态中，NumPy 和 SciPy 提供了从基础矩阵操作到高级分解算法的完整工具链。本文将系统讲解...

2026-07-28andy阅读(205)

TensorFlow 2.x 默认采用即刻执行（Eager Execution）模式，让开发者可以像写普通 Python 代码一样调试和运行模型。然而，即刻执行虽然方便调试，却在性能上存在明显瓶颈——每次运算都需要 Python 运行时与 ...

2026-07-28andy阅读(202)

为什么需要磁盘向量检索 在向量搜索领域，内存容量始终是制约系统规模的瓶颈。以常见的 768 维 float32 向量为例，十亿条向量的原始数据量约为 110^9 × 768 × 4 bytes ≈ 2.88 TB 。即便采用 PQ 量化将维...

2026-07-27andy阅读(144)

引言：为什么 Batching 策略决定了推理服务的天花板 在大模型推理服务的工程实践中，有一个经常被低估却至关重要的设计决策：如何将并发的用户请求组织成批次（Batch）送入 GPU 执行。这个看似简单的调度问题，实际上直接决定了服务的吞...

2026-07-27andy阅读(194)

在大语言模型的演进历程中，位置编码（Positional Encoding）始终是一个核心而微妙的问题。Transformer 架构本身是排列等变的，它无法区分“猫追狗”和“狗追猫”——必须通过位置编码注入顺序信息。自 2021 年苏剑林等...

2026-07-27andy阅读(179)

随着大语言模型（LLM）参数规模从数十亿膨胀到数千亿，推理延迟（Latency）和吞吐（Throughput）逐渐成为生产环境最棘手的瓶颈。传统自回归解码（Autoregressive Decoding）每生成一个 token 就要完整前向...

2026-07-26andy阅读(679)评论(0)

如何解决国产 AI 芯片下的集合通信瓶颈：深度对比 HCCL 与 NCCL 在 Ring AllReduce 上的差异 在分布式深度学习中，集合通信（Collective Communication）是决定训练效率的关键。在 NVIDIA ...

2026-07-26andy阅读(530)评论(0)

深入理解 Android NNAPI 的中间层调度机制 Android Neural Networks API (NNAPI) 是 Google 为 Android 设备提供的一套用于运行计算密集型机器学习模型的框架。它的核心价值在于提供了...