标签：单元

2026-03-20andy阅读(64)评论(0)

如何通过模型分片技术将大型视觉模型跨核心部署在智能座舱异构单元 在智能座舱场景下，SoC芯片（如高通8295、华为麒麟系列）通常集成有多个异构算力单元（NPU、GPU、DSP）。当单颗NPU无法承载大参数量模型或需要降低单核功耗时，模型分片...

2026-02-24andy阅读(349)评论(0)

1. 为什么大模型推理会受限于 HBM？ 在大模型（LLM）推理过程中，Transformer 架构中存在大量的逐元素（Element-wise）操作，如 Add、LayerNorm、Mul 和 Silu 等。在标准的执行流中，每个算子都需...

2026-01-31andy阅读(124)评论(0)

在智能座舱（Smart Cockpit）系统中，视觉模型（如高分辨率感知、驾驶员/乘客监控DMS/OMS模型）往往体积庞大且计算密集。单个算力单元（如特定的NPU或DSP）可能无法提供足够的内存或吞吐量。模型分片（Model Shardin...

2026-01-30andy阅读(121)评论(0)

在现代云计算环境中，Kubernetes (K8s) Pod 是最小的部署和调度单元。一个 Pod 看起来就像一台独立、拥有自己 IP 地址的虚拟机，但它在物理上与其他 Pod 共享宿主机内核。这种“看起来是独立”的能力，正是由 Linux...