标签：底层

2026-02-09andy阅读(89)评论(0)

车载信息娱乐系统（IVI）作为汽车的智能中枢，其安全性至关重要。Android 平台使用 SELinux（Security-Enhanced Linux）来实现强制访问控制（MAC），它是保护 IVI 系统不受恶意或错误行为侵害的“安全带”...

2026-02-09andy阅读(89)评论(0)

深度学习模型训练过程中，如果发现训练损失（Loss）突然飙升并变为NaN（Not a Number），通常标志着梯度爆炸或数值溢出。虽然直接的数值问题需要ML工程师从模型结构、学习率、或数据预处理层面解决，但作为Infra（基础设施）工程师...

2026-02-08andy阅读(113)评论(0)

在深度学习和高性能计算领域，算子（Kernel）的性能往往是模型推理速度的瓶颈。虽然像 cuBLAS 和 cuDNN 这样的厂商原生库已经高度优化，但它们是通用性的。当面对特定维度、数据类型或计算模式时，通过像 Triton 这样的领域特定...

2026-02-03andy阅读(77)评论(0)

在车载监控系统（OMS）或驾驶员状态监测系统（DMS）中，需要实时、高效地处理来自高清摄像头的原始视频流。传统的I/O操作（如read()）涉及多次数据拷贝：从摄像头硬件缓冲区到内核缓冲区，再从内核缓冲区拷贝到用户空间缓冲区。对于高分辨率、...

2026-02-03andy阅读(94)评论(0)

PyTorch作为主流的深度学习框架，其灵活强大的功能背后，隐藏着一套高效且复杂的机制来管理操作的执行，这就是我们今天要深入探讨的——PyTorch Operator Dispatcher（操作分发器）。 当你简单地调用 torch.add...

2026-01-30andy阅读(85)评论(0)

在现代云计算环境中，Kubernetes (K8s) Pod 是最小的部署和调度单元。一个 Pod 看起来就像一台独立、拥有自己 IP 地址的虚拟机，但它在物理上与其他 Pod 共享宿主机内核。这种“看起来是独立”的能力，正是由 Linux...

2026-01-30andy阅读(116)评论(0)

别再神话国产芯片：深度解析算子库生态对国产 GPU 落地限制的底层逻辑 近年来，国产GPU在硬件设计上取得了显著进步。然而，当讨论它们在深度学习或高性能计算（HPC）领域的实际应用时，人们往往忽略了一个致命的核心问题：算子库生态。算子库生态...

2026-01-30andy阅读(132)评论(0)

PyTorch 默认使用 NCHW (Batch, Channels, Height, Width) 内存布局，这是一种从科学计算历史遗留下来的传统格式。然而，对于现代视觉模型，尤其是在利用 NVIDIA Tensor Core 或其他高度...

2026-01-30andy阅读(145)评论(0)

高通骁龙8295（通常集成在Snapdragon Cockpit平台）是为高性能AI计算设计的SoC，尤其擅长处理大模型（LLMs, Vison Transformers）推理任务。其核心优势在于集成的Hexagon NPU/DSP，但要充...