人工智能和大数据

2026-03-24andy阅读(2)评论(0)

在构建基于大语言模型（LLM）的 Agent 时，其决策过程的“黑盒”属性是生产环境部署的最大障碍。当 Agent 在处理如‘分析财报并更新数据库’等复杂长链任务时，任何一个中间环节的幻觉（Hallucination）都可能导致最终结果不可...

2026-03-23andy阅读(5)评论(0)

如何利用 A/B 分区实现座舱 AI 模型的无损 OTA 升级 1. 为什么座舱 AI 需要 A/B 分区？ 在智能座舱场景下，AI 模型的升级通常不只是替换一个 .onnx 或 .param 文件。它往往涉及到 NPU 驱动 (Kerne...

2026-03-23andy阅读(4)评论(0)

如何通过高级提示工程（Prompt Engineering）技巧显著增强AI Agent的鲁棒性？ 在构建基于大语言模型（LLM）的AI Agent时，最常见的痛点是“输出不可控”。无论是一个简单的SQL生成Agent还是复杂的自动化工作流...

2026-03-23andy阅读(5)评论(0)

如何优化座舱 AI 模型冷启动：通过权重预加载与算子缓存实现“开门即用” 在智能座舱（IVI）场景中，AI 模型的“冷启动”耗时直接影响用户对系统的“第一印象”。当车主进入座舱，语音交互（ASR/NLP）或视觉感知（DMS/OMS）模型如果...

2026-03-23andy阅读(5)评论(0)

如何解决车载视觉模型 TensorRT 转换中的算子不支持痛点 在车载 AI 部署领域，将 PyTorch 模型转换为 TensorRT 引擎是提升推理速度的必经之路。然而，由于车载视觉模型常包含一些特殊的采样（如 GridSample）或...

2026-03-23andy阅读(6)评论(0)

如何针对座舱红外摄像头模型优化夜间低光照环境下的算子精度 在智能座舱场景中，红外摄像头（IR）是实现疲劳驾驶监测（DMS）和乘客监测（OMS）的核心硬件。然而，夜间低光照环境下，IR图像往往存在高噪点、对比度低的问题。当模型从FP32量化为...

2026-03-23andy阅读(12)评论(0)

如何为LLM应用设计并实现责任链（Chain of Responsibility）机制 在构建生成式AI应用时，开发者往往面临复杂的流水线需求：输入脱敏、缓存检索、提示词增强、模型路由、结果合规性检查等。如果将这些逻辑线性堆叠，代码将迅速演...

2026-03-22andy阅读(6)评论(0)

如何通过DMA-BUF零拷贝技术处理车载摄像头原始流：提升OMS模型输入效率 在车载监控系统（OMS）或高级驾驶辅助系统（ADAS）的开发中，摄像头数据流的实时性至关重要。传统的处理流程通常是：摄像头 -> V4L2驱动 -> 用户空间拷贝...

2026-03-22andy阅读(8)评论(0)

如何在推理服务中为 LLM 生成结果集成不确定性度量？ 在生产环境中部署大语言模型（LLM）时，模型生成的“幻觉”（Hallucination）是影响业务落地的核心挑战。为了提升系统的可靠性，在 AI Infra 层面集成不确定性（Unce...

2026-03-22andy阅读(6)评论(0)

前言 在智能座舱领域，DMS（驾驶员监控系统）和多手势识别是两个核心算法。由于车载芯片的算力资源通常较为受限，如果将两个模型独立运行，会带来巨大的IO开销和计算冗余。本文将介绍如何通过多任务学习（Multi-task Learning）与算...