标签：协同

2026-03-30andy阅读(391)评论(0)

如何在边缘计算中利用 Flower 框架实现联邦学习协同训练？ 在边缘计算场景中，数据通常分散在数以万计的终端设备（如 IoT 网关、智能摄像头）上。由于隐私法规（如 GDPR）和高昂的带宽成本，将所有原始数据汇总到中心云进行训练变得不再可...

2026-03-21andy阅读(411)评论(0)

如何实现车载LLM端云协同：动态判定逻辑的设计与实战 在智能座舱场景下，完全依赖云端大模型（LLM）会面临网络延迟高、断网失效、流量成本昂贵以及隐私泄露等问题；而完全依赖端侧（本地）推理，则受限于车机芯片（如高通8155/8295）的算力，...

2026-03-15andy阅读(400)评论(0)

如何利用剪枝与量化协同优化：实现大模型参数量与存储空间的双重压缩实战 在部署大语言模型（LLM）或大型深度学习模型时，巨大的存储占用和内存消耗往往是核心瓶颈。单一的优化技术（如仅剪枝或仅量化）有时难以满足端侧设备极低的算力要求。本文将介绍一...

2026-03-09andy阅读(385)评论(0)

如何利用计算图切分实现可信环境（TEE）与非安全环境（REE）协同推理 在端侧AI应用中，保护模型权重或用户隐私数据至关重要。传统的全加密推理（如全同态加密）性能极差，而“计算图切分”技术提供了一种实用的平衡方案：将涉及敏感隐私的计算环节（...

2026-02-01andy阅读(450)评论(0)

在车载智能座舱系统中，部署大语言模型（LLM）面临着性能、延迟和成本的挑战。为了平衡强大的能力（云端LLM）和低延迟、高实时性（端侧LLM），端云协同架构成为了主流。这种架构的核心在于一个高效的“动态决策引擎”，它能够根据用户指令的特性、实...