标签：本地

2026-03-31andy阅读(66)评论(0)

零成本玩转AI：手把手教你用Ollama在本地一键部署大模型 大家好，我是正在AI领域自学的技术博主。很多朋友在接触AI大模型（LLM）时，往往会面临API调用昂贵、数据隐私无法保障或网络访问不稳定等问题。今天我为大家分享一个目前最火、最简...

2026-03-21andy阅读(51)评论(0)

如何实现车载LLM端云协同：动态判定逻辑的设计与实战 在智能座舱场景下，完全依赖云端大模型（LLM）会面临网络延迟高、断网失效、流量成本昂贵以及隐私泄露等问题；而完全依赖端侧（本地）推理，则受限于车机芯片（如高通8155/8295）的算力，...

2026-03-04andy阅读(64)评论(0)

如何通过 MNN 的 WeightGrad 机制在移动端实现极致高效的本地权重在线微调 在端侧 AI 场景中，为了保护用户隐私或实现个性化推荐，我们需要在移动端设备上直接对模型进行微调（Fine-tuning）。阿里巴巴开源的 MNN (M...

2026-02-17andy阅读(177)评论(0)

在汽车座舱系统（如Android Automotive、QNX或定制Linux系统）中，核心服务（如车辆数据总线、状态监控等）通常需要与本地的其他进程进行通信。出于便捷和对外部网络隔离的考虑，许多开发者会让这些核心服务绑定到本地回环地址 1...

2026-02-07andy阅读(97)评论(0)

许多个人站长在选择VPS时，都会纠结于使用公有云提供的网络存储（云盘/EBS）还是采用基于实例的本地SSD存储。对于运行WordPress这类I/O密集型应用的后台（wp-admin）来说，这种存储选择带来的感知差异是巨大的。本文将深入分析...

2026-02-06andy阅读(188)评论(0)

如何通过本地持久化卷解决K8s数据库I/O延迟问题：进阶性能优化方案 在Kubernetes (K8s) 中运行数据库等对I/O性能要求极高的有状态应用时，传统的网络存储（如NFS、云提供商的EBS或GCE PD）往往会引入不可接受的I/O...

2026-02-01andy阅读(134)评论(0)

在车载智能座舱系统中，部署大语言模型（LLM）面临着性能、延迟和成本的挑战。为了平衡强大的能力（云端LLM）和低延迟、高实时性（端侧LLM），端云协同架构成为了主流。这种架构的核心在于一个高效的“动态决策引擎”，它能够根据用户指令的特性、实...