汤不热吧
如何利用AI辅助的网络安全工具进行自动化漏洞发现？
如何利用大语言模型驱动的智能代理实现自动化漏洞扫描与修复建议 在当今的网络安全领域，传统的扫描工具（如 Nmap, Nuclei, OpenVAS）虽然功能强大，但往往产生大量的冗余日志和误报。利用 AI 基础设施，特别是大语言模型（LLM...
人工智能和大数据
第16页车载 SOC 异构计算详解：如何在智能座舱中平衡 CPU、GPU 与 NPU 的算力配比
如何在车载SOC中实现异构算力平衡：以NPU与GPU协同推理优化为例 在智能座舱开发中，开发者常面临如DMS（驾驶员监控）、OMS（乘员监控）等实时性要求极高的AI任务。单纯依赖NPU往往会因为前后处理（如颜色空间转换、归一化）占用过多CP...
怎样建立一支内部AI红队并制定年度攻击演习计划？
如何构建内部AI红队并制定年度攻击演习计划 随着大语言模型（LLM）和生成式AI在企业基础设施中的深度集成，传统的安全边界正在模糊。AI红队（Red Teaming）不再是可选项，而是AI基础设施（AI Infra）治理的核心。本文将从团队...
怎样通过硬件感知的量化搜索（NAS+Quant）：针对不同 SoC 自动寻找最优的压缩方案
在端侧AI部署中，不同厂商的SoC（如高通骁龙的DSP、华为昇腾的NPU、联发科的APU）对不同算子位宽的加速效率截然不同。传统的统一INT8量化往往无法榨干硬件性能。本文将介绍如何利用硬件感知量化搜索（Hardware-Aware Qua...
移动端 LLM 精度评测盲点：为什么传统的困惑度（Perplexity）不能完全代表用户体验
如何通过构建端侧评测流水线解决LLM精度评测盲点：从困惑度（PPL）转向真实体验 在移动端部署大语言模型（LLM）时，开发者通常依赖困惑度（Perplexity, PPL）来衡量模型量化（如 INT4, FP8）后的精度损失。然而，许多开发...
如何通过手机 NPU 加速 4-bit 模型推理：详解权重预重排（Weight Pre-packing）的必要性
如何通过手机 NPU 加速 4-bit 模型推理：详解权重预重排（Weight Pre-packing）的必要性 在移动端部署大语言模型（LLM）或高性能视觉模型时，4-bit 量化已成为标配。然而，许多开发者发现，仅仅将模型量化为 4-b...
图像内容与文本指令的冲突？
背景与挑战 在多模态大模型（MLLM）的实际部署中，开发者常面临「图文冲突」问题：用户输入的文本指令（Instruction）与上传的图像内容（Image）存在事实性矛盾。例如，指令要求「统计图中红苹果的数量」，但图像中仅存在绿苹果。在这种...
llama.cpp 移动端移植详解：从 GGUF 格式看如何通过多线程优化实现 10 tokens/s
前言 随着大语言模型（LLM）的普及，将模型部署在手机端（端侧推理）成为了趋势。llama.cpp 作为一个高性能的 C++ 推理库，通过极致的指令集优化和轻量级的 GGUF 格式，让在手机上流畅运行 Llama-3 成为可能。本文将重点介...
如何针对边缘侧的AI模型进行运行时安全加固？
如何通过内存解密与安全运行时对边缘侧AI模型进行加固？ 在边缘计算场景中，模型往往直接部署在不受控的终端设备（如智能摄像头、工业网关）上。由于物理接触的可能性，模型文件面临被直接拷贝、逆向分析的巨大风险。本文将介绍一种基于内存动态解密的AI...
怎样利用信令位（Signaling Bits）优化低比特量化：提升移动端模型数值稳定性的方案
如何利用信令位（Signaling Bits）优化低比特量化：提升移动端模型数值稳定性 在移动端部署 AI 模型时，INT4 甚至 INT2 量化是减少内存带宽和提升推理速度的利器。然而，低比特量化面临最大的挑战是数值稳定性。当权重或激活值...