汤不热吧
微调LoRA时，如何防止有毒数据污染基础模型？
引言：LoRA微调中的数据安全挑战 参数高效微调（PEFT），尤其是低秩适配（LoRA），已成为部署大型语言模型（LLM）的主流技术。LoRA通过训练少量新增的适配器（Adapter）权重，在保持基础模型（Base Model）权重不变的前...
标签：模型
第2页怎样利用模型级联（Model Cascading）来识别并重写恶意输入？
在AI模型部署中，尤其是大型语言模型（LLM）的应用场景下，输入安全（如提示注入Prompt Injection、恶意代码注入）是一个核心挑战。传统的单模型部署方式，要么需要将昂贵的大模型用于安全过滤（资源浪费），要么采用简单的硬编码规则（...
怎样利用思维链（CoT）机制来绕过LLM的传统安全防护？
导言：CoT攻击的本质 随着大型语言模型（LLM）在生产环境中的广泛应用，其安全防护机制（Guardrails）成为了AI基础设施的关键组件。传统的安全防护依赖于输入/输出关键词过滤、敏感主题分类器等。然而，高级Prompt注入技术，特别是...
如何编写恶意Prompt从ChatGPT/Claude中提取其原始系统指令？
概述：系统指令泄露的风险 对于部署在生产环境中的大模型（LLMs），如ChatGPT或Claude，它们的行为和安全边界主要由一个被称为“系统指令”（System Prompt或System Configuration）的隐藏配置控制。这些...
更换 Embedding 模型后，是否有免重导数据的索引映射或近似检索转换方案？
痛点：更换Embedding模型与海量数据重索引 在AI基础设施中，向量数据库（Vector Database）是RAG（Retrieval-Augmented Generation）和语义搜索的核心。随着新模型（如BGE、GTE或定制模型...
怎样建立AI模型漏洞报告与响应机制（Vulnerability Disclosure）？
随着AI模型在关键业务中的应用日益广泛，模型自身的安全和鲁棒性成为AI基础设施团队关注的焦点。传统的软件漏洞报告机制（Vulnerability Disclosure/VDR）需要被扩展，以适应AI独有的风险，例如对抗性攻击、数据泄漏或意外...
怎样构建一个AI模型的安全配置基线（Security Baseline）？
AI模型的部署往往涉及复杂的环境，从训练平台到生产推理服务。确保这些模型及其运行环境具备高标准的安全性（即安全配置基线，Security Baseline）是DevSecOps的关键一环。一个稳固的基线能够有效抵御供应链攻击、权限提升和敏感...
如何为边缘部署的AI模型实现加密存储和验证启动？
在边缘计算环境中，AI模型的知识产权保护和防篡改是至关重要的。模型文件通常包含大量的专有算法和训练数据信息，一旦泄露或被恶意修改，将造成巨大的经济损失。本文将详细介绍如何结合文件加密和完整性验证，实现模型在边缘设备上的安全存储和验证加载（V...
如何针对GANs等生成模型发起数据提取或模式崩溃攻击？
AI生成模型，特别是生成对抗网络（GANs）和变分自编码器（VAEs），在部署为服务时面临独特的安全挑战。由于这些模型内部可能存在对训练数据点的过度拟合（Memorization），攻击者可以利用模型输出来进行数据提取（Data Extra...
哪里可以免费托管机器学习模型？
在AI模型开发过程中，原型验证和向潜在用户或合作者展示模型成果至关重要。然而，专业的模型部署服务往往涉及高昂的云资源费用。对于预算有限的个人开发者或演示项目，寻找免费且功能强大的托管方案是首要任务。 本文将聚焦于Hugging Face S...