标签：攻击者

2026-01-01andy阅读(67)评论(0)

为什么需要双层防御？ 提示注入（Prompt Injection, PI）是目前LLM应用面临的最严重的安全威胁之一。攻击者通过操纵输入，试图让LLM忽略开发者提供的系统指令（System Prompt），从而执行恶意或未经授权的任务。 仅...

2025-12-19andy阅读(61)评论(0)

简介：模型反演攻击 (MIA) 的威胁 模型反演攻击（Model Inversion Attack, MIA）是一种严重的隐私泄露威胁，它允许攻击者仅通过访问模型的输出（如置信度分数或 Logits）来重构出训练数据中的敏感特征。例如，在人...

2025-12-04andy阅读(105)评论(0)

模型窃取（Model Stealing）是一种严重的知识产权威胁，攻击者通过反复查询目标模型的API接口，收集输入-输出对，然后利用这些数据训练一个功能相似的“窃取模型”。这种黑盒提取（Black-Box Extraction）方法，特别是...