标签：提示

2026-02-13andy阅读(51)评论(0)

随着大模型（LLM）被集成到车载娱乐和导航系统，语音助手的能力得到了极大的增强。然而，这种能力也带来了新的安全风险：提示词注入（Prompt Injection，PI）。攻击者可能通过精心构造的语音指令，诱骗LLM绕过安全限制，执行非预期操...

2026-01-03andy阅读(114)评论(0)

如何设计一个多层防御的鲁棒系统提示以防止大模型越狱攻击 在模型部署中，系统提示（System Prompt）是AI基础设施安全性的第一道防线。然而，仅仅依靠一段文本指令很难抵御日益复杂的“越狱”（Jailbreaking）和“提示注入”（P...

2025-12-29andy阅读(244)评论(0)

深入理解自动化越狱提示生成（SAPG） 在将大型语言模型（LLM）部署到生产环境之前，进行严格的安全性和鲁棒性测试是至关重要的。传统的红队测试往往依赖人工构造提示，效率低下且覆盖面不足。为了系统性地评估和增强模型的防御能力，我们需要一个结构...