标签：提示

2026-01-03andy阅读(39)评论(0)

如何设计一个多层防御的鲁棒系统提示以防止大模型越狱攻击 在模型部署中，系统提示（System Prompt）是AI基础设施安全性的第一道防线。然而，仅仅依靠一段文本指令很难抵御日益复杂的“越狱”（Jailbreaking）和“提示注入”（P...

2025-12-29andy阅读(101)评论(0)

深入理解自动化越狱提示生成（SAPG） 在将大型语言模型（LLM）部署到生产环境之前，进行严格的安全性和鲁棒性测试是至关重要的。传统的红队测试往往依赖人工构造提示，效率低下且覆盖面不足。为了系统性地评估和增强模型的防御能力，我们需要一个结构...