汤不热吧
如何通过“输入扰动”使LLM生成被禁止的毒性内容？
如何通过通用对抗性后缀（GCG）分析与防御大型语言模型的越狱攻击 大型语言模型（LLMs）的安全对齐是一个核心挑战。尽管开发者投入了大量精力来对模型进行安全训练和红队测试（Red Teaming），恶意用户仍能通过构造精巧的“输入扰动”来诱...
人工智能和大数据
第26页如何评估您的LLM应用对各种经典越狱策略（如DAN）的抵抗力？
引言：为什么必须测试越狱抵抗力 在将大型语言模型（LLM）投入生产环境时，模型的安全性是AI基础设施工程师必须解决的首要问题。即使是经过严格对齐（Alignment）训练的模型，也可能被特定的输入序列（即“越狱”或“Jailbreak”）绕...
怎样利用LLM的上下文学习机制进行有针对性的数据提取？
引言：为什么ICL是数据提取的利器？ 在大规模语言模型（LLM）的部署场景中，一项常见的任务是从非结构化文本（如邮件、合同、日志）中提取特定的、结构化的信息（如姓名、金额、日期）。传统的做法是依赖正则表达式或训练特定的命名实体识别（NER）...
如何针对多模态LLM（LMM）发起跨模态的提示注入攻击？
多模态大语言模型（LMMs），如GPT-4V和Claude 3等，正在成为AI应用的新前沿。它们通过集成的视觉编码器（Vision Encoder）处理图像输入，并将视觉信息转化为语言模型可以理解的嵌入（Embeddings）。然而，这种跨...
怎样使用“分隔符”或“换行符”绕过基于关键词的输入过滤器？
在AI模型部署，尤其是大型语言模型（LLM）的场景中，输入验证和安全过滤是至关重要的防御层。许多开发者会依赖简单的关键词匹配机制来阻止恶意或不当的输入（例如，阻止“删除数据”、“系统提示”等敏感指令）。然而，攻击者通常使用一种极其简单但有效...
如何设计一个自动化的工具来生成多样化的越狱攻击提示？
深入理解自动化越狱提示生成（SAPG） 在将大型语言模型（LLM）部署到生产环境之前，进行严格的安全性和鲁棒性测试是至关重要的。传统的红队测试往往依赖人工构造提示，效率低下且覆盖面不足。为了系统性地评估和增强模型的防御能力，我们需要一个结构...
怎样利用思维链（CoT）机制来绕过LLM的传统安全防护？
导言：CoT攻击的本质 随着大型语言模型（LLM）在生产环境中的广泛应用，其安全防护机制（Guardrails）成为了AI基础设施的关键组件。传统的安全防护依赖于输入/输出关键词过滤、敏感主题分类器等。然而，高级Prompt注入技术，特别是...
如何解决’Tensor’ object has no attribute ‘zero_grad’,直接将tensor的梯度置为0
在PyTorch的深度学习训练中，管理和清零梯度（Gradient）是一个基础且关键的步骤。然而，很多初学者在尝试手动清零某个特定张量（Tensor）的梯度时，会遇到一个令人困惑的错误：AttributeError: ‘Tens...
Python TypeError object of type is not JSON serializable
在AI基础设施和模型部署的实践中，我们经常使用Python框架（如FastAPI或Flask）来构建API服务。当模型推理结果返回或日志数据需要通过HTTP响应传递时，数据必须被序列化为JSON格式。 然而，Python标准库的json模块...
TypeError: SpacyNlpEngine.__init__() got an unexpected keyword argument model_config
在AI基础设施和大规模NLP流水线部署中，Apache Spark NLP (John Snow Labs) 是一个常用的高性能工具。然而，在进行版本升级或跨环境迁移时，开发者经常会遇到依赖冲突和初始化错误。其中一个常见且令人困惑的错误是 ...