汤不热吧
怎样利用LLM的上下文学习机制进行有针对性的数据提取？
引言：为什么ICL是数据提取的利器？ 在大规模语言模型（LLM）的部署场景中，一项常见的任务是从非结构化文本（如邮件、合同、日志）中提取特定的、结构化的信息（如姓名、金额、日期）。传统的做法是依赖正则表达式或训练特定的命名实体识别（NER）...
人工智能和大数据
如何针对多模态LLM（LMM）发起跨模态的提示注入攻击？
多模态大语言模型（LMMs），如GPT-4V和Claude 3等，正在成为AI应用的新前沿。它们通过集成的视觉编码器（Vision Encoder）处理图像输入，并将视觉信息转化为语言模型可以理解的嵌入（Embeddings）。然而，这种跨...
怎样使用“分隔符”或“换行符”绕过基于关键词的输入过滤器？
在AI模型部署，尤其是大型语言模型（LLM）的场景中，输入验证和安全过滤是至关重要的防御层。许多开发者会依赖简单的关键词匹配机制来阻止恶意或不当的输入（例如，阻止“删除数据”、“系统提示”等敏感指令）。然而，攻击者通常使用一种极其简单但有效...
如何设计一个自动化的工具来生成多样化的越狱攻击提示？
深入理解自动化越狱提示生成（SAPG） 在将大型语言模型（LLM）部署到生产环境之前，进行严格的安全性和鲁棒性测试是至关重要的。传统的红队测试往往依赖人工构造提示，效率低下且覆盖面不足。为了系统性地评估和增强模型的防御能力，我们需要一个结构...
怎样利用思维链（CoT）机制来绕过LLM的传统安全防护？
导言：CoT攻击的本质 随着大型语言模型（LLM）在生产环境中的广泛应用，其安全防护机制（Guardrails）成为了AI基础设施的关键组件。传统的安全防护依赖于输入/输出关键词过滤、敏感主题分类器等。然而，高级Prompt注入技术，特别是...
如何解决’Tensor’ object has no attribute ‘zero_grad’,直接将tensor的梯度置为0
在PyTorch的深度学习训练中，管理和清零梯度（Gradient）是一个基础且关键的步骤。然而，很多初学者在尝试手动清零某个特定张量（Tensor）的梯度时，会遇到一个令人困惑的错误：AttributeError: ‘Tens...
Python TypeError object of type is not JSON serializable
在AI基础设施和模型部署的实践中，我们经常使用Python框架（如FastAPI或Flask）来构建API服务。当模型推理结果返回或日志数据需要通过HTTP响应传递时，数据必须被序列化为JSON格式。 然而，Python标准库的json模块...
TypeError: SpacyNlpEngine.__init__() got an unexpected keyword argument model_config
在AI基础设施和大规模NLP流水线部署中，Apache Spark NLP (John Snow Labs) 是一个常用的高性能工具。然而，在进行版本升级或跨环境迁移时，开发者经常会遇到依赖冲突和初始化错误。其中一个常见且令人困惑的错误是 ...
怎么解决ERROR: Invalid wheel filename(wrong number of parts)问题
在AI模型部署和基础设施构建过程中，我们经常需要安装特定的、编译好的Python依赖包，这些包通常以.whl（Wheel）文件的形式分发。然而，在手动或自动安装过程中，可能会遇到臭名昭著的错误：ERROR: Invalid wheel fi...
如何编写恶意Prompt从ChatGPT/Claude中提取其原始系统指令？
概述：系统指令泄露的风险 对于部署在生产环境中的大模型（LLMs），如ChatGPT或Claude，它们的行为和安全边界主要由一个被称为“系统指令”（System Prompt或System Configuration）的隐藏配置控制。这些...