怎样通过“间接注入”劫持基于RAG系统的LLM代理?
概述:RAG与间接注入的威胁 随着大语言模型(LLM)代理的兴起,将模型的能力与外部知识库相结合(即检索增强生成,RAG)已成为主流的部署范式。RAG系统极大地增强了LLM的时效性和专业性,但同时也引入了一个新的安全漏洞:间接注入(Indi...
概述:RAG与间接注入的威胁 随着大语言模型(LLM)代理的兴起,将模型的能力与外部知识库相结合(即检索增强生成,RAG)已成为主流的部署范式。RAG系统极大地增强了LLM的时效性和专业性,但同时也引入了一个新的安全漏洞:间接注入(Indi...