标签：红队

2025-12-06andy阅读(15)评论(0)

在AI模型，特别是大语言模型（LLM）被用于高价值、高风险决策的场景中（如金融风控、医疗诊断或关键基础设施控制），对其进行严格的红队测试（Red Teaming）是确保鲁棒性和安全性的关键步骤。红队测试的目标不仅仅是发现传统的软件漏洞，更重...

2025-11-13andy阅读(106)评论(0)

如何使用 PyRIT 框架进行大模型安全评测的架构解析与实战 随着大型语言模型（LLMs）的广泛应用，对其进行严格的安全性和鲁棒性评估变得至关重要。微软开发的 Python Risk Identification Toolkit (PyRI...