标签：红队

2026-03-19andy阅读(195)评论(0)

如何构建内部AI红队并制定年度攻击演习计划 随着大语言模型（LLM）和生成式AI在企业基础设施中的深度集成，传统的安全边界正在模糊。AI红队（Red Teaming）不再是可选项，而是AI基础设施（AI Infra）治理的核心。本文将从团队...

2025-12-24andy阅读(803)评论(0)

随着人工智能（AI）在网络安全领域（如EDR、NIDS、恶意软件检测）的广泛应用，传统的红队测试方法已不足以评估这些系统的真实防御能力。攻击者现在不仅攻击代码或配置，更开始攻击系统背后的“大脑”——机器学习模型。设计针对AI安全产品的红队测...

2025-12-06andy阅读(384)评论(0)

在AI模型，特别是大语言模型（LLM）被用于高价值、高风险决策的场景中（如金融风控、医疗诊断或关键基础设施控制），对其进行严格的红队测试（Red Teaming）是确保鲁棒性和安全性的关键步骤。红队测试的目标不仅仅是发现传统的软件漏洞，更重...

2025-11-13andy阅读(759)评论(0)

如何使用 PyRIT 框架进行大模型安全评测的架构解析与实战 随着大型语言模型（LLMs）的广泛应用，对其进行严格的安全性和鲁棒性评估变得至关重要。微软开发的 Python Risk Identification Toolkit (PyRI...