标签：随机化

2025-12-21andy阅读(26)评论(0)

概述：理解梯度攻击与随机化防御 基于梯度的对抗性攻击（如FGSM、PGD）通过计算输入像素对于模型损失函数的梯度，微调输入数据以最小的扰动诱导模型做出错误判断。这些攻击的有效性高度依赖于模型决策边界的局部平滑性和梯度的确定性。 随机化防御的...

2025-12-06andy阅读(55)评论(0)

在AI模型部署到生产环境时，对抗攻击（Adversarial Attack）的鲁棒性是一个不可忽视的问题。低强度的攻击，例如基于梯度符号法（FGSM）或低迭代投影梯度下降法（PGD），往往通过添加人眼难以察觉的微小扰动，就能使模型做出错误的...