现在我们将进入对抗机器学习的主课程部分，从1.1节开始：对抗机器学习的进阶理论。

在这一部分，我们将深入探讨对抗机器学习的理论基础，包括模型的不确定性和鲁棒性。

模型的不确定性

• 不确定性的来源： 在机器学习中，不确定性可能源于数据（例如噪声或不完整的数据）或模型（如参数的不确定性）。

• 量化不确定性： 理解和量化模型的不确定性对于评估其可靠性和作出更准确的预测非常重要。

模型鲁棒性

• 鲁棒性的定义： 模型鲁棒性指的是模型在面对输入数据的微小变化或扰动时，保持性能稳定的能力。

• 评估鲁棒性： 通过测试模型对各种扰动（包括对抗样本）的反应，可以评估其鲁棒性。

对抗攻击与模型不确定性

• 对抗样本的挑战： 对抗样本揭示了模型在处理稍微改变的输入时的脆弱性，这与模型的不确定性密切相关。

• 理论框架： 理解这种关系有助于开发更鲁棒的机器学习模型和有效的防御策略。

思考题 🤔

• 如何在模型设计中考虑并减轻不确定性的影响？

• 在面对复杂和动态环境时，如何确保模型的鲁棒性？