04.9. 环境和分布偏移

4.9. 环境和分布偏移

• 数据最初从哪里来？
• 最终如何处理模型的输出？

当数据分布突然改变时，模型在部署中会出现灾难性的失败
机器学习的许多应用中都存在类似的问题： 通过将基于模型的决策引入环境，可能会破坏模型。

4.9.1. 分布偏移的类型

首先，我们考虑数据分布可能发生变化的各种方式，以及为挽救模型性能可能采取的措施。

4.9.1.1. 协变量偏移

在不同分布偏移中，协变量偏移可能是最为广泛研究的。 这里我们假设：虽然输入的分布可能随时间而改变， 但标签函数（即条件分布）没有改变。
统计学家称之为协变量偏移（covariate shift）， 因为这个问题是由于协变量（特征）分布的变化而产生的。
虽然有时我们可以在不引用因果关系的情况下对分布偏移进行推断， 但在我们认为导致的情况下，协变量偏移是一种自然假设。

4.9.1.2. 标签偏移

标签偏移（label shift）描述了与协变量偏移相反的问题。

4.9.1.3. 概念偏移

概念偏移（concept shift）： 当标签的定义发生变化时，就会出现这种问题

4.9.2. 分布偏移示例

• 医学诊断
• 自动驾驶
• 非平稳分布
• 。。。

4.9.3. 分布偏移纠正

• 经验风险与实际风险
• 协变量偏移纠正
• 标签偏移纠正
• 概念偏移纠正

4.9.4. 学习问题的分类法

• 批量学习
• 在线学习
• 老虎机
• 控制
• 强化学习
• 考虑到环境

4.9.5. 机器学习中的公平、责任和透明度

• 从考虑预测到决策的飞跃不仅提出了新的技术问题， 而且还提出了一系列必须仔细考虑的伦理问题。
• 注意是否解决了正确的问题。
• 通常，在建模纠正过程中，模型的预测与训练数据耦合的各种机制都没有得到解释，

4.9.6. 小结

• 在许多情况下，训练集和测试集并不来自同一个分布。这就是所谓的分布偏移。

• 真实风险是从真实分布中抽取的所有数据的总体损失的预期。然而，这个数据总体通常是无法获得的。经验风险是训练数据的平均损失，用于近似真实风险。在实践中，我们进行经验风险最小化。

• 在相应的假设条件下，可以在测试时检测并纠正协变量偏移和标签偏移。在测试时，不考虑这种偏移可能会成为问题。

• 在某些情况下，环境可能会记住自动操作并以令人惊讶的方式做出响应。在构建模型时，我们必须考虑到这种可能性，并继续监控实时系统，并对我们的模型和环境以意想不到的方式纠缠在一起的可能性持开放态度。