更新于 2026年10月15日 全文 396 字未阅读

预测偏差#

计算预测偏差（Prediction Bias） 是一种早期就能发现模型或训练数据问题的快速检查。

预测偏差指的是模型预测（Prediction）结果的平均值与数据样本标准答案（Ground Truth）标签的平均值之间的差值。在一份垃圾邮件占比为 5% 的数据集上训练出来的模型，平均而言在所有邮件的预测结果中应该有 5% 是垃圾邮件。换言之，训练集中垃圾邮件标签的均值是 0.05，那么模型预测结果垃圾邮件的均值也应当是 0.05。如果确实如此，那么这个模型的预测偏差为零。当然，（即使满足这个条件了）模型仍可能存在其他方面的问题。

如果模型在 50% 的情况下把一封邮件预测为垃圾邮件，那么训练集、模型所应用的新数据集，或者模型本身一定有问题。也就是说，如果两个均值之间出现的任何显著差异，都说明模型存在一定的预测偏差。

预测偏差可能由以下原因造成：

  • 数据中存在偏差或噪声，包括训练集的采样偏差

  • 正则化过强，意味着模型被过度简化，丢失了一些必要的复杂度

  • 模型训练流水线中存在 bug

  • 提供给模型的特征集不足以支撑该任务

关键术语：

  • 标准答案（Ground Truth）
  • 预测（Prediction）
  • 预测偏差（Prediction Bias）
阅读 --