更新于 2026年10月15日 全文 685 字未阅读

数值型数据:第1步#

在创建特征向量之前,建议先从两个角度审视数值型数据:

  • 用图表(plot、graph)把数据画出来。

  • 用统计量描述数据。


把数据可视化#

图表能帮你发现藏在数据里的异常或规律。所以,在一头扎进分析之前,先把数据画出来看——比如画成散点图(scatter plot)或直方图(histogram)。同时,图表绘制不应只用于数据预处理开始阶段,整个数据预处理过程中都要持续借助它——可视化是不断验证假设的有力手段。

推荐使用 pandas 做可视化:


用统计方法评估数据#

除了可视化之外,还建议从统计角度对候选的特征和标签做一轮评估,常用的基础统计量包括:

  • 均值(mean)与中位数(median)

  • 标准差(standard deviation)

  • 四分位点对应的取值:第 0、25、50、75、100 百分位数。其中第 0 百分位是该列的最小值,第 100 百分位是该列的最大值(第 50 百分位就是中位数)。


寻找异常值#

异常值(outlier) 是指在一列特征或标签中,远远偏离 其他绝大多数取值的那个值。异常值常常会干扰模型训练,所以及时把它们识别出来很重要。

如果第 0 到第 25 百分位之间的差值,与第 75 到第 100 百分位之间的差值明显不对称,那么这份数据中很可能藏着异常值。

注意: 不要过度依赖基础统计量——看上去很均衡的数据里,也可能藏着异常。

异常值大致可以分为以下两类:

  • 异常来自失误——例如实验人员多敲了一个 0,或者采集数据的仪器意外失灵。这种"失误型"异常,一般把对应样本直接删掉即可。

  • 异常本身是合理的数据,并非由失误造成。这种情况下,需要先想清楚:你最终训练出来的模型,需不需要在这些异常上也做出较好的预测?

    • 如果需要,请把这些异常保留在训练集中。毕竟,特征上的异常有时恰好对应着标签上的异常,这些异常值反而能帮模型学到更准确的预测。但要注意:极端的异常值仍然可能对模型造成干扰。

    • 如果不需要,可以删掉这些异常值,或者采用更深入的特征工程技术,例如裁剪(clipping)。

关键术语:

  • 裁剪(Clipping)
  • 异常值(Outliers)
阅读 --