特征#

术语解释#

在机器学习和深度学习中，特征（Feature），也常被称为属性（Attribute），是指用于描述样本特定维度的数值或信息，它是模型进行预测和计算的输入变量。

特征是样本属性的量化表示。

例如，假设你正在训练一个模型来确定天气状况对学生考试成绩的影响。下表显示了3个示例（行），每个示例包含3个特征（列）和一个标签：

同时，根据取值性质，特征主要分为两类：

• 离散型特征（Discrete Variable）：每个特征的取值属于某一个固定的类别，例如是否有房（是/否）、学历等级（小学/中学/大学）等。

• 连续型特征（Continuous Variable）：特征取值为一定范围内的实数，例如年龄、身高、房屋面积或图像中的像素值。

特征是模型理解世界的“触角”。从简单的数值统计到复杂的词向量（Word Embedding）或图像特征图（Feature Map），特征的设计与提取能力直接决定了机器学习系统的表现上限。

具体特征与抽象特征#

传统机器学习与深度学习在特征处理上的核心区别：

• 具体特征（可解释特征）：传统机器学习侧重于人工设计特征。这些特征具有明确的物理含义，例如在泰坦尼克号预测中使用的“船舱等级”、“性别”和“票价”。

• 抽象特征（隐含特征）：深度学习的核心目的是自动特征提取。通过多层神经网络，原始输入（如像素点）被转化为日益抽象的内部表示。这些特征在人类看来可能没有明确含义（例如卷积神经网络中间层的输出），但却能更有效地捕捉数据中复杂的模式。

  
  深层特征提取示意图

  如图所示是利用深度卷积神经网络对图片进行特征提取后的可视化结果，其中左边是靠近输入层的特征图，右边的靠近输出层的特征图，而以人类的视角我们根本无法说出上述特征图的实际意义。