P3-6.3 人工设计的特征,与模型学习到的表示,应该怎样区分¶
Section ID:
P3-6.3Version:v2026.09.19
可以不制作手工汇总特征,而把保留顺序的原始测量值交给模型。必须明确的是样本单位、预测时点之前可用的资料,以及要回答的问题。输入边界必须确定;均值、斜率和 token 则按需选择。
同一批原始值可以进入两条输入路径¶
以虚构的已完成动作为例,四个等间隔传感器观测为 [1, 3, 3, 1]。规定在动作结束时,用这四个值预测之后是否需要检查。两条路径使用同一批资料和同一预测时点。
| 区分 | 使用汇总特征的路径 | 保留有序数值的路径 |
|---|---|---|
| 人规定的输入 | 均值 2,末值−首值 0 | [1, 3, 3, 1] 的顺序与测量间隔 |
| 保留的信息 | 整体水平与两端差值 | 中间升高的位置数值 |
| 学习的例子 | 学习两个特征与结果之间的关系 | 处理序列的神经网络学习区分位置间模式的内部值 |
| 人还需确定的内容 | 汇总规则、单位、缺失处理 | 长度、顺序、间隔、缺失处理与输入格式 |
第二条路径不要求先计算均值或 token,但也不能随便提供任意格式的文件。仍需规定单位、顺序和有效观测范围,并准备模型接受的数组格式。也可以结合两条路径,同时提供序列和汇总特征。
[3, 1, 1, 3] 的均值同样为 2,末值减首值也为 0。只收到这两个汇总特征的模型,无法从输入区分两个动作。保留顺序的输入仍然不同,因此区分所需的信息还在;模型是否能有效利用它,要根据资料、学习目标和模型验证。信息存在与性能良好是不同判断。
区别人规定的计算与学习得到的计算¶
均值公式或固定的 UP/FLAT/DOWN 边界,是人明确指定的规则。表示学习则通过训练中调整的参数,把输入变成内部值。人规定学习目标与模型结构等,但不必把每个内部值都人工命名为“后段下降”。学得的值也不保证像手工特征一样容易直接解释。
并非所有模型都会学习新的内部表示。有些模型从给定特征学习它们与结果之间的关系。反过来,学习内部表示的模型也可以接收手工特征。因此,谁汇总了输入与模型学习什么,需要分别判断。
前一节的“中间表示”是人按规则制作的区段或 token。在其他语境中,神经网络内部学得的值也称中间表示。应确认它指的是固定规则制作的输入,还是通过学习调整的内部值。具体学习机制将在后面的深度学习 Part 介绍。
图像与文档同样需要输入边界¶
| 资料 | 人需确定的边界示例 | 可能的输入路径 |
|---|---|---|
| 传感器动作 | 完整动作还是截至当前的 30 秒,使用哪些传感器 | 汇总特征或有序测量值 |
| 图像 | 整张照片还是裁剪区域,拍摄时点与对象是什么 | 颜色汇总或准备好的像素数组 |
| 文档 | 整篇文档还是段落,能读取哪个版本 | 词数汇总或有序文本 token |
文本 token 是供模型输入使用的语言处理单位,与前一节的斜率 token 规则不同。任何路径都不应把预测时点之后产生的结果混入输入。学习内部表示也不能如实恢复缺失记录,或在输入之前已丢弃的细节。
两条路径中由人负责的判断¶
flowchart TD
Q["问题、样本、预测时点、输入范围"] --> R["同一批原始测量"]
R --> A["选择汇总特征"]
A --> B["学习给定特征与结果的关系"]
R --> C["准备有序数值"]
C --> D["学习神经网络内部表示"]
请改正:“使用深度学习必须先计算均值,再转换为 token,然后输入神经网络。”答案是:“先确定样本、预测时点和输入范围,再按目的选择汇总特征、有序原始值或需要的 token。”可以省去手工汇总,但不能省去输入说明。
如果两个数组都缩减为单个均值 2,更大的神经网络能恢复原顺序吗?仅凭该输入无法确定原来是哪一个数组。需要的顺序信息应在设计输入时保留。
检查清单¶
- 能否区分必需的输入边界与可选的手工汇总?
- 能否用两条路径表达同一批原始值,并说明各自丢失的信息?
- 能否区分固定计算规则与学得的内部计算?
- 能否为一张图像与一篇文档规定输入范围?
相关概念:输入说明(input specification), 表示学习(representation learning).
来源与参考资料¶
- Google for Developers, Machine Learning Glossary. 参考 feature、feature engineering 与 representation 的术语定义。两个数组与输入路径是自行设计的说明案例。 / 2026-09-19