P3-5.5 数值缺失或区间为空的样本应该怎样处理¶
Section ID:
P3-5.5Version:v2026.09.19
遇到缺失值,应先确认缺了什么。一个观测缺失、区段均值未获得、动作结束未确认,并不是同一个问题。保留样本与能否计算某项特征,是两个不同的判断。
实测零值与未测量,连分母也不同¶
观测为 2、4,第三个值缺失时,已观测值的均值为 (2+4)/2 = 3。填零后得到 (2+4+0)/3 = 2,相当于假定未观测值为零。如果第三个值确实测得为零,2 才是三个观测的均值。
已观测均值 3 也不表示已经得知包含缺失值的原来三个值的均值。因此要保留观测数、缺失数与是否填充。记录为零时也需另查传感器有效性,不能把空白直接理解为“流量停止”。
区别读取 E01~E03 的空白¶
虚构区段摘要 CSV 包含 36 个事件的候选摘要,平均流量单位为 L/min。空白表示未获得该均值。end_detected=1 表示结束已确认,0 表示未确认;仅凭 0 无法区分动作尚未结束,还是遗漏了结束记录。
| event_id | early_flow_mean | mid_flow_mean | late_flow_mean | end_detected |
|---|---|---|---|---|
| E01 | 1.10 | 2.40 | 1.80 | 1 |
| E02 | 1.00 | 2.50 | 未获得 | 1 |
| E03 | 1.20 | 未获得 | 未获得 | 0 |
本例假设开始边界与事件关联正确,且结束已确认事件中填写的区段均值已核查。在这些前提下,针对“比较中段−前段差值”的问题,可以作如下判断。需要后段的比较另行处理。
| 事件与状态 | 允许部分缺失时 | 可使用的值 | 不计算或不确认的值 |
|---|---|---|---|
| E01:三个均值、结束已确认 | 保留 | 中段−前段 1.30,后段−中段 −0.60 | 没有时间信息,不能确定每秒变化率 |
| E02:结束已确认、后段均值缺失 | 保留用于前中段比较 | 中段−前段 1.50 | 后段均值及后段−中段差值 |
| E03:结束未确认 | 暂缓完整动作比较 | 保留 1.20 作为追查原始记录的线索 | 总时长及依赖结束边界的区段特征 |
保留 E02 不会使它变得可用于后段比较。E03 的 1.20 也无须删除,但如果前段定义依赖结束边界,就应重新检查它作为动作特征是否有效。“暂缓”指不纳入当前比较并回查原始记录,而不是删除原始资料。
区段均值空白也不证明该区段所有传感器记录都消失了。要区分观测不足、未通过质量要求或汇总失败,还需要原始记录和汇总规则。
改变保留政策后,哪十二个事件被排除¶
以 keep_partial_samples 命名是否保留部分缺失事件作为当前比较候选的政策。True 表示结束已确认且前中段均值存在时,保留用于该范围的比较;False 表示只保留三个均值都存在的事件。两种政策都暂缓结束未确认的事件。这是本例的政策,并非适用于所有缺失资料的通用规则。
| CSV 状态 | 事件数 | True 时保留 | False 时保留 |
|---|---|---|---|
| 三个均值、结束已确认 | 12 | 12 | 12 |
| 结束已确认、后段均值缺失 | 12 | 12 | 0 |
| 结束未确认、中后段均值缺失 | 12 | 0 | 0 |
| 合计 | 36 | 24 | 12 |
不要修改原始文件,找出从 True 改为 False 后新增的排除事件。答案为 E02, E05, E08, E11, E14, E17, E20, E23, E26, E29, E32, E35。E03 这类结束未确认的十二个事件原本就已暂缓,不是政策改变后才新增的排除对象。
保留事件由 24 减为 12,但使用后段均值的比较,两种政策都只有十二个事件。True 额外保留的十二个事件没有后段值,因此不能把样本保留数直接作为所有特征的计算分母。
运行条件与缺失状态需要分别检查¶
当前 CSV 能确认的是各缺失状态的数量。它没有设备、日夜班、负载或采集期间列,因此无法判断哪种运行条件被排除得更多。需要通过 event_id 关联条件资料,再比较排除前后的各条件数量与比例,不能从 E01 等编号顺序推断条件。
另作假设:缺少后段均值的十二个事件全发生在夜间。那么严格政策会排除这十二个夜间事件;是否仍有其他夜间事件保留,需要进一步查看条件资料。这说明排除可能改变覆盖范围,并不是在描述实际 CSV 的夜间分布。
缺失标记是记录,不自动成为有效特征¶
保留 late_mean_missing、end_detected、keep_sample 和 exclusion_reason,可以追踪哪里缺失、为何被排除。缺失是否与通信、传感器或运行条件有关,需要另行调查;仅凭空白无法确定故障原因。
把缺失标记用作模型输入前,应检查预测时是否已知、是否在目标结果出现后才产生,以及训练与应用环境中是否含义一致。创建标记列,并不证明它对预测有用或能提高性能。
flowchart TD
A[观测值或区间均值缺失的样本] --> B{能否确认样本的起点与终点?}
B -->|否| C[复查原始日志<br/>暂缓使用当前样本]
B -->|是| D[记录受影响特征与缺失范围]
D --> E{剩余信息能否支持当前比较?}
E -->|是| F[保留样本<br/>记录缺失标记与特征处理规则]
E -->|否| G[从当前比较中排除或检查补充记录]
请改写“既然保留了 E02,就把后段填零后比较”。参考答案是:“保留 E02 作为前中段比较候选,后段均值及其差值仍标为未获得。需要后段值的比较不纳入该事件,并记录原因和该项比较的分母。”
检查清单¶
- 能否说明已观测均值 3 与填零均值 2 回答不同问题?
- 能否区分 E02 的后段均值未获得与 E03 的结束未确认?
- 是否确认了政策改变后新增排除的十二个事件有何共同状态?
- 能否区分 24 个保留事件与 12 个可用于后段比较的事件?
- 是否写明检查运行条件排除影响所需的额外资料?
- 能否区分缺失标记的记录价值与作为模型输入的适用性?
来源与参考资料¶
- scikit-learn developers,Imputation of missing values。说明删除不完整行可能丢失信息,缺失标记可保留原来的缺失状态。本节的保留、暂缓政策及数值案例均为自行设计的虚构方案。/ 查阅日期:2026-09-19