跳转至

数据质量与可复核方案

1. 目标

数据质量与可复核方案要回答:

  • 数据有没有被正确读取。
  • 清洗规则是否合理。
  • 指标是否能从同一批数据复算。
  • 老师或队友能否复现核心结果。

2. 质量检查表结构

建议 Excel 至少包含这些工作表:

工作表 内容
数据概览 文件数、总行数、字段数、观察期
分片检查 每个 CSV 的行数、异常数、时间范围
缺失检查 每列缺失数、缺失率
行为类型检查 pv、fav、cart、buy 分布,异常行为数量
时间范围检查 观察期内外记录数量
重复检查 完全重复行数量
清洗前后对比 原始记录数、剔除数、保留数

3. 可复核材料

  • 清洗脚本。
  • 指标计算脚本。
  • 指标字典。
  • 汇总结果表。
  • 操作手册。
  • 外链登记。

4. 复核流程

  1. 按外链登记找到原始数据。
  2. 运行清洗脚本。
  3. 查看质量检查表。
  4. 运行指标脚本。
  5. 对比汇总表和看板数字。
  6. 对比报告和 PPT 中引用的关键数字。

5. 常见风险

  • 报告使用旧版指标表。
  • 看板筛选条件和指标表不一致。
  • 清洗后数据没有标明版本。
  • 虚拟数据和真实数据混用。

6. 推荐做法

  • 每个结果文件加版本号。
  • 每天收工前由组长做一次数字一致性检查。
  • 指标变更必须同步更新指标字典。
  • 所有大文件外链都写负责人、版本、用途和更新时间。