Skip to main content

脏数据分析

该模块展示实时任务运行过程中记录到的脏数据内容和分析情况。

前提要求

  • 目前仅支持Flink1.12的FlinkSQL任务类型
  • 需要在【任务开发-任务设置】处开启脏数据管理,并选择脏数据保存

脏数据列表

  • 列表内容:
列表字段说明
时间默认表示脏数据出现的时间,如果没有获取到会记录写入脏数据库的时间
脏数据表FlinkSQL中涉及到的表,一般sink表容易出现脏数据
脏数据详情展示某行写入失败的数据,目前系统无法定位到是哪个字段的问题
脏数据原因打印日志内容,可以通过分析日志排查具体脏数据原因。比如写入数据字符过长、格式转化失败等
  • 列表操作

    支持根据时间、来源表过滤脏数据,支持下载列表所有脏数据内容。