《ODS数据质量检查脚本开发》由会员分享,可在线阅读,更多相关《ODS数据质量检查脚本开发(2页珍藏版)》请在金锄头文库上搜索。
1、ODS数据质量检查脚本开发一、 目的ODS层数据加载期间,限于源系统数据质量,会对数据进行一定程度的清洗。在洗洗过程中未知问题可能会造成数据的失真,导致后期数据加工会出错,所以需要实现ODS层数据加载后,ODS层对数据质量的进行一次检核。二、数据现状数据按照ODS层表命名规则,存放在相应的表里。三、实现基于计划中前置条件 2、3、4、5、6、7 产生的查数SQL脚本(即检核规则),编制相应的SHELL脚本,来判断数据加工结果准确与否,并将核对结果入ODS监控系统表。相关表结构设计如下:ods_quality_check_list字段名字段英文名字段类型是否主键NULL备注分行号proc_noc
2、har(2)10会计日期record_dtchar(8)10检查项编号check_idchar (4)10检查项check_namechar (255)00检查结果check_resultchar(1)001是,0否检查时间check_timeChar(20)10ods_quality_check_help字段名字段英文名字段类型是否主键NULL备注检查项编号check_idChar(4)10检查项check_nameChar(255)00帮助check_helpChar(500)00表ods_quality_check_help 数据检查项编号检查项帮助(相应出错处理指导,待定)check_idcheck_namecheck_help1PDS:分户帐的核对2PDS:明细信息的核对3PDS:产品与账号对应关系4PDS:存款利息5CMP:企业客户信息与账户信息核对6CMP:交易明细的核对7CMP:分户的核对8CAS:AC拼接9CAS:贷款利息10CAS:贷款明细与主档11AI:总帐自身核对12AI:总帐与分户帐核对13AI:总帐与内部核算分户帐核对14AI:GAT与PLP_C之间核对ODS调度开发人员,基于以上两张表将结果展现给监控人员,以便进行错误定位。