开源大数据比对平台—dataCompare
dataCompare是一个开源的大数据比对工具,支持Hive和MySQL等数据库的自动化数据比对,通过界面交互和低代码配置简化数据校验流程,提高数据验证效率。
项目地址:https://github.com/zhugezifang/dataCompare类别:Java、Hive、Spark 大数据项目标题:开源大数据比对平台—dataCompare项目描述:dataCompare 是一个数据库比对工具:支持hive表数据比对,mysql 数据比对,实现自动化配置进行数据比对,避免频繁写sql 进行处理,后续考虑支持doris、ck等等亮点:(1)验证数据、数据比对,浪费极大的人力成本(2)没有一套标准,验证的结果难以评估(3)达到界面交互、勾选或者低代码即可实现自动化数据校验比对(4)低代码简单配置完成数据比对核心功能(5)数据量级比对、数据一致性比对示例代码:代码请参考仓库。截图:后续更新计划:(1)差异case发现(2)数据指针探测----枚举值探测、范围探测、数值探测、主键取模探测(3)数据比对任务定时自动调度(4)对比结果自动发送邮件报告