jy-data-extract

zhangjinkun 4b85dd5479 Merge branch 'dev3.3' of http://192.168.3.207:10080/qmx/jy-data-extract into dev3.3 5 жил өмнө
dataclean c4715e91c7 xg 5 жил өмнө
dataprocess 6d6606d1b7 逻辑管理 5 жил өмнө
fullproject d5829195f1 项目合并,去掉相似度判断 5 жил өмнө
src 7e277ddc15 分包优化 5 жил өмнө
udp_ocr_conter 2113d51aa1 map读写异常 5 жил өмнө
udpcreateindex 04371fdede 修改extracttype结果 5 жил өмнө
udpextractbuyer 083ce1e3e3 项目迁移 6 жил өмнө
udpextractwinner 083ce1e3e3 项目迁移 6 жил өмнө
udpfileocr c6e788d49b 睡眠时间 5 жил өмнө
udpfilterdup a919be4a92 优化 5 жил өмнө
udpprojectset 09a7e52ad0 插入合并 6 жил өмнө
udprepairdata 083ce1e3e3 项目迁移 6 жил өмнө
udps 547fd4bd0a 备份 5 жил өмнө
versioncomparison c010655871 标注对比 6 жил өмнө
.gitignore 73d3522e8f init 7 жил өмнө
README.md 21e2a68249 init 7 жил өмнө

README.md

一、任务管理 任务支持

1、全局配置   包含连接配置、保存配置、并发配置、分布式抽取配置
2、前置逻辑   多条lua脚本的前置逻辑、支持按顺序执行或跳过后续逻辑,可以上下移动执行顺序(开关)
3、抽取逻辑   a、多条抽取逻辑(按lua脚本判断是否进入)和一条通用抽取逻辑、支持按顺序执行或跳过后续逻辑,可以上下移动执行顺序。
             b、抽取逻辑中可以选择是否先处理分块解析、k/v解析、表格解析、分包解析(注:如果前面逻辑已经处理过kv/表格,则后续的逻辑中不在重复处理kv/表格,直接用即可) 
             c、抽取逻辑下可以新建 lua抽取和字段抽取
             字段抽取 支持前置处理  抽取  后置处理  (开关)
4、后置逻辑   同前置逻辑
*抽取字段支持依赖关系

编辑 审核(版本迭代)

二、标签库管理

支持正则、字符串

三、开发管理

模块扩展(分块、kv、表格、分包、品牌)
人员
权限

四、统计管理

字段跟踪
字段抽取率统计(版本迭代)
抽取任务统计  (版本迭代)
   前置逻辑统计
   抽取逻辑统计
   后置逻辑统计

五、中标单位库

根据规则验证中标单位
有新中标单位要审核入库

六、采购单位库

根据规则验证采购单位
有新采购单位要审核入库