|
@@ -42,16 +42,16 @@ func StartTask() {
|
|
|
|
|
|
//创建任务
|
|
|
func CreateTaskProcess() {
|
|
|
- InitInfo() //初始化
|
|
|
- //GetSpiderDownloadRateData() //1、统计spider_downloadrate前一天列表页采集异常爬虫
|
|
|
- GetStatusCodeErrorData() //2、统计spider_sitecheck 站点异常爬虫(404)
|
|
|
- GetDownloadFailedData() //3、统计spider_highlistdata前一天下载失败的爬虫数据(统计完成后修改状态state:0)
|
|
|
- GetRegatherFailedData() //4、统计regatherdata前一天重采失败的爬虫数据
|
|
|
- GetDTPErrData() //5、统计spider_warn异常数据(发布时间异常、乱码)
|
|
|
- GetDownloadNumErrData() //6、统计download前一天下载量异常的爬虫数据(每天1点统计下载量,目前统计完成需要1个小时)
|
|
|
- SaveResult() //保存统计信息
|
|
|
- CreateLuaTask() //创建任务
|
|
|
- SaveUserCreateTaskNum() //保存每人创建的任务量
|
|
|
+ InitInfo() //初始化
|
|
|
+ GetSpiderDownloadRateData() //1、统计spider_downloadrate前一天列表页采集异常爬虫
|
|
|
+ GetStatusCodeErrorData() //2、统计spider_sitecheck 站点异常爬虫(404)
|
|
|
+ GetDownloadFailedData() //3、统计spider_highlistdata前一天下载失败的爬虫数据(统计完成后修改状态state:0)
|
|
|
+ GetRegatherFailedData() //4、统计regatherdata前一天重采失败的爬虫数据
|
|
|
+ GetDTPErrData() //5、统计spider_warn异常数据(发布时间异常、乱码)
|
|
|
+ GetDownloadNumErrData() //6、统计download前一天下载量异常的爬虫数据(每天1点统计下载量,目前统计完成需要1个小时)
|
|
|
+ SaveResult() //保存统计信息
|
|
|
+ CreateLuaTask() //创建任务
|
|
|
+ SaveUserCreateTaskNum() //保存每人创建的任务量
|
|
|
}
|
|
|
|
|
|
//初始化
|