|
@@ -158,8 +158,7 @@ func (s *Spider) ExecJob(reload bool) {
|
|
|
if err != nil {
|
|
|
logger.Error(s.Code, err)
|
|
|
}
|
|
|
- UpdateHeart(s.Name, s.Channel, s.Code, s.MUserName, "list") //记录所有节点列表页心跳
|
|
|
- err = s.DownListPageItem() //下载列表
|
|
|
+ err = s.DownListPageItem() //下载列表
|
|
|
if err != nil {
|
|
|
logger.Error(s.Code, err)
|
|
|
}
|
|
@@ -251,6 +250,7 @@ func (s *Spider) DownListPageItem() (errs interface{}) {
|
|
|
max = 100 //设置最大页为100
|
|
|
}
|
|
|
for ; start <= max && !s.Stop; start++ {
|
|
|
+ UpdateHeart(s.Name, s.Channel, s.Code, s.MUserName, "list") //记录所有节点列表页心跳
|
|
|
//qu.Debug("重复页:", repeatPageNum, " 配置最大页:", tmpMax, " 最终最大页:", max, " 当前页:", start, "重复次数:", repeatPageTimes)
|
|
|
if start > tmpMax && isRunRepeatList && repeatPageTimes >= 5 { //重复次数超过5次,不再翻页
|
|
|
break
|