采集代理池和其他采集相关基础服务

dzr c67c884001 添加新的代理检测机制 hace 4 meses
common c67c884001 添加新的代理检测机制 hace 4 meses
conf dbed982383 更新配置 hace 4 meses
services c67c884001 添加新的代理检测机制 hace 4 meses
.gitignore 463057f971 提交项目 hace 1 año
Dockerfile 53213fc9d5 fix:更新yum源 hace 8 meses
README.md a73b9b77a7 更新文档 hace 8 meses
base_server.py 3b96aac8c8 添加redis客户端模块 hace 8 meses
docker-compose.yml 4fd167c495 添加代理服务配置 hace 8 meses
gunicorn.conf.py 72ff4c329c fix:重构代理池 hace 8 meses
produce_task.py 5e2c5f17b5 删除无用任务类 hace 8 meses
py_proxy_linux f7d10c5c6c 代理服务 hace 8 meses
py_proxy_mac 8a790de2ca 其它平台版本代理服务 hace 4 meses
py_proxy_win.exe 8a790de2ca 其它平台版本代理服务 hace 4 meses
pytools_main.py 72ff4c329c fix:重构代理池 hace 8 meses
requirements.txt 463057f971 提交项目 hace 1 año
routes.py 78167e78f4 移除代理服务 hace 8 meses
setting.py 318aa438f8 更新配置 hace 4 meses

README.md

pyspider - 通用采集服务

创建docker容器

docker build -t pytools:latest .

创建容器并启动

docker-compose up -d

销毁容器并关闭

docker-compose down

重启全部容器服务

docker-compose restart

配置说明

conf/config.yaml - py_proxy_linux
conf/dev.yaml - pytools_main.py
conf/test.yaml - pytools_main.py