Explorar o código

爬虫启动文件

dongzhaorui %!s(int64=3) %!d(string=hai) anos
pai
achega
357872af33
Modificáronse 1 ficheiros con 17 adicións e 0 borrados
  1. 17 0
      find_source/build_spider.py

+ 17 - 0
find_source/build_spider.py

@@ -0,0 +1,17 @@
+
+from crawler import BreadthCrawler
+from crawler.search_engine import BingSearchEngine
+
+
+def main():
+    engines = [
+        BingSearchEngine()
+    ]
+    BreadthCrawler(
+        allow_load_filter=False,
+        workers=2,
+    ).set_search_engines(engines).start()
+
+
+if __name__ == '__main__':
+    main()