使用scrapy,redis, mongodb,graphite实现的一个分布式网络爬虫,底层存储mongodb集群,分布式使用redis实现,爬虫状态显示使用graphite实现
-
Updated
Apr 18, 2017 - Python
使用scrapy,redis, mongodb,graphite实现的一个分布式网络爬虫,底层存储mongodb集群,分布式使用redis实现,爬虫状态显示使用graphite实现
Add a description, image, and links to the distributedsystems topic page so that developers can more easily learn about it.
To associate your repository with the distributedsystems topic, visit your repo's landing page and select "manage topics."