四十、Scrapyd的安装及使用
【摘要】 @Author:Runsen
分布式爬虫完成并可以成功运行了,但是有个环节非常烦琐,那就是代码部署。
文章目录
Scrapyd的安装及使用
安装scrapyd 安装setuptools 部署工程
创建项目
启动scrapyd
命令行输入scrapyd
部署项目
配置scrapyd-cfg
使用scrap...
@Author:Runsen
分布式爬虫完成并可以成功运行了,但是有个环节非常烦琐,那就是代码部署。
Scrapyd的安装及使用
Scrapyd是一个运行Scrapy爬虫的服务程序,它提供一系列HTTP接口来帮助我们部署、启动、停止、删除爬虫程序。Scrapyd支持版本管理,同时还可以管理多个爬虫任务,利用它我们可以非常方便地完成Scrapy爬虫项目的部署任务调度。
安装scrapyd
pip install scrapyd
- 1
文章来源: maoli.blog.csdn.net,作者:刘润森!,版权归原作者所有,如需转载,请联系作者。
原文链接:maoli.blog.csdn.net/article/details/89880430
【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱:
cloudbbs@huaweicloud.com
- 点赞
- 收藏
- 关注作者
评论(0)