配置Pycharm的Scrapy爬虫Spider子类通用模板

举报
彭世瑜 发表于 2021/08/13 23:15:50 2021/08/13
2.1k+ 0 0
【摘要】 Scrapy爬虫的模板比较单一,每次新建爬虫程序要么重新手敲一遍,要么复制粘贴 从头手敲:效率较低,容易出错,浪费时间复制粘贴:老代码需要改动的地方较多,容易漏掉,导致出错 所以,pycharm中配置一个模板文件就很重要了 # -*- encoding: utf-8 -*- """ @Date : ${YEAR}-${MONTH}-${DAY} @Author ...

Scrapy爬虫的模板比较单一,每次新建爬虫程序要么重新手敲一遍,要么复制粘贴

  • 从头手敲:效率较低,容易出错,浪费时间
  • 复制粘贴:老代码需要改动的地方较多,容易漏掉,导致出错

所以,pycharm中配置一个模板文件就很重要了

# -*- encoding: utf-8 -*-

"""
@Date : ${YEAR}-${MONTH}-${DAY}
@Author  : Peng Shiyu
"""

from scrapy import Spider, Request, cmdline
class XXXSpider(Spider): name = "${NAME}" start_urls = [] def start_request(self): for url in self.start_urls: yield Request(url) def parse(self, response): pass

if __name__ == "__main__": cmdline.execute("scrapy crawl ${NAME}".split())
  
 

文章来源: pengshiyu.blog.csdn.net,作者:彭世瑜,版权归原作者所有,如需转载,请联系作者。

原文链接:pengshiyu.blog.csdn.net/article/details/84564682

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

作者其他文章

评论(0

抱歉,系统识别当前为高风险访问,暂不支持该操作

    全部回复

    上滑加载中

    设置昵称

    在此一键设置昵称,即可参与社区互动!

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

    *长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。