(5.1)分布式下的爬虫Scrapy应该如何做-windows下的redis的安装与配置

举报
~大鱼~ 发表于 2021/05/27 17:21:56 2021/05/27
【摘要】 软件版本:    redis-2.4.6-setup-64-bit.exe — Redis 2.4.6 Windows Setup (64-bit) 系统: win7 64bit 本篇的内容是为了给分布式下的爬虫做好预热的环境准备,我们知道单机的爬虫始终会有一个性能瓶颈,特别是对于是否爬过的URL来说,存在本地关系型的数据库始终会有一个性能上的考...

软件版本:

   redis-2.4.6-setup-64-bit.exe — Redis 2.4.6 Windows Setup (64-bit)

系统:

win7 64bit

本篇的内容是为了给分布式下的爬虫做好预热的环境准备,我们知道单机的爬虫始终会有一个性能瓶颈,特别是对于是否爬过的URL来说,存在本地关系型的数据库始终会有一个性能上的考究,这里引入redis,可以很方便的通过集群来解决这个问题,在任何大的问题解决方案上,终究都是采取化整为零,分而治之的思想。如果你对于windows下的配置已经很熟悉了,本次内容可以完全略过。

 

 

下载文件

去GitHub上下载关于windows的redis的下载文件:

地址:https://github.com/rgl/redis/downloads

 

解压安装

常规做法,下一步,下一步
 

 

命令运行

以管理员身份打开CMD,切入到redis的目录,比如我的目录为C:\Program Files\Redis

cd C:\Program Files\Redis

 

安装文件

以目录形式打开文件夹,将C:\Program Files\Redis\Conf下的redis.conf 配置文件复制到 C:\Program Files\Redis 目录

 

启动服务

在命令行下输入:redis-server.exe redis.conf

《(5.1)分布式下的爬虫Scrapy应该如何做-windows下的redis的安装与配置》

 

这个时候如果没有进一步报错的话,那就证明已经成功启动服务端了、

开始测试

现在我们以管理员身份启动另一下CMD命令,启动客户端:

redis-cli.exe -h 127.0.0.1 -p 6379

《(5.1)分布式下的爬虫Scrapy应该如何做-windows下的redis的安装与配置》

 

用过bash的应该都了解参数的大致意思了 -h host域名 -p port 端口号

我们来简单的测试一下:

OK,windows下的安装就已经成功了,关于更高级一点的配置或者将爬虫融入到分布式中,我们下一次在细讲

 

文章来源: brucedone.com,作者:大鱼的鱼塘,版权归原作者所有,如需转载,请联系作者。

原文链接:brucedone.com/archives/108

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。