Storm分布式集群搭建

举报
Smy1121 发表于 2019/06/21 16:43:25 2019/06/21
【摘要】 Storm分布式集群搭建

Storm版本

选用Storm 0.9.6

本地模式

本地模式在一个进程里面模拟一个storm集群的所有功能, 这对开发和测试来说非常方便。以本地模式运行topology跟在集群上运行topology类似。


要创建一个进程内“集群”,使用LocalCluster对象就可以了:

import backtype.storm.LocalCluster;

LocalCluster cluster = new LocalCluster();

然后可以通过LocalCluster对象的submitTopology方法来提交topology, 效果和StormSubmitter对应的方法是一样的。submitTopology方法需要三个参数: topology的名字, topology的配置以及topology对象本身。你可以通过killTopology方法来终止一个topology, 它需要一个topology名字作为参数。


要关闭一个本地集群,简单调用:

cluster.shutdown();

就可以了。


分布式环境

1. 在nimbus、slave1、slave2机器的主目录下分别下载storm安装包

wget

http://apache.fayea.com/storm/apache-storm-0.9.6/apache-storm-0.9.6.tar.gz

image.png

2. 创建storm目录,并将安装包移到storm目录下

image.png

3. 进入storm目录,并解压该安装包

image.png

4. Storm配置文件修改

进入storm配置目录下,修改配置文件storm.yaml

image.png


注意创建/var/data/storm目录

image.png


5. 配置环境变量

编辑主目录下的.bashrc文件,添加storm路径

image.png

image.png

6. 退出hadoop账户再重新进入,查看环境变量是否导出

image.png


注意:上面的1~6操作步骤要在nimbus、slave1、slave2上都运行;下面第7步操作要区分机器运行。


7. 启动storm

a) 在nimbus设备上启动storm nimbus进程和storm ui进程

image.png

image.png

b) 在slave1和slave2设备上分别启动storm supervisor进程

image.png

image.png


8. 通过Storm UI查看storm集群是否正常

a) 确定nimbus设备的ip地址

image.png

b) 在本机浏览器输入192.168.1.xx:8080查看storm集群状态

可以看到storm集群正常运行

image.png


image.png



image.png

image.png


能够看到此界面,说明storm集群已成功安装运行,大功告成!



【版权声明】本文为华为云社区用户原创内容,未经允许不得转载,如需转载请自行联系原作者进行授权。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。