Storm分布式集群搭建
Storm版本
选用Storm 0.9.6
本地模式
本地模式在一个进程里面模拟一个storm集群的所有功能, 这对开发和测试来说非常方便。以本地模式运行topology跟在集群上运行topology类似。
要创建一个进程内“集群”,使用LocalCluster对象就可以了:
import backtype.storm.LocalCluster;
LocalCluster cluster = new LocalCluster();
然后可以通过LocalCluster对象的submitTopology方法来提交topology, 效果和StormSubmitter对应的方法是一样的。submitTopology方法需要三个参数: topology的名字, topology的配置以及topology对象本身。你可以通过killTopology方法来终止一个topology, 它需要一个topology名字作为参数。
要关闭一个本地集群,简单调用:
cluster.shutdown();
就可以了。
分布式环境
1. 在nimbus、slave1、slave2机器的主目录下分别下载storm安装包
wget
http://apache.fayea.com/storm/apache-storm-0.9.6/apache-storm-0.9.6.tar.gz
2. 创建storm目录,并将安装包移到storm目录下
3. 进入storm目录,并解压该安装包
4. Storm配置文件修改
进入storm配置目录下,修改配置文件storm.yaml
注意创建/var/data/storm目录
5. 配置环境变量
编辑主目录下的.bashrc文件,添加storm路径
6. 退出hadoop账户再重新进入,查看环境变量是否导出
注意:上面的1~6操作步骤要在nimbus、slave1、slave2上都运行;下面第7步操作要区分机器运行。
7. 启动storm
a) 在nimbus设备上启动storm nimbus进程和storm ui进程
b) 在slave1和slave2设备上分别启动storm supervisor进程
8. 通过Storm UI查看storm集群是否正常
a) 确定nimbus设备的ip地址
b) 在本机浏览器输入192.168.1.xx:8080查看storm集群状态
可以看到storm集群正常运行
能够看到此界面,说明storm集群已成功安装运行,大功告成!
- 点赞
- 收藏
- 关注作者
评论(0)