【华为根技术】OpenEuler系统下部署kafka消息中间件
Huawei Cloud EulerOS(简称HCE)是基于openEuler构建的云上操作系统。
HCE打造云原生、高性能、高安全、易迁移等能力,加速用户业务上云,提升用户的应用创新空间,可替代CentOS、EulerOS等公共镜像。
产品优势:
- 华为云服务垂直整合:联合华为云擎天平台垂直优化、GuestOS/HostOS协同,提升应用性能,打造弹性云服务器、云容器引擎、弹性负载均衡、数据库等服务优选竞争力。
- 云原生混部优选体验:支持容器应用混部,打造业界优选的云原生资源利用效率;提供占用资源少、启动速度快、资源利用率高的云原生基础设施。
- 高效快速部署:加速虚拟机启动,提升批量部署效率。
- 安全可信:支持SM2等国密算法,等保2.0/CC EAL4+安全能力。
- 基于openEuler生态:国内最活跃OS开源社区,Linux社区贡献持续5年TOP5,5.10内核贡献TOP1;南北向主流软硬件支持,可完全替代CentOS。
- OS开箱即用:支持安装KooCLI,提供通过CLI调用云服务API的方法;支持安装管理鸿蒙SDK的工具sdkmgr,方便远程管理鸿蒙SDK,实现端云开发者协同。
华为云Kafka是一种高性能、高可靠的消息队列服务,广泛应用于分布式系统中的数据传输与处理。本文将介绍如何在华为云上搭建Kafka系统。
第一步:进入开发者空间,领取云主机
如您还没有云主机,可点击链接 ,根据领取指南进行操作。
如您已领取云主机,可直接开始实验。
第二步:配置云主机为欧拉系统
点击“配置云主机”,出现下图所示,设置操作系统为Euler。
然后点击下图的“进入桌面”
第三步:终端界面操作
在终端界面输入“sudo -i”,进入到root用户:
第四步:安装kafaka消息中间件
Kafka是一个拥有高吞吐、可持久化、可水平扩展,支持流式数据处理等多种特性的分布式消息流处理中间件,采用分布式消息发布与订阅机制,在日志收集、流式数据传输、在线/离线系统分析、实时监控等领域有广泛的应用。
4.1安装kafka软件
执行以下命令安装软件。
dnf install kafka
执行结束后,Kafka会被安装到/opt/kafka目录。
4.2软件配置。
编辑“/opt/kafka/config/server.properties”文件,找到如下属性进行修改。
listeners=PLAINTEXT://127.0.0.1:9092
advertised.listeners=PLAINTEXT://<公网IP>:9092
#在云主机上这里写localhost即可,后续改成自己华为云主机的公网IP。
4.3启动zookeeper服务
操作指令如下:
cd /opt/kafka/
cd bin
./zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties
方式二:也可以直接创建zookeeper的服务
“ Vi/lib/systemd/system/zookeeper.service”文件,并输入以下内容
[Unit]
Description=Zookeeper service
After=network.target
[Service]
Type=simple
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
User=root
Group=root
ExecStart=/opt/kafka/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties
ExecStop=/opt/kafka/bin/zookeeper-server-stop.sh
Restart=on-failure
SuccessExitStatus=143
[Install]
WantedBy=multi-user.target
4.4 启动kafka服务
操作指令:
cd /opt/kafka/bin/
./kafka-server-start.sh /opt/kafka/config/server.properties
方法二:
“vi /lib/systemd/system/kafka.service”文件,并输入以下内容
[Unit]
Description=Apache Kafka server (broker)
After=network.target zookeeper.service
[Service]
Type=simple
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
User=root
Group=root
ExecStart=/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties
ExecStop=/opt/kafka/bin/kafka-server-stop.sh
Restart=on-failure
SuccessExitStatus=143
[Install]
WantedBy=multi-user.target
如果zookeeper和kafka使用的都是方式二,则直接启动服务
systemctl daemon-reload
systemctl start zookeeper
systemctl start kafka
第五步:验证
5.1 创建topic主题
/opt/kafka/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
5.2 查看刚才创建的Topic
总结:
1. Kafka正常运行
在华为云主机的欧拉系统上成功安装并运行了Kafka。通过启动脚本启动Zookeeper和Kafka服务,并使用Kafka自带的工具创建主题、发布和订阅消息,验证了Kafka功能正常。没有出现报错信息,表明安装过程顺利。
2. 系统兼容性好
欧拉操作系统与Kafka高度兼容,整个安装过程流畅,无需额外修改配置或处理兼容性问题。这体现了欧拉操作系统对主流开源软件的良好支持,以及其在企业级应用中的稳定性和可靠性。
3. 性能表现优异
初步运行显示,Kafka在欧拉系统上表现出色,消息传递高效,响应迅速。具体表现为消息传递延迟低,系统资源占用合理,符合预期的性能指标。这为后续大规模数据处理和实时分析打下坚实基础。
4. 安全性加强
欧拉操作系统内置多层次的安全机制,结合Kafka本身的安全性增强特性,整体系统的安全性得到了有效保障。通过配置访问控制、加密传输等措施,确保消息传递过程中的数据安全和隐私保护。
建议:
1.开源社区支持有限
相比其他主流操作系统CentOS、unbutu等,欧拉系统在开源社区的支持和资源方面仍有欠缺。建议华为云开发者加强与开源社区的合作,提供更多的文档、教程和支持资源。可以举办技术交流会或线上论坛,促进用户间的交流和经验分享。
2. 安全性需进一步优化
尽管欧拉系统具备一定的安全机制,但在实际使用中仍需进一步优化安全设置。建议定期更新和修补安全漏洞,提供更加完善的安全策略文档,指导用户进行安全配置。增强对数据加密和访问控制的支持,确保系统在各种环境下都能保持高水平的安全性。
- 点赞
- 收藏
- 关注作者
评论(0)