【华为根技术】OpenEuler系统下部署kafka消息中间件

举报
tea_year 发表于 2024/12/28 19:38:42 2024/12/28
【摘要】 Huawei Cloud EulerOS(简称HCE)是基于openEuler构建的云上操作系统。HCE打造云原生、高性能、高安全、易迁移等能力,加速用户业务上云,提升用户的应用创新空间,可替代CentOS、EulerOS等公共镜像。产品优势:华为云服务垂直整合:联合华为云擎天平台垂直优化、GuestOS/HostOS协同,提升应用性能,打造弹性云服务器、云容器引擎、弹性负载均衡、数据库等服...

Huawei Cloud EulerOS(简称HCE)是基于openEuler构建的云上操作系统。

HCE打造云原生、高性能、高安全、易迁移等能力,加速用户业务上云,提升用户的应用创新空间,可替代CentOS、EulerOS等公共镜像。

产品优势:

  • 华为云服务垂直整合:联合华为云擎天平台垂直优化、GuestOS/HostOS协同,提升应用性能,打造弹性云服务器、云容器引擎、弹性负载均衡、数据库等服务优选竞争力。
  • 云原生混部优选体验:支持容器应用混部,打造业界优选的云原生资源利用效率;提供占用资源少、启动速度快、资源利用率高的云原生基础设施。
  • 高效快速部署:加速虚拟机启动,提升批量部署效率。
  • 安全可信:支持SM2等国密算法,等保2.0/CC EAL4+安全能力。
  • 基于openEuler生态:国内最活跃OS开源社区,Linux社区贡献持续5年TOP5,5.10内核贡献TOP1;南北向主流软硬件支持,可完全替代CentOS。
  • OS开箱即用:支持安装KooCLI,提供通过CLI调用云服务API的方法;支持安装管理鸿蒙SDK的工具sdkmgr,方便远程管理鸿蒙SDK,实现端云开发者协同。

华为云Kafka是一种高性能、高可靠的消息队列服务,广泛应用于分布式系统中的数据传输与处理。本文将介绍如何在华为云上搭建Kafka系统。

第一步:进入开发者空间,领取云主机

如您还没有云主机,可点击链接 ,根据领取指南进行操作。

如您已领取云主机,可直接开始实验。


第二步:配置云主机为欧拉系统

点击“配置云主机”,出现下图所示,设置操作系统为Euler。

然后点击下图的“进入桌面”


第三步:终端界面操作


在终端界面输入“sudo -i”,进入到root用户:

第四步:安装kafaka消息中间件

Kafka是一个拥有高吞吐、可持久化、可水平扩展,支持流式数据处理等多种特性的分布式消息流处理中间件,采用分布式消息发布与订阅机制,在日志收集、流式数据传输、在线/离线系统分析、实时监控等领域有广泛的应用。

4.1安装kafka软件

执行以下命令安装软件。

dnf install kafka


执行结束后,Kafka会被安装到/opt/kafka目录。

4.2软件配置。

编辑“/opt/kafka/config/server.properties”文件,找到如下属性进行修改。

listeners=PLAINTEXT://127.0.0.1:9092

advertised.listeners=PLAINTEXT://<公网IP>:9092

#在云主机上这里写localhost即可,后续改成自己华为云主机的公网IP。


4.3启动zookeeper服务

操作指令如下:

cd /opt/kafka/

cd bin

./zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties

方式二:也可以直接创建zookeeper的服务

Vi/lib/systemd/system/zookeeper.service”文件,并输入以下内容

[Unit]

Description=Zookeeper service
After=network.target

[Service]

Type=simple
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
User=root
Group=root
ExecStart=/opt/kafka/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.properties
ExecStop=/opt/kafka/bin/zookeeper-server-stop.sh
Restart=on-failure
SuccessExitStatus=143

[Install]

WantedBy=multi-user.target

4.4 启动kafka服务

操作指令:

cd /opt/kafka/bin/

./kafka-server-start.sh /opt/kafka/config/server.properties

方法二:

“vi /lib/systemd/system/kafka.service”文件,并输入以下内容

[Unit]

Description=Apache Kafka server (broker)
After=network.target zookeeper.service

[Service]

Type=simple
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
User=root
Group=root
ExecStart=/opt/kafka/bin/kafka-server-start.sh /opt/kafka/config/server.properties
ExecStop=/opt/kafka/bin/kafka-server-stop.sh
Restart=on-failure
SuccessExitStatus=143


[Install]

WantedBy=multi-user.target


如果zookeeper和kafka使用的都是方式二,则直接启动服务

systemctl daemon-reload

systemctl start zookeeper

systemctl start kafka


第五步:验证

5.1 创建topic主题

/opt/kafka/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

5.2 查看刚才创建的Topic

总结:

1. Kafka正常运行

在华为云主机的欧拉系统上成功安装并运行了Kafka。通过启动脚本启动Zookeeper和Kafka服务,并使用Kafka自带的工具创建主题、发布和订阅消息,验证了Kafka功能正常。没有出现报错信息,表明安装过程顺利。

2. 系统兼容性好

欧拉操作系统与Kafka高度兼容,整个安装过程流畅,无需额外修改配置或处理兼容性问题。这体现了欧拉操作系统对主流开源软件的良好支持,以及其在企业级应用中的稳定性和可靠性。

3. 性能表现优异

初步运行显示,Kafka在欧拉系统上表现出色,消息传递高效,响应迅速。具体表现为消息传递延迟低,系统资源占用合理,符合预期的性能指标。这为后续大规模数据处理和实时分析打下坚实基础。

4. 安全性加强

欧拉操作系统内置多层次的安全机制,结合Kafka本身的安全性增强特性,整体系统的安全性得到了有效保障。通过配置访问控制、加密传输等措施,确保消息传递过程中的数据安全和隐私保护。


建议:

1.开源社区支持有限

相比其他主流操作系统CentOS、unbutu等,欧拉系统在开源社区的支持和资源方面仍有欠缺。建议华为云开发者加强与开源社区的合作,提供更多的文档、教程和支持资源。可以举办技术交流会或线上论坛,促进用户间的交流和经验分享。

2. 安全性需进一步优化

尽管欧拉系统具备一定的安全机制,但在实际使用中仍需进一步优化安全设置。建议定期更新和修补安全漏洞,提供更加完善的安全策略文档,指导用户进行安全配置。增强对数据加密和访问控制的支持,确保系统在各种环境下都能保持高水平的安全性。





【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。