Kafka监控利器

举报
架构师聊技术 发表于 2018/12/14 17:36:19 2018/12/14
【摘要】  开发过程中,kafka几乎是标配的Mq,如果有一个kafka的监控助手,哪就更完美了,常用的kafka监控工具有 KafkaOffsetMonitor 、Kafka Manager、Capillary、Kafka Eagle,经过测试,最后决定使用Kafka Manager。这篇文章主要介绍Kafka Manager安装及使用。 硬件环境:Centoskafka-manage...

  开发过程中,kafka几乎是标配的Mq,如果有一个kafka的监控助手,哪就更完美了,常用的kafka监控工具有 KafkaOffsetMonitor 、Kafka Manager、Capillary、Kafka Eagle,经过测试,最后决定使用Kafka Manager。这篇文章主要介绍Kafka Manager安装及使用。

       硬件环境:

  1. Centos

  2. kafka-manager-1.3.2.1 为了方便我已经分享到百度网盘,点击下载即可 https://pan.baidu.com/s/1J4B_YnSauUbhtTCHA3y11A

  3. kafka单机或者集群的运行实例

一、安装

  1. 下载及解压

在Centos建个存放Kafka Manager 的文件夹,我的存放目录中在home下,执行如下命令新建文件夹

1
mkdir /home/kafka-manager

然后转到改目录,把点击下载kafka-manager,下载后把压缩包放到新建的目录下,执行解压命令

1
unzip kafka-manager-1.3.2.1.zip

可以根据具体环境修改配置文件 ./conf/application.conf,我的配置信息为

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
# Copyright 2015 Yahoo Inc. Licensed under the Apache License, Version 2.0
# See accompanying LICENSE file.
# This is the main configuration file for the application.
# ~~~~~
# Secret key
# ~~~~~
 
# The secret key is used to secure cryptographics functions.
 
# If you deploy your application to several instances be sure to use the same key!
 
play.crypto.secret="^<csmm5Fx4d=r2HEX8pelM3iBkFVv?k[mc;IZE<_Qoq8EkX_/7@Zt6dP05Pzea3U"
 
play.crypto.secret=${?APPLICATION_SECRET}
 
# The application languages
 
# ~~~~~
 
play.i18n.langs=["en"]
 
play.http.requestHandler = "play.http.DefaultHttpRequestHandler"
 
play.http.context = "/"
 
play.application.loader=loader.KafkaManagerLoader
 
kafka-manager.zkhosts="localhost:2181"
 
kafka-manager.zkhosts=${?ZK_HOSTS}
 
pinned-dispatcher.type="PinnedDispatcher"
 
pinned-dispatcher.executor="thread-pool-executor"
 
application.features=["KMClusterManagerFeature","KMTopicManagerFeature","KMPreferredReplicaElectionFeature","KMReassignPartitionsFeature"]
 
akka {
 
  loggers = ["akka.event.slf4j.Slf4jLogger"]
 
  loglevel = "INFO"
 
}
 
basicAuthentication.enabled=false
 
basicAuthentication.username="admin"
 
basicAuthentication.password="password"
 
basicAuthentication.realm="Kafka-Manager"
 
kafka-manager.consumer.properties.file=${?CONSUMER_PROPERTIES_FILE}

一般为默认即可,一切就绪就可以执行如下命令启动,

 

  2. 启动

1
nohup ./bin/kafka-manager -Dconfig.file=./conf/application.conf -Dhttp.port=9111 >kafka-manager.log 2>&1 &

确认下是否启用,执行如下命令

1
netstat -an |grep 9111

结果显示,显示 9111 端口在监听状态,说明我们的服务已经启动。

 

在浏览器中查看,输入你的主机名或者ip+端口即可,显示如下,即说明kafka-manager成功安装

 

 

二、使用

  1. 添加kafka

点击Cluster,选择添加 Add Cluster 选择,根据kafka实例填写即可,主要配置ZK,其它信息,根据业务需要改动。

我的配置信息如下:

 

 

   2. 查看信息

1)         集群信息

 

 

主要显示版本信息、Topics、Brokers,点击Topics数量或者Brokers数量即可进入相应的详情列表

2)         Brokers

 

主要显示Topic的操作及列表,及每个topic的主要信息,点击具体的topic,即可查看详情

3)         Topics

 

显示某个topic的具体信息,非常的详细

4)         Consumers

a)         首先我们启动一个消费者,集群中的任何一个实例即可,执行如下命令

1
./kafka-console-consumer.sh -zookeeper localhost:2181 --from-beginning --topic **********

**********为消费的Topic。

b)         消费启动后,点击Consumers,显示如下

 

         点击消费者,即可查看该消费者的详细信息

 

主要涉及Partition、Logsize、Consumer Offset

 

  关于kafka-manager就介绍到这里,如果你有更好的监控工具,也拿出来一块分享吧


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。