分享好友 最新动态首页 最新动态分类 切换频道
Kafka常用监控框架百科全书
2024-12-26 20:57

Kafka搭建好投入使用后,为了运维更便捷,借助一些管理工具很有必要。Kafka社区似乎一直没有在监控框架方面投入太多的精力,目前Kafka监控方案看似很多,然而并没有一个"大而全"的通用解决方案,各家框架也是各有千秋。很多公司和个人都自行着手开发 Kafka 监控框架,其中并不乏佼佼者。今天我们就来全面地梳理一下主流的监控框架。

Kafka常用监控框架百科全书

JMX的全称为Java Management Extensions. 顾名思义,是管理Java的一种扩展。这种机制可以方便的管理、监控正在运行中的Java程序。常用于管理线程,内存,日志Level,服务重启,系统环境等。

关于JMX的使用,读者可以参考厮大这篇文章:

  • 《如何使用JMX监控Kafka》https://blog.csdn.net/u013256816/article/details/53524884

总体来说,JMXTool 是社区自带的一个小工具,对于一般简单的监控场景,它还能应付,但是它毕竟功能有限,复杂的监控整体解决方案,还是要依靠监控框架。

为了简化开发者和服务工程师维护Kafka集群的工作,Yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布不均匀的的情况。它支持管理多个集群、选择副本、副本重新分配以及创建Topic。

你可以很轻松的安装他:


你可以在 Kafka Manager 的 target/universal 目录下找到生成的 zip 文件,把它解压,然后修改里面的 conf/application.conf 文件中的 kafka-manager.zkhosts 项,让它指向你环境中的 ZooKeeper 地址,比如:


然后启动Zookeeper和Kafka:


之后,运行以下命令启动 Kafka Manager:


然后我们就可以新建Cluster,点击【Cluster】>【Add Cluster】打开如下添加集群的配置界面:

输入集群的名字(如Kafka-Cluster-1)和 Zookeeper 服务器地址(如localhost:2181),选择最接近的Kafka版本。

然后你就可以看到当前监控的 Kafka 集群的主题数量、Broker 数量等信息。

一个完整的过程你可以参考:

  • 《Kafka集群管理工具kafka-manager部署安装》https://blog.csdn.net/qq_43631716/article/details/120109732

Kafka Eagle监控系统也是一款用来监控Kafka集群的工具,支持管理多个Kafka集群、管理Kafka主题(包含查看、删除、创建等)、消费者组合消费者实例监控、消息阻塞告警、Kafka集群健康状态查看等。

Kafka Eagle v1.2.3整个系统所包含的功能,如下图所示:

  1. 展示Kafka集群的Broker数、Topic数、Consumer数、以及Topic LogSize Top10和Topic Capacity Top10数据。

2.主题创建、主题管理、主题预览、KSQL查询主题、主题数据写入、主题属性配置等

3.监控不同消费者组中的Topic被消费的详情,例如LogSize、Offsets、以及Lag等。同时,支持查看Lag的历史趋势图。

4.Kafka集群和Zookeeper集群的详情展示,例如Kafka的IP和端口、版本号、启动时间、Zookeeper的Leader和Follower。同时,还支持多Kafka集群切换,以及Zookeeper Client数据查看等功能。

5.监控Kafka集群和Zookeeper集群的核心指标,包含Kafka的消息发送趋势、消息大小接收与发送趋势、Zookeeper的连接数趋势等。同时,还支持查看Broker的瞬时指标数据。

6.告警集群异常和消费者应用Lag异常。同时,支持多种IM告警方式,例如邮件、钉钉、微信、Webhook等。

7.包含用户管理,例如创建用户、用户授权、资源管理等。

8.展示消费者和生产者当日及最近7天趋势、Kafka集群读写速度、Kafka集群历史总记录等

Kafka Eagle监控管理系统,提供了一个可视化页面,使用者可以拥有不同的角色,例如管理员、开发者、游客等。不同的角色对应不同的使用权限。

你可以参考的网站:


你可以看到 Kafka Eagle 的管理界面如下:

  • 《Kafka监控工具Kafka Eagle》https://blog.csdn.net/weixin_45367149/article/details/108398580

滴滴Logi-KafkaManager脱胎于滴滴内部多年的Kafka运营实践经验,是面向Kafka用户、Kafka运维人员打造的共享多租户Kafka云平台。专注于Kafka运维管控、监控告警、资源治理等核心场景,经历过大规模集群、海量大数据的考验。内部满意度高达90%的同时,还与多家知名企业达成商业化合作。

功能上,和 Kafka Manager的对比如下:

你可以参考GitHub:https://github.com/didi/LogiKM

滴滴甚至提供了一个体验平台:

体验地址 http://117.51.150.133:8080 账号密码 admin/admin

除了我们上面介绍的Kafka Manager、Kafka Eagle等,使用JMXTrans + InfluxDB + Grafana的组合也是很多公司的选择。可以方便的做到定制化。

最新文章
百度风云网游排行榜,百度游戏排行榜风云榜
网上有很多关于百度风云网游排行榜,百度游戏排行榜风云榜的知识,也有很多人为大家解答关于百度游戏风云榜的问题,今天上分宝游戏网为大家整理了关于这方面的知识,让我们一起来看下吧!1、百度游戏风云榜2、做一个网络游戏多少钱?做个参
英特尔至强E5 V4荣耀出炉 宝德服务器抢先同步升级
4月1日,英特尔公司在北京召开主题为英特尔,让云计算大道至简的新品发布会,宣布推出基于英特尔至强 E5-2600 v4系列处理器新品,同时还带来了很多虚拟化相关的新特性和缓存管理工具。宝德科技携同步升级的自强系列双路服务器PR2730G以及四
用AI神奇一键生成超真实美女写真,全新体验不容错过!
大家好,今天想和宝子们聊聊关于AI绘画的神奇之处,尤其是如何利用这些工具生成超真实的美女写真。想象一下,能够在家中轻松地制造出你心目中的完美女性形象,是不是非常令人兴奋?随着AI技术的迅猛发展,这样的操作现在已经不再是梦想。我
战争游戏游戏哪个好玩 热门战争游戏游戏排行
探索游戏世界中的战火纷飞,寻找最刺激的战争策略体验?本文带你揭秘热门战争游戏排行榜,从经典之作到新兴大作,一网打尽。无论你是策略大师还是动作爱好者,这里定有一款能满足你对硝烟与荣耀渴望的游戏。立即加入这场虚拟战场的盛宴吧!
秒收录神器!网站内容瞬间入库,点击量飙升不止
快速提升网站收录效率这款名为"百度秒收录工具"的互联网应用程序,能够助力网站管理者大幅提升百度搜索引擎对其网站内容的收录效率。借助此工具,新内容上传后可迅速实现秒收录,降低以至于消除了等待期,使网民能迅速获取网站信息。相较于
普洱茶十大知名厂家排名表及品牌推荐
普洱茶是中国传统的一种特色茶叶,因其独特的发酵工艺和独特的风味而备受喜爱。在市场上,有许多知名的普洱茶厂家提供各种优质的产品。本文将介绍普洱茶十大知名厂家排名表,并对其中几个品牌进行推荐。作为国内最大的粮油食品生产企业之一
中国巨奖Top10:5050万仅列第9 亿元纪录有待改写
  编者按:8月31日晚,体彩排列五第09236期开奖,安徽安庆一彩民一人命中505注,总奖金5050万元,创造安徽体彩史上个人中奖最高金额。这位彩民很有可能同时中得排列三玩法100万元大奖。  第1 1.138亿元  中奖彩民:甘肃省嘉峪关市彩
盘点四款!可以免费看全网漫画软件,日漫韩漫国漫资源任意看,可缓存下载
翻了一下,最近安利的内容,似乎还没有推荐免费看漫画app!今天就给大家安排上四款免费看漫画APP!安卓 +苹果都有,最后一款就是苹果专属的~第一款:火漫社!这是一款非常简洁的免费看漫画神器,主页简洁到不行,但其内置了多条漫画源,拥
如何确定网贷催收中涉及的孩子姓名?了解相关法律法规和操作方法
在当今社会网贷作为一种便捷的金融服务形式已经深入人们的日常生活。随之而来的催收难题也日益突出其是涉及孩子姓名的信息泄露难题引起了广泛关注。怎样在保障合法合规的前提下确定网贷催收中涉及的孩子姓名成为了一个亟待解决的疑问。本文
相关文章
推荐文章
发表评论
0评