ELK集群架构优化

举报
jiangxl 发表于 2022/07/20 00:29:25 2022/07/20
【摘要】 ELK集群架构优化 1.集群架构扩展 当日志采集的数据量达到了上百G,那么就需要引入kafka消息队列了,kafka处理消息数据比redis强大很多,并且支持集群模式。 当量级很大时,查询比...

ELK集群架构优化

1.集群架构扩展

当日志采集的数据量达到了上百G,那么就需要引入kafka消息队列了,kafka处理消息数据比redis强大很多,并且支持集群模式。

当量级很大时,查询比较慢,这时就可以去扩展ES集群的节点数量,ES是分布式集群,可以轻松的完成节点扩缩容。

如果日志数据入库很慢,这时就需要去多增加几个logstash,同时去处理数据,加快数据入库。

image-20220107154204261

2.关于日志索引库的优化

根据应用程序规划好索引库,尽量避免将多个应用程序都写入到一个索引库中,影响查询速度,最好是一个应用程序一个日志索引库,这样做的好处就是可以随时随地的去清理不同应用程序的日志数据,另外,索引库的名称最好以天进行命名,可以通过脚本定期的清理日志数据,避免磁盘使用率过高。

不使用的索引库可以进行删除或者关闭。

关闭索引库的命令如下,都支持通配符的形式。

#关闭索引库
curl -XPOST "http://127.0.0.1:9200/索引名称-*/_close?pretty"

#开启索引库
curl -XPOST "http://127.0.0.1:9200/索引名称-*/_open?pretty"

  
 
  • 1
  • 2
  • 3
  • 4
  • 5

删除索引库的命令如下,都支持通配符形式。

curl -XDELETE "http://127.0.0.1:9200/索引名称-*"

  
 
  • 1

文章来源: jiangxl.blog.csdn.net,作者:Jiangxl~,版权归原作者所有,如需转载,请联系作者。

原文链接:jiangxl.blog.csdn.net/article/details/125864858

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。