Kibble适配GaussDB开源开发任务验证心得
背景介绍
开源for Huawei(参考:https://developer.huaweicloud.com/programs/opensource/contributing/) 通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华为云上。
开始之前,开发者可以下载 开源for Huawei Wiki(参考:https://gitcode.com/HuaweiCloudDeveloper/OpenSourceForHuaweiWiki/overview) 了解详细的开发步骤,技术准备,以及开发过程需要的各种资源。
组件功能
Apache Kibble 是一个用于处理日志和分析软件开发生命周期数据的工具。它可以收集来自各种源(如版本控制系统、问题跟踪系统、构建系统等)的数据,并将这些数据整合起来进行分析。
2.日志存储与索引
(1)存储机制:Kibble 通常会将处理后的日志数据存储在合适的存储系统中。这可能是关系型数据库(如 MySQL)或非关系型数据库(如 Elasticsearch)。以 Elasticsearch 为例,Kibble 会将日志数据发送到 Elasticsearch 集群中,利用 Elasticsearch 的分布式存储和高效的索引机制,方便后续的查询和检索。
(2)索引构建:在存储过程中,Kibble 会帮助构建索引。例如,对于日志中的日期字段,它可以构建时间序列索引,使得用户可以很方便地按照时间范围查询日志。对于用户相关的字段(如提交者姓名),可以构建基于用户的索引,便于查找特定用户相关的所有日志。
适配准备
ps:ES集群可到官网地址根据自己主机配置选择所对应的jar包或者rpm包:https://www.elastic.co/cn/elasticsearch
5.kibble服务安装,源码安装地址:apache/kibble-1: Apache Kibble - a tool to collect, aggregate and visualize data about any software project
适配思路
先搭建kibble服务,然后启动kibble服务,然后将日志获取绑定为gaussdb,然后再将gaussdb的测试表里进行增删改等操作,然后将kibble记录的日志信息同步到gaussdb里的日志表里,若日志表里的信息与数据库操作一致,则代表适配完成。
适配过程中遇到的问题
1. 连接问题 - 安装依赖库和配置文件修改
描述:缺少数据库连接驱动可能导致无法连接 GaussDB。
解决方法:安装依赖库
pip install psycopg2
在kibble.yaml配置文件中,根据所建立的gauss数据库的连接信息,将连接信息加入到配置文件中
[database]
type = gaussdb
driver = psycopg2
host = localhost
port = 5432
user = kibble_user
password = kibble_password
database_name = kibble_gaussdb
2.连接问题 -网络和安全设置
描述:缺少数据库连接驱动可能导致无法连接 GaussDB。
解决办法:如果 GaussDB 服务器在远程且有访问限制,需要在配置文件中正确配置代理相关设置
在kibble.yaml配置文件中,根据Gauss服务器的代理信息,将代理信息加入到配置文件中
[network]
proxy_type = http
proxy_host = proxy.example.com
proxy_port = 8080
适配结果体现:
- 点赞
- 收藏
- 关注作者
评论(0)