Cortex适配OBS开发心得
1项目分析
Cortex是一款专为Prometheus设计的长期存储解决方案,它具备水平扩展性、高可用性和多租户支持。Cortex能够将Prometheus的短期数据存储扩展到长期存储,使用户能够无间断地进行监控和数据分析。通过Cortex用户无需担心数据量增长带来的存储限制,从而实现无缝持续的监控和分析体验。该任务的目标就是让Cortex支持华为云OBS服务,Cortex生成的指标数据存储到华为云OBS上,拓展OBS服务的影响力。方便TiDB的用户使用华为云服务时能够顺利对接OBS服务。
2开发过程
1.1连接OBS
由于Cortex的存储模块提供了S3兼容的API,而OBS 提供了强大的 S3 API 兼容性,使得我们能够通过 S3 API 无缝集成到现有的 Cortex 存储模块中,而无需额外开发代码进行适配。
Cortex 使用s3 api与对象存储通信,因此只需确保华为云 OBS 的 S3 接口配置正确即可。
在 Cortex 配置文件中,以blocks_storage_config为例,配置如下:
blocks_storage:
backend: s3
s3:
endpoint: <your-obs-endpoint>
bucket_name: <your-bucket-name>
access_key_id: <your-access-key>
secret_access_key: <your-secret-key>
insecure: false
注意:
- endpoint 使用 OBS 提供的 接口地址,例如 https://obs.cn-north-4.myhuaweicloud.com
1.2部署Cortex
Cortex是用于扩展Prometheus的组件,因此单独部署没有意义,而Cortex包含Distributor、Ingester、Querier等多个组件,因此这里选择使用helm部署,通过使用 Helm Chart 模板来简化 Cortex 和 OBS 的集成部署,并确保所有配置参数能够通过环境变量动态设置。
具体的helm部署配置和命令在DEMO的deploy目录查看https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/overview
1.3 DEMO开发
根据官方提供的Go微服务DEMO(https://gitcode.com/HuaweiCloudDeveloper/OpenSourceForHuaweiDemoGo/overview)开发了一个集成Cortex的功能,该DEMO以go-zero作为微服务框架,go-zero已经在代码里集成了Prometheus,因此只需要在业务配置文件中配置即可。
同时Prometheus的配置中也需要添加user服务的抓取
3验收材料
- 开源软件fork的代码仓库地址:不涉及
- 开源软件代码修改记录(可以有多个修改记录):不涉及
- 推送上游社区PR(包括代码、文档、可以有多个):不涉及
- 验证DEMO代码仓库地址:https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/overview
- 验证DEMO代码修改记录(可以有多个修改记录,只包含和本任务验证强相关的提交记录,比如添加依赖、增加配置文件、演示开源软件功能使用的代码等):
- https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/commits/detail/0761e6255cc5d751c1924f71949938d99e2805d0?ref=main
- https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/commits/detail/0e4f1a694b1067d4818e008838352a4b0a41ae1e?ref=main
- 博客地址:
验收细则 |
评分说明 |
是否为验收必选项 |
结果(通过/不通过) |
开发者举证 |
功能开发:完成与华为三大根技术生态(鲲鹏云、昇腾云、鸿蒙)适配的功能开发和验证。 |
完成GaussDB数据库适配功能开发。举证提供PR链接。 |
是 |
|
(1)(2)(3) |
代码质量:适配华为三大根技术生态的代码质量经过工具检测达标 |
推送给开源社区的代码符合开源社区关于代码风格、功能、自动化测试等要求。 |
是 |
|
(3) |
提供相关文档,比如部署文档、使用文档、配置文档等 |
根据社区要求,完善相关的开发指南和部署指导 |
否 |
|
(3) |
合入到开源项目主仓:代码推送上游社区 |
代码合并到当前主干分支。举证提供代码仓库链接。 |
是 |
|
(1)(2)(3) |
Deomo设计&开发:完成功能演示Demo的开发 |
举证提供DEMO仓库地址和DEMO开发提交记录。 |
是 |
|
(4)(5) |
Demo部署&验证:完成功能演示DEMO基于华为云鲲鹏环境的部署和功能验证 |
提供DEMO部署验证结果的关键截图进行举证。提供DEMO运行环境和资源的规格清单。 |
是 |
|
参考资源清单和验证截图。 |
发布博客:发布博客介绍适配心得。 |
提供博客的地址。 |
是 |
|
(6) |
制作单机版无高危开源镜像。 |
上架云商店。 |
否 |
|
|
单机版镜像上架时支持模板部署。 |
|
否 |
|
|
制作集群版无高危开源镜像 |
上架云商店。 |
否 |
|
|
集群版镜像上架时支持模板部署 |
|
否 |
|
|
4资源清单
4.1 CCE
产品名称 |
集群类型 |
集群版本 |
集群规模 |
云容器引擎CCE |
Turbo集群 |
V1.29 |
50 |
4.2 ECS
产品名称 |
CPU架构 |
实例类型 |
公共镜像 |
镜像版本 |
弹性云服务器 |
鲲鹏计算 |
鲲鹏通用计算增强型 |
Huawei Cloud EulerOS |
Huawei Cloud EulerOS 2.0标准版 64位 ARM版(10GiB) |
4.3 OBS
产品名称 |
存储类别
|
数据冗余存储策略 |
桶策略 |
备注 |
对象存储OBS |
标准存储 |
单AZ存储 |
私有桶 |
推荐 |
5验证截图
5.1验证思路
Cortex是支持Prometheus集群高可用和长期存储的组件,因此基于gozero的DEMO集成Prometheus进行验证,暴露user服务的指标给Prometheus,并能够存储到对象存储OBS中。
5.2部署Cortex和DEMO
5.3查看prometheus面板
5.4查询OBS桶
- 点赞
- 收藏
- 关注作者
评论(0)