Cortex适配OBS开发心得

举报
pengcss 发表于 2024/11/21 20:40:15 2024/11/21
【摘要】 Cortex是一款专为Prometheus设计的长期存储解决方案,它具备水平扩展性、高可用性和多租户支持。Cortex能够将Prometheus的短期数据存储扩展到长期存储,使用户能够无间断地进行监控和数据分析。通过Cortex用户无需担心数据量增长带来的存储限制,从而实现无缝持续的监控和分析体验

1项目分析

Cortex是一款专为Prometheus设计的长期存储解决方案,它具备水平扩展性、高可用性和多租户支持。Cortex能够将Prometheus的短期数据存储扩展到长期存储,使用户能够无间断地进行监控和数据分析。通过Cortex用户无需担心数据量增长带来的存储限制,从而实现无缝持续的监控和分析体验。该任务的目标就是让Cortex支持华为云OBS服务,Cortex生成的指标数据存储到华为云OBS上,拓展OBS服务的影响力。方便TiDB的用户使用华为云服务时能够顺利对接OBS服务。

2开发过程

1.1连接OBS

由于Cortex的存储模块提供了S3兼容的API,而OBS 提供了强大的 S3 API 兼容性,使得我们能够通过 S3 API 无缝集成到现有的 Cortex 存储模块中,而无需额外开发代码进行适配。

Cortex 使用s3 api与对象存储通信,因此只需确保华为云 OBS S3 接口配置正确即可。

Cortex 配置文件中,以blocks_storage_config为例,配置如下:

blocks_storage:

  backend: s3

  s3:

    endpoint: <your-obs-endpoint>

    bucket_name: <your-bucket-name>

    access_key_id: <your-access-key>

    secret_access_key: <your-secret-key>

  insecure: false

注意

1.2部署Cortex

Cortex是用于扩展Prometheus的组件,因此单独部署没有意义,而Cortex包含DistributorIngesterQuerier等多个组件,因此这里选择使用helm部署,通过使用 Helm Chart 模板来简化 Cortex OBS 的集成部署,并确保所有配置参数能够通过环境变量动态设置。

具体的helm部署配置和命令在DEMOdeploy目录查看https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/overview

 

1.3 DEMO开发

根据官方提供的Go微服务DEMOhttps://gitcode.com/HuaweiCloudDeveloper/OpenSourceForHuaweiDemoGo/overview)开发了一个集成Cortex的功能,该DEMOgo-zero作为微服务框架,go-zero已经在代码里集成了Prometheus,因此只需要在业务配置文件中配置即可。

同时Prometheus的配置中也需要添加user服务的抓取

3验收材料

  1. 开源软件fork的代码仓库地址:不涉及
  2. 开源软件代码修改记录(可以有多个修改记录):不涉及
  3. 推送上游社区PR(包括代码、文档、可以有多个):不涉及
  4. 验证DEMO代码仓库地址:https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/overview
  5. 验证DEMO代码修改记录(可以有多个修改记录,只包含和本任务验证强相关的提交记录,比如添加依赖、增加配置文件、演示开源软件功能使用的代码等):
  • https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/commits/detail/0761e6255cc5d751c1924f71949938d99e2805d0?ref=main
  • https://gitcode.com/pengchengbo/OpenSourceForHuaweiDemoGo/commits/detail/0e4f1a694b1067d4818e008838352a4b0a41ae1e?ref=main
  1. 博客地址:

 

 

验收细则

评分说明

是否为验收必选项

结果(通过/不通过)

开发者举证

功能开发:完成与华为三大根技术生态(鲲鹏云、昇腾云、鸿蒙)适配的功能开发和验证。

完成GaussDB数据库适配功能开发。举证提供PR链接。

 

1)(2)(3

代码质量:适配华为三大根技术生态的代码质量经过工具检测达标

推送给开源社区的代码符合开源社区关于代码风格、功能、自动化测试等要求。

 

3

提供相关文档,比如部署文档、使用文档、配置文档等

根据社区要求,完善相关的开发指南和部署指导

 

3

合入到开源项目主仓:代码推送上游社区

代码合并到当前主干分支。举证提供代码仓库链接。

 

1)(2)(3

Deomo设计&开发:完成功能演示Demo的开发

举证提供DEMO仓库地址和DEMO开发提交记录。

 

4)(5

Demo部署&验证:完成功能演示DEMO基于华为云鲲鹏环境的部署和功能验证

提供DEMO部署验证结果的关键截图进行举证。提供DEMO运行环境和资源的规格清单。

 

参考资源清单和验证截图。

发布博客:发布博客介绍适配心得。

提供博客的地址。

 

6

制作单机版无高危开源镜像。

上架云商店。

 

 

单机版镜像上架时支持模板部署。

 

 

 

制作集群版无高危开源镜像

上架云商店。

 

 

集群版镜像上架时支持模板部署

 

 

 

 

 

4资源清单

4.1 CCE

产品名称

集群类型

集群版本

集群规模

云容器引擎CCE

Turbo集群

V1.29

50

4.2 ECS

产品名称

CPU架构

实例类型

公共镜像

镜像版本

弹性云服务器

鲲鹏计算

鲲鹏通用计算增强型

Huawei Cloud EulerOS

Huawei Cloud EulerOS 2.0标准版 64 ARM(10GiB)

4.3 OBS

产品名称

存储类别

 

数据冗余存储策略

桶策略

备注

对象存储OBS

标准存储

单AZ存储

私有桶

推荐

 

5验证截图

5.1验证思路

Cortex是支持Prometheus集群高可用和长期存储的组件,因此基于gozeroDEMO集成Prometheus进行验证,暴露user服务的指标给Prometheus,并能够存储到对象存储OBS中。

5.2部署CortexDEMO


5.3查看prometheus面板



5.4查询OBS

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。