【云小课】【第33课】合理定制DDM分片策略

举报
数据库的小云妹 发表于 2022/01/21 10:04:06 2022/01/21
【摘要】 分布式数据库中间件(Distributed Database Middleware,简称DDM),是一款分布式关系型数据库中间件。兼容MySQL协议,专注于解决数据库分布式扩展问题,突破传统数据库的容量和性能瓶颈,实现海量数据高并发访问。分库分表是DDM的一个重要特性,依据拆分算法与拆分键将数据分散到多个RDS实例存储,分散风险,影响面降低至1/N,支撑业务爆发式增长。本节内容简单介绍一下如...

云小课必用.png

分布式数据库中间件(Distributed Database Middleware,简称DDM),是一款分布式关系型数据库中间件。兼容MySQL协议,专注于解决数据库分布式扩展问题,突破传统数据库的容量和性能瓶颈,实现海量数据高并发访问。

分库分表是DDM的一个重要特性,依据拆分算法与拆分键将数据分散到多个RDS实例存储,分散风险,影响面降低至1/N,支撑业务爆发式增长。

本节内容简单介绍一下如何合理制定分片策略。

如何选择拆分算法

拆分算法即将逻辑表中数据拆分到多个数据库分片上的算法,DDM支持hashrange两大类拆分算法。

hash类:

     将数据均匀分布在各个分片。

     适用于SQL查询条件使用“=”、“IN”之类运算符相对较多的场景。

range类:

     将数据表内的记录按照算法元数据的取值范围进行分片存储。

     适用于SQL查询条件使用“>”、“<”、“BETWEEN ... AND ...”之类运算符相对较多的场景。

拆分算法的使用,需要结合业务查询场景进行评估,以选择合适的拆分算法,提升DDM效率。

如何选择拆分键

拆分键是在水平拆分逻辑表的过程中,用于生成路由结果的表字段,指定表字段后,可以进一步选择日期函数,也可以手动输入“日期函数(字段名)”,数据表字段必须是日期类型(datedatetimetimestamp),日期函数适用于需要按时间(年、月、日、周及其组合)对数据进行拆分的场景。

当数据表之间存在E-R关系时,可以制定相同的分片规则,各数据表分别选择有关联关系的字段作为拆分键,这样各表中有关联关系的数据将会存储在一个分片上,避免数据跨分片JOIN操作。如客户表、订单表与订单明细表,在创建拆分表时,建议都选取客户ID作为拆分键。

DDM根据拆分键值与拆分算法计算路由结果,对拆分表的数据进行自动水平拆分,分发到数据分片中。

选取拆分算法与拆分键一般遵循以下规则:

  • 尽可能使数据均匀分布到各个分片上。
  • 该拆分键是最频繁或者最重要的查询条件。
  • 优选主键作为拆分键,因为主键作为查询条件时,查询速度最快。

拆分算法和拆分健的使用说明与适用场景

拆分算法

hash类

range类

拆分键

表字段

表字段+日期函数

表字段

表字段+日期函数

详细说明

根据指定的表字段将数据平均拆分到各个分片上。

根据指定的表字段+日期函数将数据平均拆分到各个分片上。

表字段必须是日期类型(datedatetimetimestamp)。

将数据表内的记录按照算法元数据定义的规则将数据拆分到指定的分片上。

根据指定的表字段+日期函数将数据按照算法元数据的规则将数据拆分到各个分片上。

表字段必须是日期类型(datedatetimetimestamp)。

适用场景

适用于需要将数据均匀分布的场景,例如:银行类客户业务应用,业务逻辑主体是客户,可使用客户对应的表字段(例如客户号)作为拆分键,详情参见如下示例。

需要按时间(年、月、日、周及其组合)对数据进行拆分的场景,例如:游戏类的应用,可使用玩家对应的表字段(例如玩家注册时间)作为拆分键,按日、月、年等函数分片,方便统计和查询某日、月玩家的操作数据,帮助游戏厂家做大数据分析。

适合范围类操作较多的场景,例如:电商类应用,如果业务场景是围绕商家做活动进行,业务逻辑主体是活动日期,可使用活动日期对应的表字段(例如活动名称、日期范围)作为拆分键,方便统计某周期内销量等情况。

例如日志分析场景,日志系统中可能包含各类复杂的信息,这时您可以选择时间字段作为拆分键,然后对拆分键使用日期函数拆分。

为了方便日志清理和转储,采用range拆分算法,对时间字段用日期函数转换成年,表示按年存储到各个分片上,详情参见如下示例。

 

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

举报
请填写举报理由
0/200