Redis大Key解决方案

举报
JavaEdge 发表于 2021/06/04 00:43:39 2021/06/04
【摘要】 2 大Key 如果一个Key的Value特别大,那么可能会对Redis产生巨大的性能影响,因为Redis是单线程模型,对大Key进行查询或删除等操作,可能会引起Redis阻塞甚至是高可用切换。 应该如何查询Redis中的大Key,以及如何在设计上实现大Key的拆分呢? 2.1 单个K存储的V很大 key分类如下: 该key需要每次都整存整取 尝试将对象分拆成几...

2 大Key

如果一个Key的Value特别大,那么可能会对Redis产生巨大的性能影响,因为Redis是单线程模型,对大Key进行查询或删除等操作,可能会引起Redis阻塞甚至是高可用切换。
应该如何查询Redis中的大Key,以及如何在设计上实现大Key的拆分呢?

2.1 单个K存储的V很大

key分类如下:

该key需要每次都整存整取

尝试将对象分拆成几个K.V, 使用multiGet获取值。
拆分旨在降低单次操作的压力,将操作压力平摊到多个Redis实例,降低对单个redis的I/O影响。

该对象每次只需要存取部分数据

  • 类似上一种方案,拆分成几个K.V
  • 也可将这个大对象存储在一个hash,每个field代表一个具体属性
    • hget、hmget获取部分value
    • hset,hmset来更新部分属性

2.2 一个集群存储了上亿key

如果key个数过多,会带来更多内存空间占用:

  • key本身的占用
    每个key 都会有一个Category前缀
  • 集群模式中,服务端需要建立一些slot2key的映射关系
    这其中的指针占用在key多的情况下也是浪费巨大空间

这两方面在key个数上亿时消耗内存十分明显(Redis 3.2及以下版本均存在这个问题,4.0有优化)。所以减少K个数可以减少内存消耗,可以参考的方案是转Hash结构存储,即原先是直接使用Redis String 的结构存储,现在将多个key存储在一个Hash结构:

2.2.1 key本身具备强相关性

比如多个K代表一个对象,每个K是对象的一个属性,这种可直接按照特定对象的特征来设置一个新K——Hash结构, 原先的K则作为这个新Hash 的field。

2.2.2 key本身无相关性

预估总量,预分一个固定的桶数量:
比如现在预估K总计2亿,按一个hash存储 100个field算,需要 2亿 / 100 = 200W 个桶 (200W 个K占用的空间很少,2亿可能有近20G )。
现在按200W固定桶分,即先计算出桶的序号

hash(123456789) % 200W

  
 
  • 1

最好保证该hash算法的值是个正数,否则需要调整模除的规则。

这样算出三个key 的桶分别是 1、2、2。 所以

  • 存储时调用hset(key, field, value)
  • 读取时使用hget(key, field)

注意hash取模对负数的处理,还有预分桶时, 一个hash 中存储的值最好不要超过 512,100 左右较为合适。

文章来源: javaedge.blog.csdn.net,作者:JavaEdge.,版权归原作者所有,如需转载,请联系作者。

原文链接:javaedge.blog.csdn.net/article/details/115265494

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。