图解JanusGraph内部数据存储结构

举报
且听风吟 发表于 2019/11/10 10:26:52 2019/11/10
【摘要】 前面的几篇文章中已经介绍了不少图数据库的基础知识:从扩线查询能力分析图数据库Titan的设计改进点一起学图数据库系列:图数据库概述一起学图数据库系列:图数据库与传统数据库的对比分析开源图数据库Titan项目已经停止更新,JanusGraph可以说复活了Titan项目,到目前为止,JanusGraph与Titan在核心机制上相差不大。JanusGraph/Titan有如下关键设计:1. 支持大...

前面的几篇文章中已经介绍了不少图数据库的基础知识:


从扩线查询能力分析图数据库Titan的设计改进点

一起学图数据库系列:图数据库概述

一起学图数据库系列:图数据库与传统数据库的对比分析


开源图数据库Titan项目已经停止更新,JanusGraph可以说复活了Titan项目,到目前为止,JanusGraph与Titan在核心机制上相差不大。JanusGraph/Titan有如下关键设计:


1. 支持大规模图数据存储,Titan图数据库是建立在分布式集群上,数据存储容量和集群节点数量成正比

2. 支持弹性和线性扩展高可用高容错

3. 支持Gremlin图查询语言

4. 支持利用Hadoop计算框架对图数据进行分析

5. 支持外部索引:ElasticSearch、Solr、Lucene

6. 支持多储存引擎:Cassandra、HBase、Berkeley DB和InMemory模式;

7. 基于Apache License 2.0


本文内容以HBase作为Storage Backend,详细介绍JanusGraph的内部数据存储结构。


JanusGraph基本概念


在介绍关系数据的数据存储结构之前,我们先来看一下JanusGraph的基本概念。


同大多数图数据库一样,JanusGraph采用属性图进行建模。基于属性图的模型,JanusGraph有如下基本概念:


Vertex Label:节点的类型,用于表示现实世界中的实体类型,比如"人”,“车”。在JanusGraph中,每一个节点有且只有一个Vertex Label。当不显式指定Vertex Label时,采用默认的Vertex Label。

Vertex:节点/顶点,用于表示现实世界中的实体对象。

Edge Label:边的类型,用于表示现实世界中的关系类型,比如“通话关系”,“转账关系”,“微博关注关系”等;

Edge: 边,用于表示一个个具体的联系。JanusGraph的边都是单向边。如果需要双向边,则通过两条相反方向的单向边组成。JanusGraph不存在无向边。

Property Key:属性的类型,比如“姓名”,“年龄”,“时间”等。Property Key有Cardinality的概念。Cardinality有SINGLE、LIST和SET三种选项。这三种选项分别用于表示一个Property中,对于同一个Property Key是只允许有一个值、允许多个可重复的值,还是多个不可重复的值。

Property:属性,用于表示一个个具体的附加信息,采用Key-Value结构。Key就是Property Key,Value就是具体的值。


属性图举例


张三与李四是同事关系,他们从2017年开始成为同事,用属性图表达:

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


图切割


作为一种分布式图数据库,JanusGraph需要将数据切分存储到多台机器上。

典型的图切割方法有两种: 一种是按点切割,另一种是按边切割


按点切割(Vertex-Cut)


按Vertex切割时,切割线通过图的Vertex,而不是Edge。每一条Edge边只保存一次,并且每一条Edge只出现在一台机器上,邻居多的Vertex会被分发到不同的机器上。

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


按边切割(Edge-Cut)


按Edge切割时,切割线只穿过连接vertex的edge,此时,每一个vertex只保存一次。切断的Edge会保存到多台机器上。

JanusGraph采用的分片方式是按Edge切割,而且是对于每一条边,都会被切断。切断后,该边会在起始Vertex上和目的Vertex上各存储一次。通过这种方式,JanusGraph不管是通过起始Vertex,还是从目的Vertex,都能快速找到对端Vertex。

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


备注

1. 对于Super Node的存储模式不同,这里暂不展开讨论。

2. JanusGraph允许将Edge Label定义为单向感知的edge. 对于单向感知的edge,只会从起始vertex查询此edge,不会从目的vertex反向查询。因此,这种情况下,目的节点不存储该vertex,仅在起始节点存储。


存储方式


还是以上面的例子为例,按边切割后,变成如下结果:

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

在JanusGraph中,是点为中心,按切边的方式存储数据的。节点的ID作为HBase的Rowkey,节点上的每一个属性和每一条边,作为该Rowkey的一个个独立的Cell。即每一个属性、每一条边,都是一个个独立的KCV结构(Key-Column-Value)


如下图所示:

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


备注

简化起见,此处暂不考虑节点中如何记录其所属的Vertex Label。


详细存储格式


Vertex存储格式


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

1. Vertex ID以Rowkey的形式存储在HBase中,Vertex ID共包含64个bit。

2. Vertex ID由partition id、count、ID padding三部分组成。

3. 最高位5个bit是partition id. partition是JanusGraph抽象出的一个概念。当Storage Backend是HBase时,JanusGraph会根据partition数量,自动计算并配置各个HBase Region的split key,从而将各个partition均匀映射到HBase的多个Region中。然后通过均匀分配partition id最终实现数据均匀打散到Storage Backend的多台机器中。

4. 中间的count部分是流水号,其中最高位比特固定为0.

5. 最后几个bit是ID padding, 表示Vertex的类型。具体的位数长度根据不同的Vertex类型而不同。最常用的普通Vertex,其值为'000'。


各个Vertex类型后缀划分如下(拷贝自源码):

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


Property存储格式


一个Property Key所关联的属性值有可能有一个,也有可能有多个,因此,JanusGraph使用Cardinality来描述Property Key的这种特点。CardinalitySINGLE,LISTSET三种类型:


  • SINGLE表示一个Property Key只对应一个Value,这是最常用的场景。

  • LIST表示一个Property Key可以对应多个Value,多个Value可以有重复值。

  • SET表示一个Property Key可以对应多个Value,多个Value不可以有重复值。


JanusGraph的Property,在不同的Cardinality下,数据存储结构略有不同。整体原则是:根据Cardinality的不同,列名本身能够确定唯一的一个属性


Cardinality为SINGLE时的存储结构

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

HBase的列名只存储Property Key的ID及方向。具体的Property Value值以及Property ID(JanusGraph为每一个Property分配的唯一ID),都存放在Cell的Value中。另外,如果该Property还有额外的Remaining properties,也会放在Value中。Remaining properties一般不使用,仅在一些特殊场景下,用于为该Property记录更多的附加信息(比如存储元数据Edge Labe的定义等)。


PropertyKeyID及方向整个结构的详细结构在后文中描述;属性的值占用一个或多个字段,具体格式在后文描述;属性的IDRemaining属性采用相同的格式,具体格式在后文描述。


Candinality为LIST时的存储结构


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

各个部分与Cardinality为SINGLE时的结构相似,区别在于属性的ID被放在了列名中,而不是放在Value中。


Candinality为SET存储结构


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

各个部分与Cardinality为SINGLE时的结构相似,区别在于属性的值被放在了列名中,而不是放在Value中。


属性的Property Key ID和方向存储结构


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

每一个Property Key本身也有一个唯一的ID。为标识各个属性是属于哪一种Property Key,JanusGraph记录了各个属性对应的Property Key的ID。JanusGraph在存储时,会将Property Key ID以及DirectionID(分系统类型/隐藏/常规不隐藏三种属性)组装在一起,使用多个字节来表示。


属性的ID和属性值存储结构


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


属性的值根据Property Key中定义的数据类型不同,有不同的序列化器。比如,String有StringSerializer, integer有IntegerSerializer. 其中IntegerSerializer与属性ID的格式化方式相同。


属性的ID作为一种无符号整数,JanusGraph将其格式化为多个字节。每一个字节的最高位比特用于表示是最后一个字节。0表示不是最后一个字节,1表示是最后一个字节。


边存储格式


JanusGraph的Edge Label也有一个MULTIPLICITY概念。MULTIPLICITYMULTI等不同的取值,其中以MULTI取值最为常用。


MULTIPLICITY为MULTI时的存储结构


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1

边的存储格式与属性类似,Property Key和Edge Label被抽象成了Relation Type,并采用相同的数据结构。SortKey是一种特殊的属性,JanusGraph允许在定义Edge Label时指定其中的一个或多个属性为Sort Key。对于边的Sort Key属性,JanusGraph在存储时会将其存储在Relation Type ID的后面,其他所有字段的前面。通过这种方式,可以保证一个节点的多条同一个类型的边,会按Sort Key属性排序存储。这对于一个节点有大量边时,对查询性能提升有帮助。

 

MULTIPLICITY非MULTI且此方向存在多条边时的存储结构


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


MULTIPLICITY非MULTI且此方向仅有一条边时的存储结构


640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1


以上系作者根据自己对源代码的理解整理而成,难免有不准确或者不全面的地方。欢迎指正,交流。


本文转载自微信公众号【Nosql漫谈】。

原文链接:https://mp.weixin.qq.com/s/CiiDoTwJzUTxkCFwieNf5g

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。