ElasticSearch实战(二)-核心概念之NRT/Document/Index/分片/副本

举报
JavaEdge 发表于 2021/06/04 00:51:39 2021/06/04
【摘要】 1 lucene VS elasticsearch lucene,最先进、功能最强大的Java搜索类库。直接基于lucene开发,非常复杂,api复杂(实现简单功能,写大量java代码),需要深入理解原理(各种索引结构)。 elasticsearch,基于lucene,隐藏复杂性,提供简单易用的restful api接口、java api接口(还有其他语言的api接...

1 lucene VS elasticsearch

lucene,最先进、功能最强大的Java搜索类库。直接基于lucene开发,非常复杂,api复杂(实现简单功能,写大量java代码),需要深入理解原理(各种索引结构)。

elasticsearch,基于lucene,隐藏复杂性,提供简单易用的restful api接口、java api接口(还有其他语言的api接口)
(1)分布式的文档存储引擎
(2)分布式的搜索引擎和分析引擎
(3)分布式,支持PB级数据

开箱即用,优秀的默认参数,不需要任何额外设置,完全开源。

2 核心概念

2.1 近实时-Near Realtime(NRT)

从写入数据到数据可以被搜索到有一个小延迟(大概1秒),基于es执行搜索和分析可以达到秒级。

2.2 集群-Cluster

包含多个节点,每个节点属于哪个集群是通过一个配置(集群名称,默认是elasticsearch)决定。
对于中小型应用来说,刚开始一个集群就一个节点很正常。

2.3 节点-Node

集群中的一个节点,节点也有一个名称(默认是随机分配的),节点名称很重要(在执行运维管理操作的时候),默认节点会去加入一个名称为“elasticsearch”的集群,如果直接启动一堆节点,那么它们会自动组成一个elasticsearch集群,当然一个节点也可以组成一个elasticsearch集群

2.4 索引-Index(表)

由具有相同字段的文档列表组成,包含一堆相似结构的文档数据。

比如可以有一个客户索引,商品分类索引,订单索引。索引有一个名称
一个index包含很多document,一个index就代表了一类类似/相同的document。

比如建立一个product index 商品索引,里面可能就存放了所有的商品数据(商品document)。

索引中存储具有相同结构的文档(Document)

  • 每个索引都有自己的mapping定义(类似 MySQL 的 schema),用于定义字段名和类型
  • 一个集群可以有多个索引,比如
    • nginx日志存储的时候可以按照日期每天生成一个索引来存储
      nginx-log-2020-01-01
      nginx-log-2020-01-02
      nginx-log-2020-01-03

2.5 Document & field(行 & 列)

document

JSON结构,用户存储在 ES 中的数据文档。一个document可以是一条客户数据,一条商品分类数据,一条订单数据。由字段 Filed 组成。

每个文档有唯一的id标识:

  • 自行指定
  • es自动生成

数据类型

  • 字符串
    text、keyword
  • 数值型
    long、integer、short, byte, double, float half_float, scaled_float
  • 布尔
    boolean
  • 日期
    date
  • 二进制
    binary
  • 范围
    integer_range, float_range, long_range, double_range, date_ range

元数据-用于标注文档的相关信息

  • _ index: 文档所在的索引名
  • _type: 文档所在的类型名
  • _id:文档唯一id
  • _uid:组合id,由type和. jid 组成(ES 6.x开始 _type不再起作用,同_id)
  • _source:文档原始JSON数据,存储了文档的完整原始数据,可从这里获取每个字段内容
  • _all:整合所有字段内容到该字段,默认禁用,因其针对所有字段内容分词,很占磁盘空间

field

每个index下的type,都可以存储多个document。一个document里面有多个field,每个field就是一个数据字段列。

product document
{
  "product_id": "1",
  "product_name": "JavaEdge 公众号",
  "product_desc": "全是技术干货",
  "category_id": "2",
  "category_name": "技术追求"
}

  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

2.6 shard

单台机器无法存储大量数据,es可以将一个索引中的数据切分为多个shard,分布在多台服务器上存储
有了shard就可以横向扩展,存储更多数据,让搜索和分析等操作分布到多台服务器上去执行,提升吞吐量和性能
每个shard都是一个lucene index。

2.7 replica

任何一个服务器随时可能故障或宕机,此时shard可能就会丢失,因此可以为每个shard创建多个replica副本。
replica可以在shard故障时提供备用服务,保证数据不丢失,多个replica还可以提升搜索操作的吞吐量和性能。primary shard(建立索引时一次设置,不能修改,默认5个),replica shard(随时修改数量,默认1个),默认每个索引10个shard,5个primary shard,5个replica shard,最小的高可用配置,是2台服务器。

  • shard和replica的解释

类型 Type(表逻辑类型)ES 7.x中已废除

每个index都可有一或多个type,type是index的一个逻辑数据分类。
一个type下的document,都有相同field。
比如博客系统,有一个索引,可定义用户数据type,博客数据type,评论数据type。

商品index,里面存放了所有的商品数据,商品document
但是商品分很多种类,每个种类的document的field可能不太一样
比如说电器商品,可能还包含一些诸如售后时间范围这样的特殊field;生鲜商品,还包含一些诸如生鲜保质期之类的特殊field

type,日化商品type,电器商品type,生鲜商品type

日化商品type:product_id,product_name,product_desc,category_id,category_name
电器商品type:product_id,product_name,product_desc,category_id,category_name,service_period
生鲜商品type:product_id,product_name,product_desc,category_id,category_name,eat_period

  
 
  • 1
  • 2
  • 3

每个type里,包含一堆document

{
  "product_id": "2",
  "product_name": "长虹电视机",
  "product_desc": "4k高清",
  "category_id": "3",
  "category_name": "电器",
  "service_period": "1年"
}
{
  "product_id": "3",
  "product_name": "基围虾",
  "product_desc": "纯天然,冰岛产",
  "category_id": "4",
  "category_name": "生鲜",
  "eat_period": "7天"
}

  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16

3 RESTful API(REpresentational State Transfer)

Elasticsearch 集群对外提供RESTful API

  • URI 指定资源 , 如 Index、Document等
  • Http Method 指明资源操作类型,如GET、POST、 PUT、DELETE

交互方式

  • curl 命令行
  • Kibana DevTools

文章来源: javaedge.blog.csdn.net,作者:JavaEdge.,版权归原作者所有,如需转载,请联系作者。

原文链接:javaedge.blog.csdn.net/article/details/103113694

【版权声明】本文为华为云社区用户转载文章,如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。