云社区 博客 博客详情

GaussDB(DWS) SQL进阶之全文检索

Zhang Jingyao 发表于 2021-03-30 20:18:42 2021-03-30
1
1

【摘要】 全文检索(Text search)顾名思义,就是在给定的文档中查找指定模式(pattern)的过程。GaussDB(DWS)支持对表格中文本类型的字段及字段的组合做全文检索,找出能匹配给定模式的文本,并以用户期望的方式将匹配结果呈现出来。本文简要介绍了GaussDB(DWS)全文检索的原理和使用方法。

        全文检索(Text search)顾名思义,就是在给定的文档中查找指定模式(pattern)的过程。GaussDB(DWS)支持对表格中文本类型的字段及字段的组合做全文检索,找出能匹配给定模式的文本,并以用户期望的方式将匹配结果呈现出来。

本文结合笔者的经验和思考,对GaussDB(DWS)的全文检索功能作简要介绍,希望能对读者有所帮助。

 

1.   预处理

         在指定的文档中查找一个模式有很多种办法,例如可以用grep命令搜索一个正则表达式。理论上,对数据库中的文本字段也可以用类似grep的方式来检索模式,GaussDB(DWS)中就可以通过关键字“LIKE”或操作符“~”来匹配字符串。但这样做有很多问题。首先对每段文本都要扫描,效率比较低,难以衡量“匹配度”或“相关度”。而且只能机械地匹配字符串,缺少对语法语义的分析能力,例如对英语中的名词复数,动词的时态变换等难以自动地识别和匹配,对于由自然语言构成的文本无法获得令人满意的检索结果。

         GaussDB(DWS)采用类似搜索引擎的方式来进行全文检索。首先对给定的文本和模式做预处理,包括从一段文本中提取出单词或词组,去掉对检索无用的停用词(stop word),对变形后的单词做标准化等等,使之变为适合检索的形式再作匹配。

         GaussDB(DWS)中,原始的文档和搜索条件都用文本(text)表示,或者说,用字符串表示。经过预处理后的文档变为tsvector类型,通过函数to_tsvector来实现这一转换。例如,

postgres=# select to_tsvector('a fat cat ate fat rats');

            to_tsvector           

-----------------------------------

 'ate':4 'cat':3 'fat':2,5 'rat':6

(1 row)

         观察上面输出的tsvector类型,可以看到to_tsvector的效果:

  • 首先各个单词被摘取出来,其位置用整数标识出来,例如“fat”位于原始句子中的第2和第5个词的位置。
  • 此外,“a”这个词太常见了,几乎每个文档里都会出现,对于检索到有用的信息几乎没有帮助。套用香农理论,一个词出现的概率越大,其包含的信息量越小。像“a”,“the”这种单词几乎不携带任何信息,所以被当做停用词stop word)去掉了。注意这并没有影响其他词的位置编号,“fat”的位置仍然是25,而不是14
  • 另外,复数形式的“rats”被换成了单数形式“rat”。这个操作被称为标准化Normalize),主要是针对西文中单词在不同语境中会发生的变形,去掉后缀保留词根的一种操作。其意义在于简化自然语言的检索,例如检索“rat”时可以将包含“rat”和“rats”的文档都检索出来。被标准化后得到的单词称为词位lexeme),比如“rat”。而原始的单词被称为语言符号token)。

         将一个文档转换成tsvector形式有很多好处。例如,可以方便地创建索引,提高检索的速度和效率,当文档数量巨大时,通过索引来检索关键字比grep这种全文扫描匹配要快得多。再比如,可以对不同关键字按重要程度分配不同的权重,方便对检索结果进行排序,找出相关度最高的文档等等。

         经过预处理后的检索条件被转换成tsquery类型,可通过to_tsquery函数实现。例如,

postgres=# select to_tsquery('a & cats & rat');

  to_tsquery  

---------------

 'cat' & 'rat'

(1 row)

         从上面的例子可以看到:

  • to_tsvector类似,to_tsquery也会对输入文本做去掉停用词、标准化等操作,例如去掉了“a”,把“cats”变成“cat”等。
  • 输入的检索条件本身必须用与(&)、或(|)、非(!)操作符连接,例如下面的语句会报错

postgres=# select to_tsquery('cats rat');

ERROR:  syntax error in tsquery: "cats rat"

CONTEXT:  referenced column: to_tsquery

         plainto_tsquery没有这个限制。plainto_tsquery会把输入的单词变成“与”条件:

postgres=# select plainto_tsquery('cats rat');

 plainto_tsquery

-----------------

 'cat' & 'rat'

(1 row)

postgres=# select plainto_tsquery('cats,rat');

 plainto_tsquery

-----------------

 'cat' & 'rat'

(1 row)

         除了用函数之外,还可以用强制类型转换的方式将一个字符串转换成tsvectortsquery类型,例如

postgres=# select 'fat cats sat on a mat and ate a fat rat'::tsvector;

                      tsvector                      

-----------------------------------------------------

 'a' 'and' 'ate' 'cats' 'fat' 'mat' 'on' 'rat' 'sat'

(1 row)

postgres=# select 'a & fat & rats'::tsquery;

       tsquery       

----------------------

 'a' & 'fat' & 'rats'

(1 row)

         跟函数的区别是强制类型转换不会去掉停用词,也不会作标准化,且对于tsvector类型不会记录词的位置。

 

2.   模式匹配

         把输入文档和检索条件转换成tsvectortsquery之后,就可以进行模式匹配了。GaussDB(DWS)中使用“@@”操作符来进行模式匹配,成功返回True,失败返回false

         例如创建如下表格,

postgres=# create table post(

postgres(# id bigint,

postgres(# author name,

postgres(# title text,

postgres(# body text);

CREATE TABLE

-- insert some tuples

         然后想检索body中含有“physics”或“math”的帖子标题,可以用如下的语句来查询:

postgres=# select title from post where to_tsvector(body) @@ to_tsquery('physics | math');

            title           

-----------------------------

 The most popular math books

         也可以将多个字段组合起来查询:

postgres=# select title from post where to_tsvector(title || ' ' || body) @@ to_tsquery('physics | math');

            title           

-----------------------------

 The most popular math books

(1 row)

 

         注意不同的查询方式可能产生不同的结果。例如下面的匹配不成功,因为::tsquery没对检索条件做标准化,前面的tsvector里找不到“cats”这个词:

postgres=# select to_tsvector('a fat cat ate fat rats') @@ 'cats & rat'::tsquery;

 ?column?

----------

 f

(1 row)

         而同样的文档和检索条件,下面的匹配能成功,因为to_tsquery会把“cats”变成“cat”:

postgres=# select to_tsvector('a fat cat ate fat rats') @@ to_tsquery('cats & rat');

 ?column?

----------

 t

(1 row)

 

         类似地,下面的匹配不成功,因为to_tsvector会把停用词a去掉:

postgres=# select to_tsvector('a fat cat ate fat rats') @@ 'cat & rat & a'::tsquery;

 ?column?

----------

 f

(1 row)

         而下面的能成功,因为::tsvector保留了所有词:

postgres=# select 'a fat cat ate fat rats'::tsvector @@ 'cat & rat & a'::tsquery;

 ?column?

----------

 f

(1 row)

         所以应根据需要选择合适的检索方式。

         此外,@@操作符可以对输入的text做隐式类型转换,例如,

postgres=# select title from post where body @@ 'physics | math';

 title

-------

(0 rows)

         准确来讲,text@@text相当于to_tsvector(text) @@ plainto_tsquery(text),因此上面的匹配不成功,因为plainto_tsquery会把或条件'physics | math'变成与条件'physic' & 'math'。使用时要格外小心。

 

3.   创建和使用索引

         前文提到,逐个扫描表中的文本字段缓慢低效,而索引查找能够提高检索的速度和效率。GaussDB(DWS)支持用通用倒排索引GINGeneralized Inverted Index)进行全文检索。GIN是搜索引擎中常用的一种索引,其主要原理是通过关键字反过来查找所在的文档,从而提高查询效率。可通过以下语句在text类型的字段上创建GIN索引:

postgres=# create index post_body_idx_1 on post using gin(to_tsvector('english', body));

CREATE INDEX

         注意这里必须使用to_tsvector函数生成tsvector,不能使用强制或隐式类型转换。而且这里用到的to_tsvector函数比前一节多了一个参数’english’,这个参数是用来指定文本搜索配置(Text search Configuration)的。关于文本搜索配置将在下一节介绍。不同的配置计算出来的tsvector不同,生成的索引自然也不同,所以这里必须明确指定,而且在查询的时候只有配置和字段都与索引定义一致才能通过索引查找。例如下面的查询中,前一个可以通过post_body_idx_1来检索,后一个找不到对应的索引,只能通过全表扫描检索。

postgres=# explain select title from post where to_tsvector('english', body) @@ to_tsquery('physics | math');

                                             QUERY PLAN                                             

-----------------------------------------------------------------------------------------------------

  id |            operation            | E-rows | E-width | E-costs

 ----+---------------------------------+--------+---------+---------

   1 | ->  Streaming (type: GATHER)    |      1 |      32 | 42.02  

   2 |    ->  Bitmap Heap Scan on post |      1 |      32 | 16.02  

   3 |       ->  Bitmap Index Scan     |      1 |       0 | 12.00  

 

postgres=# explain select title from post where to_tsvector('french', body) @@ to_tsquery('physics | math');

                                          QUERY PLAN                                         

----------------------------------------------------------------------------------------------

  id |          operation           | E-rows | E-width |     E-costs     

 ----+------------------------------+--------+---------+------------------

   1 | ->  Streaming (type: GATHER) |      1 |      32 | 1000000002360.50

   2 |    ->  Seq Scan on post      |      1 |      32 | 1000000002334.50

 

 

4.   全文检索配置(Text search Configuration

         这一节谈谈GaussDB(DWS)如何对文档做预处理,或者说,to_tsvector是如何工作的。

         文档预处理大体上分如下三步进行:

  • 第一步,将文本中的单词或词组一个一个提取出来。这项工作由解析器Parser)或称分词Segmentation)器来进行。完成后文档变成一系列token
  • 第二步,对上一步得到的token做标准化,包括依据指定的规则去掉前后缀,转换同义词,去掉停用词等等,从而得到一个个词位lexeme)。这一步操作依据词典Dictionary)来进行,也就是说,词典定义了标准化的规则。
  • 最后,记录各个词位的位置(和权重),从而得到tsvector

 

         从上面的描述可以看出,如果给定了解析器和词典,那么文档预处理的规则也就确定了。在GaussDB(DWS)中,这一整套文档预处理的规则称为全文检索配置Text search Configuration)。全文检索配置决定了匹配的结果和质量。

         如下图所示,一个全文检索配置由一个解析器和一组词典组成。输入文档首先被解析器分解成token,然后对每个token逐个词典查找,如果在某个词典中找到这个token,就按照该词典的规则对其做Normalize。有的词典做完Normalize后会将该token标记为“已处理”,这样后面的字典就不会再处理了。有的词典做完Normalize后将其输出为新的token交给后面的词典处理,这样的词典称为“过滤型”词典。

 

 1 文档预处理过程

         配置使用的解析器在创建配置的时候指定,且不可修改,例如,

postgres=# create text search configuration mytsconf (parser = default);

CREATE TEXT SEARCH CONFIGURATION

         GaussDB(DWS)内置了4种解析器,目前不支持自定义解析器。

postgres=# select prsname from pg_ts_parser;

 prsname 

----------

 default

 ngram

 pound

 zhparser

(4 rows)


        
词典则通过ALTER TEXT SEARCH CONFIGURATION命令来指定,例如

postgres=# alter text search configuration mytsconf add mapping for asciiword with english_stem,simple;

ALTER TEXT SEARCH CONFIGURATION

指定了mytsconf使用english_stemsimple这两种词典来对“asciiword”类型的token做标准化。

         上面语句中的“asciiword”是一种token类型。解析器会对分解出的token做分类,不同的解析器分类方式不同,可通过ts_token_type函数查看。例如,‘default’解析器将token分为如下23种类型:

postgres=# select * from ts_token_type('default');

 tokid |      alias      |               description                

-------+-----------------+------------------------------------------

     1 | asciiword       | Word, all ASCII

     2 | word            | Word, all letters

     3 | numword         | Word, letters and digits

     4 | email           | Email address

     5 | url             | URL

     6 | host            | Host

     7 | sfloat          | Scientific notation

     8 | version         | Version number

     9 | hword_numpart   | Hyphenated word part, letters and digits

    10 | hword_part      | Hyphenated word part, all letters

    11 | hword_asciipart | Hyphenated word part, all ASCII

    12 | blank           | Space symbols

    13 | tag             | XML tag

    14 | protocol        | Protocol head

    15 | numhword        | Hyphenated word, letters and digits

    16 | asciihword      | Hyphenated word, all ASCII

    17 | hword           | Hyphenated word, all letters

    18 | url_path        | URL path

    19 | file            | File or path name

    20 | float           | Decimal notation

    21 | int             | Signed integer

    22 | uint            | Unsigned integer

    23 | entity          | XML entity

(23 rows)

          当前数据库中已有的词典可以通过系统表pg_ts_dict查询。

         如果指定了配置,系统会按照指定的配置对文档作预处理,如上一节创建GIN索引的命令。如果没指定配置,to_tsvector使用default_text_search_config变量指定的默认配置。

postgres=# show default_text_search_config; -- 查看当前默认配置

 default_text_search_config

----------------------------

 pg_catalog.english

(1 row)

 

postgres=# set default_text_search_config = mytsconf;  -- 设置默认配置

SET

postgres=# show default_text_search_config;

 default_text_search_config

----------------------------

 public.mytsconf

(1 row)

 

postgres=# reset default_text_search_config;  -- 恢复默认配置

RESET

postgres=# show default_text_search_config;

 default_text_search_config

----------------------------

 pg_catalog.english

(1 row)

 

         注意default_text_search_config是一个session级的变量,只在当前会话中有效。如果想让默认配置持久生效,可以修改postgresql.conf配置文件中的同名变量,如下图所示。

修改后需要重启进程。


总结

         GaussDB(DWS)的全文检索模块提供了强大的文档搜索功能。相比于用“LIKE”关键字,或 “~”操作符的模式匹配,全文检索提供了较丰富的语义语法支持,能对自然语言文本做更加智能化的处理。配合恰当的索引,能够实现对文档的高效检索。

         本文简要介绍了GaussDB(DWS)全文检索的原理和使用方法,关于解析器和词典的更详细的介绍,请看另一篇文章《GaussDB(DWS)全文检索之解析器和词典》(待完成)。

20210330-202410(eSpace).png

登录后可下载附件,请登录或者注册

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:huaweicloud.bbs@huawei.com进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
评论文章 //点赞 收藏 1
点赞
分享文章到微博
分享文章到朋友圈

上一篇:GaussDB(DWS)性能调优系列实战篇二:十八般武艺之坏味道SQL识别

评论 (1)


Danil

1楼2021-03-30 22:47:01

登录后可评论,请 登录注册

评论