Elasticsearch常用部分语法总结

Elasticsearch也是基于Lucene的全文检索库,本质也是存储数据,很多概念与MySQL类似的。

对比和mysql的关系:

索引(indices)--------------------------------Databases 数据库

  类型(type)-----------------------------Table 数据表

     文档(Document)----------------Row 行

       字段(Field)-------------------Columns 列 

概念 说明
索引库(indices) indices是index的复数,代表许多的索引,
类型(type) 类型是模拟mysql中的table概念,一个索引库下可以有不同类型的索引,比如商品索引,订单索引,其数据格式不同。不过这会导致索引库混乱,因此未来版本中会移除这个概念
文档(document) 存入索引库原始的数据。比如每一条商品信息,就是一个文档
字段(field) 文档中的属性
映射配置(mappings) 字段的数据类型、属性、是否索引、是否存储等特性

Elasticsearch本身就是分布式的,因此即便你只有一个节点,Elasticsearch默认也会对你的数据进行分片和副本操作,当你向集群添加新数据时,数据也会在新加入的节点中进行平衡。 另外,在SolrCloud中,有一些集群相关的概念,在Elasticsearch也有类似的:

  • 索引集(Indices,index的复数):逻辑上的完整索引 collection1

  • 分片(shard):数据拆分后的各个部分

  • 副本(replica):每个分片的复制

操作索引

(1)创建索引:

Elasticsearch常用部分语法总结

settings:索引库的设置

  • number_of_shards:分片数量

  • number_of_replicas:副本数量

(2)查看索引:GET /索引库名

(3)删除索引:DELETE /索引库名

(4)查看索引是否存在:HEAD /索引库名

映射配置

索引有了,接下来肯定是添加数据。但是,在添加数据之前必须定义映射。

什么是映射?

映射是定义文档的过程,文档包含哪些字段,这些字段是否保存,是否索引,是否分词等

只有配置清楚,Elasticsearch才会帮我们进行索引库的创建(不一定)

(1)创建映射语法格式:

请求方式依然是PUT

PUT /索引库名/_mapping/类型名称
{
  "properties": {
    "字段名": {
      "type": "类型",
      "index": true,
      "store": true,
      "analyzer": "分词器"
    }
  }
}
  • 类型名称:就是前面将的type的概念,类似于数据库中的不同表 字段名:任意填写 ,可以指定许多属性,例如:

  • type:类型,可以是text、long、short、date、integer、object等

  • index:是否索引,默认为true

  • store:是否存储,默认为false

  • analyzer:分词器,这里的ik_max_word即使用ik分词器

对于type类型可以有下面几种:

  • String类型,又分两种:

    • text:可分词,不可参与聚合

    • keyword:不可分词,数据会作为完整字段进行匹配,可以参与聚合

  • Numerical:数值类型,分两类

    • 基本数据类型:long、interger、short、byte、double、float、half_float

    • 浮点数的高精度类型:scaled_float

      • 需要指定一个精度因子,比如10或100。elasticsearch会把真实值乘以这个因子后存储,取出时再还原。

  • Date:日期类型

    elasticsearch可以对日期格式化为字符串存储,但是建议我们存储为毫秒值,存储为long,节省空间。

对于index影响字段的索引情况:

  • true:字段会被索引,则可以用来进行搜索。默认值就是true

  • false:字段不会被索引,不能用来搜索

index的默认值就是true,也就是说你不进行任何配置,所有字段都会被索引。

但是有些字段是我们不希望被索引的,比如商品的图片信息,就需要手动设置index为false。

 

对于store字段:是否将数据进行额外存储。

在学习lucene和solr时,我们知道如果一个字段的store设置为false,那么在文档列表中就不会有这个字段的值,用户的搜索结果中不会显示出来。

但是在Elasticsearch中,即便store设置为false,也可以搜索到结果。

原因是Elasticsearch在创建文档索引时,会将文档中的原始数据备份,保存到一个叫做_source的属性中。而且我们可以通过过滤_source来选择哪些要显示,哪些不显示。

而如果设置store为true,就会在_source以外额外存储一份数据,多余,因此一般我们都会将store设置为false,事实上,store的默认值就是false。

 

Elasticsearch常用部分语法总结

 

(2)查看映射信息:GET /索引库名/_mapping

Elasticsearch常用部分语法总结

(3)新增数据

如果我们想要自己新增的时候指定id,可以这么做:

POST /索引库名/类型/id值
{
    ...
}

例子:

Elasticsearch常用部分语法总结

事实上Elasticsearch非常智能,你不需要给索引库设置任何mapping映射,它也可以根据你输入的数据来判断类型,动态添加数据映射。

POST /szh1/goods/3
{
    "title":"超米手机",
    "images":"http://image.leyou.com/12479122.jpg",
    "price":2899.00,
    "stock": 200,
    "saleable":true//这个在之前定义的映射中不存在,那么elasticsearch会在执行的时候在类型中添加一条字段,通过查询映射可                               以查询到这条记录
}

(4)修改数据:

把刚才新增的请求方式改为PUT,就是修改了。不过修改必须指定id,

  • id对应文档存在,则修改

  • id对应文档不存在,则新增

(5)删除数据

删除使用DELETE请求,同样,需要根据id进行删除: DELETE /索引库名/类型名/id值

查询

(1)基本查询

语法格式:

GET /索引库名/_search
{
    "query":{
        "查询类型":{
            "查询条件":"查询条件值"
        }
    }
}

查询所有:

Elasticsearch常用部分语法总结

  • or关系

match类型查询,会把查询条件进行分词,然后进行查询,多个词条之间是or的关系

Elasticsearch常用部分语法总结

对小米手机进行分词,分成小米和手机两个字段进行查询,查询结果是包含小米或者手机的记录都会显示出来。

  • and关系

某些情况下,我们需要更精确查找,我们希望这个关系变成and,可以这样做:

Elasticsearch常用部分语法总结

match 查询支持 minimum_should_match 最小匹配参数, 这让我们可以指定必须匹配的词项数用来表示一个文档是否相关。我们可以将其设置为某个具体数字,更常用的做法是将其设置为一个百分数,因为我们无法控制用户搜索时输入的单词数量:

Elasticsearch常用部分语法总结

multi_matchmatch类似,不同的是它可以在多个字段中查询

Elasticsearch常用部分语法总结

term 查询被用于精确值 匹配,这些精确值可能是数字、时间、布尔或者那些未分词的字符串

Elasticsearch常用部分语法总结

terms 查询和 term 查询一样,但它允许你指定多值进行匹配。如果这个字段包含了指定值中的任何一个值,那么这个文档满足条件:

Elasticsearch常用部分语法总结

(2)_source过滤

如果我们只想获取其中的部分字段,我们可以添加_source的过滤

Elasticsearch常用部分语法总结

(3)结果过滤

我们也可以通过:

  • includes:来指定想要显示的字段

  • excludes:来指定不想要显示的字段

Elasticsearch常用部分语法总结

(4)高级查询

bool把各种其它查询通过must(与)、must_not(非)、should(或)的方式进行组合 (布尔查询)

Elasticsearch常用部分语法总结

range查询允许以下字符:(范围查询)

操作符 说明
gt 大于
gte 大于等于
lt 小于
lte 小于等于

Elasticsearch常用部分语法总结

fuzzy 查询是 term 查询的模糊等价。 我们可以通过fuzziness来指定允许的编辑距离(就是可以错几个字):

Elasticsearch常用部分语法总结

(5)过滤(filter)

条件查询中进行过滤 (在布尔查询中使用)

所有的查询都会影响到文档的评分及排名。如果我们需要在查询结果中进行过滤,并且不希望过滤条件影响评分,那么就不要把过滤条件作为查询条件来用。而是使用filter方式:

Elasticsearch常用部分语法总结

无查询条件,直接过滤

如果一次查询只有过滤,没有查询条件,不希望进行评分,我们可以使用constant_score取代只有 filter 语句的 bool 查询。在性能上是完全相同的,但对于提高查询简洁性和清晰度有很大帮助。

GET /szh1/_search
{
    "query":{
        "constant_score":   {
            "filter": {
                 "range":{"price":{"gt":2000.00,"lt":3000.00}}
            }
        }
}

 

(6)排序

多字段排序:就是先根据上面的排,在每一个小块继续排序,(价格升序排序,价格相同根据id降序排序)。

Elasticsearch常用部分语法总结

聚合aggregations

Elasticsearch中的聚合,包含多种类型,最常用的两种,一个叫,一个叫度量。

桶(bucket)

桶的作用,是按照某种方式对数据进行分组,每一组数据在ES中称为一个,例如我们根据国籍对人划分,可以得到中国桶英国桶日本桶……或者我们按照年龄段对人进行划分:0~10,10~20,20~30,30~40等。

Elasticsearch中提供的划分桶的方式有很多:

  • Date Histogram Aggregation:根据日期阶梯分组,例如给定阶梯为周,会自动每周分为一组

  • Histogram Aggregation:根据数值阶梯分组,与日期类似

  • Terms Aggregation:根据词条内容分组,词条内容完全匹配的为一组

  • Range Aggregation:数值和日期的范围分组,指定开始和结束,然后按段分组

度量(metrics)

分组完成以后,我们一般会对组中的数据进行聚合运算,例如求平均值、最大、最小、求和等,这些在ES中称为度量

比较常用的一些度量聚合方式:

  • Avg Aggregation:求平均值

  • Max Aggregation:求最大值

  • Min Aggregation:求最小值

  • Percentiles Aggregation:求百分比

  • Stats Aggregation:同时返回avg、max、min、sum、count等

  • Sum Aggregation:求和

  • Top hits Aggregation:求前几

  • Value Count Aggregation:求总数

聚合为桶

Elasticsearch常用部分语法总结

  • size: 查询条数,这里设置为0,因为我们不关心搜索到的数据,只关心聚合结果,提高效率

  • aggs:声明这是一个聚合查询,是aggregations的缩写

    • popular_colors:给这次聚合起一个名字,任意。

      • terms:划分桶的方式,这里是根据词条划分

        • field:划分桶的字段

查询结果会多出一条聚合记录:

Elasticsearch常用部分语法总结

  • hits:查询结果为空,因为我们设置了size为0

  • aggregations:聚合的结果

  • popular_colors:我们定义的聚合名称

  • buckets:查找到的桶,每个不同的color字段值都会形成一个桶

    • key:这个桶对应的color字段的值

    • doc_count:这个桶中的文档数量

Elasticsearch常用部分语法总结

  • aggs:我们在上一个aggs(popular_colors)中添加新的aggs。可见度量也是一个聚合

  • avg_price:聚合的名称

  • avg:度量的类型,这里是求平均值

  • field:度量运算的字段

  • 原来的color桶和avg计算我们不变

  • maker:在嵌套的aggs下新添一个桶,叫做maker

  • terms:桶的划分类型依然是词条

  • filed:这里根据make字段进行划分

阶梯分桶Histogram

histogram是把数值类型的字段,按照一定的阶梯大小进行分组。你需要指定一个阶梯值(interval)来划分阶梯大小。

Elasticsearch常用部分语法总结

注:

(1)interval:阶梯间隔,比如200

(2)一个参数min_doc_count为1,来约束最少文档数量为1,这样文档数量为0的桶会被过滤