ElasticSearch的安装与使用

ElasticSearch的安装与使用

docker安装

docker进行安装Elasticsearch

1.拉取镜像

docker pull elasticsearch:7.6.2

2.创建实例

mkdir -p /docker/elasticsearch/config
mkdir -p /docker/elasticsearch/data
echo "http.host: 0.0.0.0" >> /docker/elasticsearch/config/elasticsearch.yml
chmod -R 777 /docker/elasticsearch/ 
docker run --name elasticsearch -p 9200:9200 -p 9300:9300 \
-e "discovery.type=single-node" \
-e ES_JAVA_OPTS="-Xms256m -Xmx512m" \
-v /docker/elasticsearch/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml \
-v /docker/elasticsearch/data:/usr/share/elasticsearch/data \
-v /docker/elasticsearch/plugins:/usr/share/elasticsearch/plugins \
-d elasticsearch:7.6.2

-e ES_JAVA_OPTS="-Xms256m -Xmx512m 设置 ES 的初始内存和最大内存

docker进行安装Kibana

1.拉取镜像

docker pull kibana:7.6.2 可视化界面

2.创建实例

docker run --name kibana -e ELASTICSEARCH_HOSTS=http://<你的虚拟机ip>:9200 -p 5601:5601 \
-d kibana:7.4.2

Elasticsearch的简单使用

倒排索引机制

mysql这种就是正向索引，倒排索引就是相当于先找词，再通过词对应id去找内容

进入kibana

• 进入 <你的ip地址>:5601
  

基础命令

GET /_cat/nodes
# 查看所有节点
GET /_cat/health
# 查看 es 健康状况
GET /_cat/master
# 查看主节点
GET /_cat/indices
# 查看所有索引

1.增加

• 在 test 索引下的 filed 类型下保存 1 号数据

PUT test/filed/1
{ 
	"name": "Your Name"
}

事实上POST 与 PUT都可以
POST 新增。如果不指定 id，会自动生成 id。指定 id 就会修改这个数据，并新增版本号
PUT 可以新增可以修改。从、但PUT 必须指定 id；

2.查询

• 去查询我们刚刚插入的数据

GET test/filed/1

• 结果：

{
  "_index" : "test",
  "_type" : "filed",
  "_id" : "1",
  "_version" : 1,
  "_seq_no" : 0,
  "_primary_term" : 1,
  "found" : true,
  "_source" : {
    "name" : "Your Name"
  }
}

3.更新

POST test/filed/1/_update
{ 
	"doc":{ 
		"name": "Your Name1"
	}
}
POST test/filed/1
{ 
	"name": "Your Name2"
}
PUT test/filed/1
{ 
	"name": "Your Name3"
}

那么这几种方式有什么不同呢?

不同：POST 操作会对比数据，如果相同不会有什么操作，文档 version 不增加,PUT 操作总会将数据重新保存并增加 version 版本；
带_update对比元数据如果一样就不进行任何操作。

version有什么用？

• version 版本号 – 7之前用来做乐观锁
• seq_no 更新次数 – 7用来做乐观锁

4.删除

DELETE test/filed/1
DELETE test

5.批量操作

POST test/filed/_bulk
{"index":{"_id":"1"}}
{"name":"Your Name1"}
{"index":{"_id":"2"}}
{"name":"Your Name2"}`

Elasticsearch进阶

SearchAPI

ES 支持两种基本方式检索

1. 通过使用 REST request URI 发送搜索参数（uri+检索参数）

这种方式是通过在请求的查询字符串中添加搜索参数来实现的。这种方式比较简单，适合快速查询和简单的参数传递。以下是一个使用 URI 参数进行搜索的例子：

GET /test_index/_search?q=name:John

在这个例子中，/test_index/_search 是请求的路径，?q=name:John 是查询参数，表示我们想要检索索引为 test_index 中 name 字段值为 “John” 的文档。

优点：

简单易用，适合快速查询。
适合传递简单的查询参数。

缺点：

查询字符串长度有限制。
对于复杂的查询，可能难以阅读和编写。
查询参数可能被URL编码，导致查询字符串复杂。

2.通过使用 REST request body 来发送它们（uri+请求体）

这种方式是通过在请求的正文（body）中发送搜索参数来实现的。这种方式可以处理复杂的查询，并且提供了更多的灵活性，尤其是对于结构化查询（如 JSON 格式的查询）。
以下是一个使用请求体发送搜索查询的例子：

POST /test_index/_search
{
  "query": {
    "match": {
      "name": "John"
    }
  }
}

在这个例子中，/test_index/_search 是请求的路径，请求体是一个 JSON 对象，包含了查询信息。

优点：

支持复杂的查询，包括结构化查询。
请求体是 JSON 格式，便于阅读和编写。
可以发送任何 JSON 数据，包括复杂的查询结构。

缺点：

相比查询字符串，可能更复杂。
需要更多的HTTP请求体处理。

Query DSL

1. 基本语法格式

• Elasticsearch的Query DSL使用JSON格式来构建查询。基本格式如下：

{
  "QUERY_NAME": {
    "ARGUMENT": "VALUE",
    "ARGUMENT": "VALUE",
    // ...其他参数
  }
}
对于字段特定的查询，格式如下：

{
  "QUERY_NAME": {
    "FIELD_NAME": {
      "ARGUMENT": "VALUE",
      // ...其他参数
    }
  }
}

QUERY_NAME 是查询的类型，例如 match_all、match、match_phrase 等。

2. 检索信息

• 查询所有文档

GET /test_index/_search
{ "query": { "match_all": {} } }

• 返回部分字段

GET /test_index/_search
{ "query": { "match_all": {} }, "_source": ["age", "balance"] }

3. Match 查询

GET /test_index/_search
{ "query": { "match": { "account_number": "20" } } }

Match 查询适用于字符串和基本类型，可以精确匹配或进行全文检索。

• Match_phrase 查询

GET /test_index/_search
{ "query": { "match_phrase": { "address": "mill road" } } }
Match_phrase 查询用于短语匹配，不会对短语进行分词。

• Multi_match 查询

GET /test_index/_search
{ "query": { "multi_match": { "query": "mill", "fields": ["state", "address"] } } }

Multi_match 查询可以在多个字段上执行匹配。

4.Bool 查询

Bool 查询允许组合多个查询：

• must：所有条件都必须匹配。
• should：至少有一个条件匹配。
• must_not：条件必须不匹配。

GET /test_index/_search
{ "query": { "bool": { "must": [{ "match": { "address": "mill" } }, { "match": { "gender": "M" } }], "should": [{"match": { "address": "lane" }}], "must_not": [{"match": { "email": "baluba.com" }}] } } }

5.Filter 查询

• Filter 查询不返回相关性分数，适用于过滤操作。

GET /test_index/_search
{ "query": { "bool": { "must": [{"match": {"address": "mill"}}], "filter": {"range": {"balance": {"gte": 10000, "lte": 20000}}} } } }

6.Term 查询

• Term 查询用于精确匹配非字符串字段。

GET /test_index/_search
{ "query": { "bool": { "must": [{"term": {"age": {"value": "28"}}}, {"match": {"address": "990 Mill Road"}}] } } }

7. 聚合（Aggregations）

• 聚合用于从数据中提取统计信息。

GET /test_index/_search
{ "query": { "match": { "address": "mill" } }, "aggs": { "group_by_state": { "terms": { "field": "age" }

Mapping

Mapping（映射）在Elasticsearch中扮演着至关重要的角色，它定义了索引中每个字段的类型、索引方式以及其他一些行为。以下是关于Mapping的详细解释：

1. 字段类型

字段类型（Field Type）是Elasticsearch中用于指定字段数据类型的关键。常见的字段类型包括：

• keyword：适合精确匹配，如用于过滤、排序和聚合。
• text：用于全文搜索，索引时会进行分词。
• integer、long、float、double：用于数字类型的字段。
• date：用于日期类型的字段。
• boolean：用于布尔类型的字段。
• ip、geo_point、geo_shape：用于地理信息字段。

2. 映射

Mapping定义了每个字段的类型、是否被索引、是否分析以及各种其他属性。以下是一些关于映射的要点：
映射可以在创建索引时指定。
映射可以在索引创建后添加或更新，但通常建议在索引创建时完成。
映射定义了字段如何被存储和索引，包括分词器、分析器和索引选项。

#查看映射信息
GET /my-index/_mapping

#修改映射信息
#创建索引并指定映射：
PUT /my-index
{ "mappings": { "properties": { "age": { "type": "integer" }, "email": { "type": "keyword" }, "name": { "type": "text" } } } }

#添加新的字段映射：
PUT /my-index/_mapping
{ "properties": { "employee-id": { "type": "keyword", "index": false } } }

#更新映射：
#由于Elasticsearch不允许直接更新现有字段的映射，如果需要更新映射，通常的做法是创建一个新的索引并重新索引所有数据。

3.数据迁移

1.创建具有新映射的新索引。
2.使用 _reindex API将旧索引的数据迁移到新索引。
例如：

POST _reindex
{ "source": { "index": "twitter" }, "dest": { "index": "new_twitter" } }

• 对于包含多类型的旧索引，可以指定类型进行迁移：

POST _reindex
{ "source": { "index": "twitter", "type": "tweet" }, "dest": { "index": "tweets" } }

4.新版本改变

Elasticsearch 7.x及以后版本移除了type的概念，这是因为不同类型的相同字段在Lucene中会被视为同一个字段，这可能导致性能问题。以下是几个重要变化：
Elasticsearch 7.x：URL中的type参数为可选。
Elasticsearch 8.x：不再支持URL中的type参数。
为了解决这些问题，通常的做法是将索引从多类型迁移到单类型，或者将类型数据迁移到新的索引中。