成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

近期,幾個典型 Elasticsearch 8.X 問題及方案探討

開發 前端
各位大佬,同版本的es集群間數據遷移,假設兩個集群節點數相同,是不是可以通過直接拷貝數據文件來進行啊?

問題1:max_expansions 設置大了會報錯,什么原因?

大佬們問個問題,我在使用match_phrase_prefix時候,設置了一個比較大的max_expansions,比如10000。

這個時候會報錯:too_many_clauses: maxClauseCount is set to 1024。我搜了下 maxClauseCount 這是控制搜索條件數量的,但我這只是改了個 max_expansions 就這樣了,這2者有什么聯系呀?

根本原因:

如果你設置了一個很高的值( 10000),Elasticsearch 會嘗試生成所有可能的匹配項,直到達到這個限制。

而進行 match_phrase_prefix 查詢時,每個可能的匹配項都會被視為一個子句。

如果生成的匹配項數量超過 maxClauseCount 的限制,就會出現 too_many_clauses 錯誤。

可行的解決方案:

選擇一個更合理的 max_expansions 值,以保持生成的查詢子句數量在 maxClauseCount 的限制范圍內。

問題2:集群數據遷移能不能直接拷貝文件?

各位大佬,同版本的es集群間數據遷移,假設兩個集群節點數相同,是不是可以通過直接拷貝數據文件來進行啊?

去年年底咱們就討論過:臘月27日凌晨的一個緊急 Elasticsearch 線上問題復盤

一句話,非必要不要直接拷貝文件。

官方文檔在集群備份部分有過強調如下:

you cannot back up an Elasticsearch cluster by making copies of the data directories of its nodes. There are no supported methods to restore any data from a filesystem-level backup. If you try to restore a cluster from such a backup, it may fail with reports of corruption or missing files or other data inconsistencies, or it may appear to have succeeded having silently lost some of your data.

中文釋義:

  • 你無法通過復制其節點的數據目錄來備份 Elasticsearch 集群。
  • 不支持從文件系統級備份恢復任何數據的方法。
  • 如果你嘗試從此類備份恢復集群,則可能會失敗,并報告損壞或丟失文件或其他數據不一致的情況,或者可能看似已成功,但悄無聲息地丟失了一些數據。

https://discuss.elastic.co/t/why-are-we-told-to-copy-the-data-folder-when-upgrading/168951

https://www.elastic.co/guide/en/elasticsearch/reference/current/snapshot-restore.html

問題3:全局超時如何設置?

除了每個search可以配置自己的timeout,集群有沒有參數可以配置一個統一的timeout,針對所有search都生效額?

建議:看看這個參數: search.default_search_timeout。

To set a cluster-wide default timeout for all search requests, configure search.default_search_timeout using the cluster settings API. This global timeout duration is used if no timeout argument is passed in the request. If the global search timeout expires before the search request finishes, the request is cancelled using task cancellation. The search.default_search_timeout setting defaults to -1 (no timeout).

圖片

集群層面設置解決方案如下:

圖片圖片

PUT /_cluster/settings
{
  "persistent": {
    "search.default_search_timeout": "30s"
  }
}

要為所有搜索請求設置集群范圍內的默認超時時間,可以使用集群設置 API 配置 search.default_search_timeout。

如果請求中沒有傳遞超時參數,則使用這個全局超時持續時間。

如果全局搜索超時在搜索請求完成之前到期,請求將通過任務取消被取消。

search.default_search_timeout 設置的默認值為 -1(無超時)。

https://www.elastic.co/guide/en/elasticsearch/reference/8.12/search-your-data.html#search-timeout

問題4:自定義ID如何自動設置為 MD5呢?

銘毅老師你好,想請問一下,往es索引里面插入文檔分為指定文檔id和自動生成文檔id,目前有一個需求在插入文檔的時候,將文檔的id值取插入的文檔中的一個字段。

比如我插入的是一個關于文件的相關信息的文檔,字段有md5值,大小,文件類型等等信息,此時我希望插入的這個文檔的ID是這個文件的md5值, 不太明白怎么設置這樣的關系,謝謝!

題目來源:https://t.zsxq.com/16mobA3PV

實踐參考:

Elasticsearch “指紋”去重機制,你實踐中用到了嗎?

方案:

使用 fingerprint 預處理器,借助已有的多個字段構建 MD5值,然后將目標字段設置為 _id 即可。

圖片圖片

PUT _ingest/pipeline/id-fingerprint
{
  "processors": [
    {
      "fingerprint": {
        "fields": ["file_name", "file_size"],
        "target_field": "_id",
        "method": "MD5"
      }
    }
  ]
}


DELETE test_01128
PUT test_01128
{
  "settings": {
    "default_pipeline": "id-fingerprint"
  },
  "mappings": {
    "properties": {
      "file_name": {
        "type": "keyword"
      },
      "id-fingerprint": {
        "type": "keyword"
      }
    }
  }
}


POST test_01128/_bulk
{"index":{}}
{"file_name":"abc","file_size":"3kb"}
{"index":{}}
{"file_name":"bcd","file_size":"1kb"}
{"index":{}}
{"file_name":"abc","file_size":"3kb"}

小結

以上都是實戰環境遇到的典型問題,如果你也有類似問題,歡迎發出來,咱們一起討論解決!

責任編輯:武曉燕 來源: 銘毅天下Elasticsearch
相關推薦

2023-08-02 07:21:30

工具搜索排序

2015-05-12 16:31:22

Elasticsear開源分布式搜索引擎

2024-01-04 07:59:07

Painless腳本數據

2024-07-02 11:30:00

存儲壓縮算法

2014-07-04 10:37:44

Windows 8.xwindows

2014-09-05 14:32:24

操作系統Linux

2024-08-06 09:54:20

2011-03-16 09:55:25

2023-07-17 08:21:52

漏洞版本項目

2017-06-23 07:15:52

庫存ABACAS

2018-09-11 14:45:48

云計算存儲安全方案

2017-05-18 11:04:59

AIX LVM鏡像IO調優

2012-08-27 13:25:41

面試

2012-09-04 13:53:40

面試總結面試經歷

2016-09-19 00:22:11

2010-09-26 15:38:33

JVM內存泄漏

2019-10-08 16:05:19

Redis數據庫系統

2021-01-13 10:56:37

MybatisAPIMybatis 架構

2009-03-19 09:53:00

IPTV多媒體網絡

2020-11-13 18:40:51

5G移動互聯網5G網絡
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 欧美精品久久一区 | 国内精品久久久久久影视8 最新黄色在线观看 | 亚洲欧美日韩中文字幕一区二区三区 | 亚洲二区视频 | www国产成人免费观看视频,深夜成人网 | 激情91| 国产精品久久久久一区二区三区 | 精品入口麻豆88视频 | 亚洲免费一区二区 | 日韩国产免费 | 日本aⅴ中文字幕 | 一区二区三区视频在线观看 | 91一区二区 | 国产一区二区在线视频 | 日韩国产精品一区二区三区 | 欧美精品影院 | 中文字幕视频在线免费 | 国产精品99精品久久免费 | www成年人视频 | 国产农村一级片 | 99久久久99久久国产片鸭王 | 99婷婷| 成人在线视频观看 | 久久亚洲欧美日韩精品专区 | 一级视频在线免费观看 | 久久久久久久久99精品 | 日本精品视频 | 精品入口麻豆88视频 | 大学生a级毛片免费视频 | 久草资源在线视频 | 国产成人免费网站 | 欧美国产视频 | 国产精品99久久久久久动医院 | 久久亚洲美女 | 日韩第一页 | 国产一区二区在线免费观看 | 国产精品99视频 | 久久久免费在线观看 | 久久久精 | 亚洲激精日韩激精欧美精品 | 国产91在线播放 |