1. 程式人生 > >ElasticStack學習(四):ElasticSearch文件使用與操作

ElasticStack學習(四):ElasticSearch文件使用與操作

一、文件的CRUD介紹

ElasticSearch中存在五種操作,分別如下:

1、Index

該操作表示:如果文件的ID不存在,則建立新的文件。若有相同的ID,先刪除現有文件,然後再建立新的文件,同時版本會增加。

語法格式如下:

PUT index_name/_doc/100
{"field1":"value1","field2":"value2"}

其中,index_name【索引名稱】,_doc【Type名稱,約定都用_doc】,100【文件ID】

2、Create

該操作表示:建立新的文件,但是如果ID已經存在,會失敗。

該操作支援兩種操作方式:1)自動生成文件ID;2)指定文件ID;

語法格式如下:

根據文件ID,建立文件資訊。(指定文件ID的方式)
PUT index_name/_create/100
{"field1":"value1","field2":"value2"}
或者
PUT index_name/_doc/100?op_type=create
{"field1":"value1","field2":"value2"}
若不指定文件ID,建立文件時會自動生成。(自動生成文件ID的方式)
POST index_name/_doc
{"field1":"value1","field2":"value2"}

3、Update

該操作表示:更新的文件必須存在,更新時只會對相應欄位做增量修改。

語法格式如下:

POST index_name/_update/100
{
    "doc":{"field1":"value1","field2":"value2"}  
}

4、Delete

該操作表示:根據文件ID,對相應文件進行刪除。

語法格式如下:

DELETE index_name/_doc/100

5、Read

該操作表示:根據文件ID,獲取相應文件資訊。

語法格式如下:

GET index_name/_doc/100

注意:Index操作相對於Create、Update操作的不同之處在於:如果文件不存在,Index就會建立新的文件。否則,如果文件存在,現有文件會被刪除,新的文件會被建立,版本資訊也會加1。而反觀Create操作,如果具有相同文件ID的文件資訊存在了,則不能建立新的文件,會報錯;Update操作,如果發現有相同文件ID的資訊,不會刪除原來的文件,而是實現真正的資料更新,若沒有發現相同的文件ID,則會報錯。

 

二、文件CRUD操作例項

我們現在通過Kibana中的Dev Tools進行上述操作的演示:

1、Create操作

  1)自動生成文件ID的方式

通過以自動生成文件ID的形式進行文件建立,會發現建立的文件ID是自動生成的,版本為1。

  2)指定文件ID的方式

如果文件ID已經存在,則會報錯,如下所示:

2、Read操作

通過給定相應文件ID,可以讀取相應的文件資訊,如下所示:

從讀取出來的結果資訊中可以發現,藍色區域部分就是文件的metadata,包括索引的名稱、型別、文件ID、版本等資訊;紅色區域部分就是文件的所有原始資訊。

 3、Index操作

通過執行Index操作,我們可以發現,version由1更改為2。同時通過讀取文件ID為100的資訊,會發現name變成了“張三”,而欄位des已經不存在了。說明Index操作是先刪除原有ID的文件記錄,然後再建立一個相同ID的文件資訊。

4、Update操作

因為上面在執行Index操作時,文件的Des欄位已經不存在了,現在將這個欄位增加到文件ID為100的文件上,此時就需要執行Update操作,如下所示:

讀取文件資訊後會發現,文件資訊中新增加了”des"、"age"兩個欄位,同時版本號又增加了一次。

5、Delete操作

 

三、文件批量操作

1、Bulk API(批量操作)

Bulk API的作用:在訪問網路API時,每一次的訪問都需要重新建立網路開銷,因此是非常損耗效能的。 而Bulk API的核心思想就是在一次Rest請求中,對不同索引執行多次操作。它支援四種操作型別:Index、Create、Update、Delete。

通過上圖中例項操作,可以看出:

1)對於索引“users”執行index操作,返回成功;

2)對於索引"users"中,文件ID為2的文件資訊進行刪除,返回狀態是404,結果是not_found,說明在索引“users”中並沒有文件ID=2的文件資訊;

3)對於索引"users"中,文件ID為2的文件資訊進行更新,新增欄位field2;

4)對於索引"shops"中,建立文件ID為1的文件資訊;

在Bulk API操作中,若有單條操作失敗,並不會影響其他操作。同時,返回結果包括了每一條操作執行的結果。

2、mget(批量讀取)

mget與Bulk API的思路是一樣的,都是為了減少網路連線所產生的開銷,以提高效能。通過提供一系列的文件ID,在一次API請求中,就可以將所有的文件資訊返回回來。

上圖中,我們通過mget操作訪問索引“users”中文件ID為“1”、“101”的文件資訊,訪問索引“shops”中文件ID為“1”的文件資訊。其中兩條均返回成功,而文件ID=101的文件資訊沒有找到。

 3、msearch(批量查詢)

msearch通過一次Rest訪問,對不同的索引進行不同的查詢。

通過上圖中可以看出,此次批量查詢一共執行了三段查詢操作,第一次是針對索引users,查詢文件ID大於等於1的文件資訊,一共查詢10條;第二次是查詢索引users中所有的文件資訊;第三條是查詢索引shops中所有的文件資訊。

 

四、常見錯誤返回說明及注意事項 

1、對於Bulk API、mget、msearch等批量操作的API,通過呼叫它們可以很好的提高效能,但是在呼叫時也不要過多的傳送資料,否則也會容易導致ES叢集過大的壓力,造成效能的下降。

那麼過多的資料一般控制在多少為好呢?一般建議是1000-5000個文件,如果文件很大,可以適當減少佇列,大小建議是5-15M,預設不能超過100M,否則會報錯。

2、雖我們在執行CU操作,或者批量執行CU操作時,動態的向索引更新或者建立了欄位。此時並沒有對索引預先做mapping定義,但是ES也會根據文件型別進行型別推斷,將新增的欄位定義在mapping中。在生產環境中,建議做mapping設定後再寫入資料。

3、mget與msearch的區別:mget是通過文件ID列表得到文件資訊,msearch是根據查詢條件,搜尋到相關文件。

4、自建立文件ID時,需要考慮ID的均衡性,避免產生分配不均衡的問題。

 

 大家可關注我的公眾號

  

  知識學習來源:《Elasticsearch核心技術與實