1. 程式人生 > >Elasticsearch介紹和安裝與使用

Elasticsearch介紹和安裝與使用

1.Elasticsearch介紹和安裝

在這裡插入圖片描述

1.1.簡介

1.1.1.Elastic

Elastic官網:https://www.elastic.co/cn/

在這裡插入圖片描述

Elastic有一條完整的產品線:Elasticsearch、Kibana、Logstash等,前面說的三個就是大家常說的ELK技術棧。

在這裡插入圖片描述

1.1.2.Elasticsearch

Elasticsearch官網:https://www.elastic.co/cn/products/elasticsearch

在這裡插入圖片描述

如上所述,Elasticsearch具備以下特點:

  • 分散式,無需人工搭建叢集(solr就需要人為配置,使用Zookeeper作為註冊中心)
  • Restful風格,一切API都遵循Rest原則,容易上手
  • 近實時搜尋,資料更新在Elasticsearch中幾乎是完全同步的。

1.1.3.版本

目前Elasticsearch最新的版本是6.2.4,我們就使用這個版本

需要JDK1.8及以上

1.2.安裝和配置

###1.2.1 下載

在這裡插入圖片描述

下載地址:https://www.elastic.co/downloads/past-releases

在這裡插入圖片描述

在這裡插入圖片描述

1.2.2 安裝

elasticsearch無需安裝,解壓即用。

1537967155637

1.3.執行

進入elasticsearch/bin目錄,可以看到下面的執行檔案:

在這裡插入圖片描述

雙擊執行

在這裡插入圖片描述

可以看到綁定了兩個埠:

  • 9300:java程式訪問的斷就
  • 9200:瀏覽器、postman訪問介面

我們在瀏覽器中訪問:http://127.0.0.1:9200

在這裡插入圖片描述

1.4.安裝Head外掛

1.4.1.什麼是Head

ealsticsearch只是後端提供各種api,那麼怎麼直觀的使用它呢?elasticsearch-head將是一款專門針對於elasticsearch的客戶端工具

elasticsearch-head配置包,下載地址:https://github.com/mobz/elasticsearch-head

1.4.2.安裝

  • es5以上版本安裝head需要安裝node和grunt

第一步:從地址:https://nodejs.org/en/download/ 下載相應系統的msi,雙擊安裝。

在這裡插入圖片描述

第二步:安裝完成用cmd進入安裝目錄執行 node -v可檢視版本號

在這裡插入圖片描述

第三步:執行 npm install -g grunt-cli 安裝grunt ,安裝完成後執行grunt -version檢視是否安裝成功,會顯示安裝的版本號

在這裡插入圖片描述

1.4.3.配置執行

第一步:進入es安裝目錄下的config目錄,修改elasticsearch.yml檔案.在檔案的末尾加入以下程式碼

http.cors.enabled: true 
http.cors.allow-origin: "*"
node.master: true
node.data: true

然後去掉network.host: 192.168.0.1的註釋並改為network.host: 0.0.0.0,去掉cluster.namenode.name;http.port的註釋(也就是去掉#)(!!!如果出現bat閃退的現象,註釋就別去掉)

第二步:雙擊elasticsearch.bat重啟es

第三步:在https://github.com/mobz/elasticsearch-head中下載head外掛,選擇下載zip

第四步:解壓到指定資料夾下,D:\environment\elasticsearch-head-master 進入該資料夾,修改D:\environment\elasticsearch-head-master\Gruntfile.js 在對應的位置加上hostname:’*’、

在這裡插入圖片描述

第五步:在D:\environment\elasticsearch-head-master 下執行npm install 安裝完成後執行grunt server 或者npm run start 執行head外掛,如果不成功重新安裝grunt。成功如下

1.4.4.成功

在這裡插入圖片描述

1.5.安裝ik分詞器

ElasticSearch 預設採用分詞器, 單個字分詞 ,效果很差

搜尋【IK Analyzer 3.0】

http://www.oschina.net/news/2660

在這裡插入圖片描述
在這裡插入圖片描述
Lucene的IK分詞器早在2012年已經沒有維護了,現在我們要使用的是在其基礎上維護升級的版本,並且開發為Elasticsearch的整合外掛了,與Elasticsearch一起維護升級,版本也保持一致,最新版本:6.2.4

1.5.1. 下載

原始碼下載地址:https://github.com/medcl/elasticsearch-analysis-ik/tree/6.2.x

jar包下載地址:https://github.com/medcl/elasticsearch-analysis-ik/releases

在這裡插入圖片描述
在這裡插入圖片描述

1.5.1.安裝

無需安裝,解壓即可使用

我們將其改名為ik,並複製到elasticsearch的解壓目錄,如下圖所示

在這裡插入圖片描述

然後重啟elasticsearch:

在這裡插入圖片描述

1.5.2.擴充套件詞和停用詞

擴充套件詞和停用詞檔案:

在這裡插入圖片描述

在這裡插入圖片描述

###1.5.4 測試

在這裡插入圖片描述

2.SprignBoot整合Spring Data Elasticsearch

Elasticsearch提供的Java客戶端有一些不太方便的地方:

  • 很多地方需要拼接Json字串,在java中拼接字串有多恐怖你應該懂的
  • 需要自己把物件序列化為json儲存
  • 查詢到結果也需要自己反序列化為物件

因此,我們這裡就不講解原生的Elasticsearch客戶端API了。

而是學習Spring提供的套件:Spring Data Elasticsearch

2.1.簡介

Spring Data Elasticsearch是Spring Data專案下的一個子模組。

檢視 Spring Data的官網:http://projects.spring.io/spring-data/

在這裡插入圖片描述

Spring Data 是的使命是給各種資料訪問提供統一的程式設計介面,不管是關係型資料庫(如MySQL),還是非關係資料庫(如Redis),或者類似Elasticsearch這樣的索引資料庫。從而簡化開發人員的程式碼,提高開發效率。

包含很多不同資料操作的模組:

在這裡插入圖片描述

Spring Data Elasticsearch的頁面:https://projects.spring.io/spring-data-elasticsearch/

在這裡插入圖片描述
特徵:

  • 支援Spring的基於@Configuration的java配置方式,或者XML配置方式
  • 提供了用於操作ES的便捷工具類**ElasticsearchTemplate**。包括實現文件到POJO之間的自動智慧對映。
  • 利用Spring的資料轉換服務實現的功能豐富的物件對映
  • 基於註解的元資料對映方式,而且可擴充套件以支援更多不同的資料格式
  • 根據持久層介面自動生成對應實現方法,無需人工編寫基本操作程式碼(類似mybatis,根據介面自動得到實現)。當然,也支援人工定製查詢

2.2.建立Demo工程

我們新建一個demo,學習Elasticsearch

pom依賴:

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.czxy</groupId>
    <artifactId>bos-es</artifactId>
    <version>0.0.1-SNAPSHOT</version>
    <packaging>jar</packaging>

    <name>bos-es</name>
    <description>Demo project for Spring Boot</description>

    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.0.4.RELEASE</version>
        <relativePath/> <!-- lookup parent from repository -->
    </parent>

    <properties>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
        <java.version>1.8</java.version>
    </properties>

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-data-elasticsearch</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
    </dependencies>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>


</project>

application.properties檔案配置:

spring.data.elasticsearch.repositories.enabled = true
spring.data.elasticsearch.cluster-nodes =127.0.0.1:9300

2.3.索引操作

2.3.1.建立索引和對映

SpringBoot-data-elasticsearch提供了面向物件的方式操作elasticsearch

業務:建立一個商品物件,有這些屬性:

     答:id,title,category,brand,price,圖片地址

在SpringDataElasticSearch中,只需要操作物件,就可以操作elasticsearch中的資料

實體類

首先我們準備好實體類:

public class Item {
    private Long id;
    private String title; //標題
    private String category;// 分類
    private String brand; // 品牌
    private Double price; // 價格
    private String images; // 圖片地址
}

對映—註解

Spring Data通過註解來宣告欄位的對映屬性,有下面的三個註解:

  • @Document 作用在類,標記實體類為文件物件,一般有兩個屬性
    • indexName:對應索引庫名稱
    • type:對應在索引庫中的型別
    • shards:分片數量,預設5
    • replicas:副本數量,預設1
  • @Id 作用在成員變數,標記一個欄位作為id主鍵
  • @Field 作用在成員變數,標記為文件的欄位,並指定欄位對映屬性:
    • type:欄位型別,是是列舉:FieldType,可以是text、long、short、date、integer、object等
      • text:儲存資料時候,會自動分詞,並生成索引
      • keyword:儲存資料時候,不會分詞建立索引
      • Numerical:數值型別,分兩類
        • 基本資料型別:long、interger、short、byte、double、float、half_float
        • 浮點數的高精度型別:scaled_float
          • 需要指定一個精度因子,比如10或100。elasticsearch會把真實值乘以這個因子後儲存,取出時再還原。
      • Date:日期型別
        • elasticsearch可以對日期格式化為字串儲存,但是建議我們儲存為毫秒值,儲存為long,節省空間。
    • index:是否索引,布林型別,預設是true
    • store:是否儲存,布林型別,預設是false
    • analyzer:分詞器名稱,這裡的ik_max_word即使用ik分詞器

示例:

@Document(indexName = "item",type = "docs", shards = 1, replicas = 0)
public class Item {
    @Id
    private Long id;
    
    @Field(type = FieldType.Text, analyzer = "ik_max_word")
    private String title; //標題
    
    @Field(type = FieldType.Keyword)
    private String category;// 分類
    
    @Field(type = FieldType.Keyword)
    private String brand; // 品牌
    
    @Field(type = FieldType.Double)
    private Double price; // 價格
    
    @Field(index = false, type = FieldType.Keyword)
    private String images; // 圖片地址
}

建立索引

ElasticsearchTemplate中提供了建立索引的API:

在這裡插入圖片描述

  • 可以根據類的資訊自動生成,也可以手動指定indexName和Settings

對映

對映相關的API:

在這裡插入圖片描述

  • 一樣,可以根據類的位元組碼資訊(註解配置)來生成對映,或者手動編寫對映

我們這裡採用類的位元組碼資訊建立索引並對映:

@Test
public void createIndex() {
    // 建立索引,會根據Item類的@Document註解資訊來建立
    esTemplate.createIndex(Item.class);
    // 配置對映,會根據Item類中的id、Field等欄位來自動完成對映
    esTemplate.putMapping(Item.class);
}

索引資訊:

在這裡插入圖片描述

2.3.2.刪除索引

刪除索引的API:

在這裡插入圖片描述

可以根據類名或索引名刪除。

示例:

@Test
public void deleteIndex() {
    esTemplate.deleteIndex(Item.class);
    // 根據索引名字刪除
    //esTemplate.deleteIndex("item1");
}

結果:OK

2.4.新增文件資料

2.4.1.Repository介面

Spring Data 的強大之處,就在於你不用寫任何DAO處理,自動根據方法名或類的資訊進行CRUD操作。只要你定義一個介面,然後繼承Repository提供的一些子介面,就能具備各種基本的CRUD功能。

來看下Repository的繼承關係:

在這裡插入圖片描述

我們看到有一個ElasticsearchCrudRepository介面:

在這裡插入圖片描述

所以,我們只需要定義介面,然後繼承它就OK了。

public interface ItemRepository extends ElasticsearchRepository<Item,Long> {
}

接下來,我們測試新增資料:

2.4.2.新增一個物件

@Autowired
private ItemRepository itemRepository;

@Test
public void index() {
    Item item = new Item(1L, "小米手機7", " 手機",
                         "小米", 3499.00, "http://image.baidu.com/13123.jpg");
    itemRepository.save(item);
}

去頁面查詢看看:

在這裡插入圖片描述

2.4.3.批量新增

程式碼:

@Test
public void indexList() {
    List<Item> list = new ArrayList<>();
    list.add(new Item(2L, "堅果手機R1", " 手機", "錘子", 3699.00, "http://image.baidu.com/13123.jpg"));
    list.add(new Item(3L, "華為META10", " 手機", "華為", 4499.00, "http://image.baidu.com/13123.jpg"));
    // 接收物件集合,實現批量新增
    itemRepository.saveAll(list);
}

再次去頁面查詢:

在這裡插入圖片描述

2.4.4.修改

elasticsearch中本沒有修改,它的是該是先刪除在新增

修改和新增是同一個介面,區分的依據就是id。

@Test
public void index(){
    Item item = new Item(1L, "蘋果XSMax", " 手機",
            "小米", 3499.00, "http://image.baidu.com/13123.jpg");
    itemRepository.save(item);
}

檢視結果:

在這裡插入圖片描述

2.5.查詢

2.5.1.基本查詢

ElasticsearchRepository提供了一些基本的查詢方法:

在這裡插入圖片描述我們來試試查詢所有:

@Test
    public void testQueryAll(){
        // 查詢所有
        //Iterable<Item> list = this.itemRepository.findAll();
        // 對某欄位排序查詢所有 Sort.by("price").descending() 降序
        // Sort.by("price").ascending():升序
        Iterable<Item> list = this.itemRepository.findAll(Sort.by("price").ascending());

        for (Item item:list){
            System.out.println(item);
        }
    }

結果:

在這裡插入圖片描述

2.5.2.自定義方法

Spring Data 的另一個強大功能,是根據方法名稱自動實現功能。

比如:你的方法名叫做:findByTitle,那麼它就知道你是根據title查詢,然後自動幫你完成,無需寫實現類。

當然,方法名稱要符合一定的約定:

Keyword Sample
And findByNameAndPrice
Or findByNameOrPrice
Is findByName
Not findByNameNot
Between findByPriceBetween
LessThanEqual findByPriceLessThan
GreaterThanEqual findByPriceGreaterThan
Before findByPriceBefore
After findByPriceAfter
Like findByNameLike
StartingWith findByNameStartingWith
EndingWith findByNameEndingWith
Contains/Containing findByNameContaining
In findByNameIn(Collection<String>names)
NotIn findByNameNotIn(Collection<String>names)
Near findByStoreNear
True findByAvailableTrue
False findByAvailableFalse
OrderBy findByAvailableTrueOrderByNameDesc

例如,我們來按照價格區間查詢,定義這樣的一個方法:

public interface ItemRepository extends ElasticsearchRepository<Item,Long> {

    /**
     * 根據價格區間查詢
     * @param price1
     * @param price2
     * @return
     */
    List<Item> findByPriceBetween(double price1, double price2);
}

然後新增一些測試資料:

@Test
public void indexList() {
    List<Item> list = new ArrayList<>();
    list.add(new Item(1L, "小米手機7", "手機", "小米", 3299.00, "http://image.baidu.com/13123.jpg"));
    list.add(new Item(2L, "堅果手機R1", "手機", "錘子", 3699.00, "http://image.baidu.com/13123.jpg"));
    list.add(new Item(3L, "華為META10", "手機", "華為", 4499.00, "http://image.baidu.com/13123.jpg"));
    list.add(new Item(4L, "小米Mix2S", "手機", "小米", 4299.00, "http://image.baidu.com/13123.jpg"));
    list.add(new Item(5L, "榮耀V10", "手機", "華為", 2799.00, "http://image.baidu.com/13123.jpg"));
    // 接收物件集合,實現批量新增
    itemRepository.saveAll(list);
}

不需要寫實現類,然後我們直接去執行:

@Test
public void queryByPriceBetween(){
    List<Item> list = this.itemRepository.findByPriceBetween(2000.00, 3500.00);
    for (Item item : list) {
        System.out.println("item = " + item);
    }
}

結果:

在這裡插入圖片描述

2.5.3.自定義查詢

先來看最基本的match query:

@Test
public void search(){
    // 構建查詢條件
    NativeSearchQueryBuilder queryBuilder = new NativeSearchQueryBuilder();
    // 新增基本分詞查詢
    queryBuilder.withQuery(QueryBuilders.matchQuery("title", "小米手機"));
    // 搜尋,獲取結果
    Page<Item> items = this.itemRepository.search(queryBuilder.build());
    // 總條數
    long total = items.getTotalElements();
    System.out.println("total = " + total);
    for (Item item : items) {
        System.out.println(item);
    }
}
  • NativeSearchQueryBuilder:Spring提供的一個查詢條件構建器,幫助構建json格式的請求體

  • QueryBuilders.matchQuery(“title”, “小米手機”):利用QueryBuilders來生成一個查詢。QueryBuilders提供了大量的靜態方法,用於生成各種不同型別的查詢:

    在這裡插入圖片描述

  • Page<item>:預設是分頁查詢,因此返回的是一個分頁的結果物件,包含屬性:

    • totalElements:總條數

    • totalPages:總頁數

    • Iterator:迭代器,本身實現了Iterator介面,因此可直接迭代得到當前頁的資料

    • 其它屬性:

      在這裡插入圖片描述

結果:

在這裡插入圖片描述

總的測試程式碼:

/**
     *
     * termQuery
     * wildcardQuery
     * fuzzyquery
     * booleanQuery
     * numericRangeQuery
     *
     */
    @Test
    public void testMathQuery(){
        // 建立物件
        NativeSearchQueryBuilder queryBuilder = new NativeSearchQueryBuilder();
        // 在queryBuilder物件中自定義查詢
        //matchQuery:底層就是使用的termQuery
        queryBuilder.withQuery(QueryBuilders.matchQuery("title"
            
           

相關推薦

Elasticsearch介紹安裝使用

1.Elasticsearch介紹和安裝 1.1.簡介 1.1.1.Elastic Elastic官網:https://www.elastic.co/cn/ Elastic有一條完整的產品線:Elasticsearch、Kibana、Logstash等,前面說的三

[Success]Elasticsearch介紹安裝+ik

一.Elasticsearch介紹和安裝 SprignBoot整合Spring Data Elasticsearch 以及使用 1.1.簡介 1.1.1.Elastic Elastic官網:https://www.elastic.co/cn/ Elastic有

Elasticsearch介紹安裝

Elasticsearch 1.簡介 1.1基本概念 1.2.Elastic 1.3 Elasticsearch 1.4 版本 1.2.安裝和配置 1.2.1 下載

ElasticSearch 外掛之Kibana的介紹安裝

1.解壓kibana-6.5.3-linux-x86_64.tar.gz tar -zxvf kibana-6.5.3-linux-x86_64.tar.gz 2.進入解壓後的目錄的config中,修改.yml檔案 server.port: 5601 server.host: “hadoop

ElasticSearch 外掛之head的介紹安裝

簡介 ElasticSearch-head是一個ElasticSearch的叢集管理工具,它是完全由HTML5編寫的獨立網頁程式,可以通過外掛把它整合ES. 安裝 注意:先解壓壓縮包 elasticsearch-head-master.zip unzip elasticsearc

ElasticSearch 外掛之bigdesk的介紹安裝

Bigdesk: 1)主要提供的是節點的實時狀態監控,,包括JVM的情況,linux的情況,Elasticsearch的情況。 2)裡面可以看到叢集名稱,節點列表。記憶體消耗情況,GC回收情況。可以自由的在各個節點之間進行切換,自動的新增或是移除一些舊的節點,同樣可以更改refresh in

ElasticSearch實戰系列九: ELK日誌系統介紹安裝

## 前言 本文主要介紹的是ELK日誌系統入門和使用教程。 ## ELK介紹 ELK是三個開源軟體的縮寫,分別表示:Elasticsearch , Logstash, Kibana , 它們都是開源軟體。新增了一個FileBeat,它是一個輕量級的日誌收集處理工具(Agent),Filebeat佔用資源少

(一)elasticsearch-5.x安裝配置

head(一)平臺所需的環境OS:CentOS 7.x minimalelasticsearch :elasticsearch-5.4.0版本jdk: 1.8已上版本創建普通用戶:appuser最新的下載路徑地址為:https://www.elastic.co/downloads (二)配置操作系統的環境並

Redis 實踐1- redis介紹安裝

部分 rdb eve devel 請求 /dev/ 兩種 gcc replay redis是一個key-value存儲系統,官方站點 http://redis.io 和memcached類似,但支持數據持久化 支持更多value類型,除了和string外,還支持hash

2017.8.30 elasticsearch-sql的安裝使用

elastics 一個 es2017 畫面 方法 方便 127.0.0.1 使用 font 參考來自: http://blog.csdn.net/u012307002/article/details/52837756 https://github.com/NLPchi

Tomca軟件介紹安裝

blog 資源 common justify 用戶 sphere orace ren shutdown Web開發入門 軟件的結構: C/S (Client - Server 客戶端-服務器端) 典型應用:QQ軟件 ,飛秋,紅蜘蛛。 特點: 1)必須下載特定的客

高性能集群軟件Keepalived的介紹以及安裝配置

linux 集群 keepalived Keepalived介紹: Keepalived是Linux下一個輕量級的高可用解決方案;起初是為LVS設計的,專門用來監控集群系統中各個服務節點的狀態。它根據TCP/IP參考模型的第三、第四和第五層交換機機制檢測每個服務節點的狀態,如果

Elasticsearch簡介安裝對比

特殊 字段 tree apache 查看 端口 blog work 分布式搜索 各位小夥伴,又到了本期分享大數據技術的時間,本次給大夥帶來的是Elasticsearch這個技術,閑話不多聊,我們開始進入正題。 一、什麽是elasticsearch Elasticsearc

(一)Fiddler的介紹安裝

chm 瀏覽器中 tool nec clas 技術分享 strong HR str 一、Fiddler的介紹和安裝 Fildder是一款免費的web調試代理工具,支持任何瀏覽器、系統或平臺。 官網地址:https://www.telerik.com/fiddler Fidd

002 activemq的介紹安裝

就是 放心 我們 一個 企業級 簡單的 activemq 幫助 成了 一 .Activemq介紹 JMS是一個規範,其中Activemq就是一個非常不錯的JMS實現,知道這些就已經足夠了. 我們使用Activemq就是想使用企業級的消息使用. 總的來說Activemq不

Docker系列一:Docker的介紹安裝

實驗 start ner min docker-ce 周期 com set 自動化測試 Docker介紹 Docker是指容器化技術,用於支持創建和實驗Linux Container。借助Docker,你可以將容器當做重量輕、模塊化的虛擬機來使用,同時,你還將獲得高度的靈活

tomcat介紹安裝

tcp 程序 個人 aux tcp6 end ext 訪問 ces tomcat介紹tomcat是apache軟件基金會(Apache Softeare Foundation )的jakarta項目中的一個核心項目,由apache、sun和其他的公司和個人共同開發而成jav

Kafka系列一之架構介紹安裝

環境 指南 ont fcm port 架構 star cfg 自己的 Kafka架構介紹和安裝 寫在前面 還是那句話,當你學習一個新的東西之前,你總得知道這個東西是什麽?這個東西可以用來做什麽?然後你才會去學習它,使用它。簡單來說,kafka既是一個消息隊列,如今,它也演變

SDN控制器之OVN實驗一:介紹安裝OVN

OVN概覽 OVN是由開發出OVS的那群出色的程式設計師們的另一個優秀的作品。這個網路虛擬化專案從2015初宣告啟動,到不久前才釋出第一個正式版本OVN 2.6 。在這篇文章中,我會配置一個簡單示例:在三個主機之間配置一個layer-2 overlay網路。 首先講一下OVN工作機制中的2種

Git介紹安裝

Git 是什麼 Git 是 Linus Torvalds 為了幫助管理 Linux 核心開發而開發的一個開放原始碼的分散式版本控制系統。 與常用的版本控制工具 CVS, Subversion 等不同,它採用了分散式版本庫的方式,不必伺服器端軟體支援(注:這得分是用什麼樣的服務端,使用http協議或者git