Lucene學習總結之二:Lucene的總體架構(轉)
阿新 • • 發佈:2019-02-05
Lucene總的來說是:
- 一個高效的,可擴充套件的,全文檢索庫。
- 全部用Java實現,無須配置。
- 僅支援純文字檔案的索引(Indexing)和搜尋(Search)。
- 不負責由其他格式的檔案抽取純文字檔案,或從網路中抓取檔案的過程。
在Lucene in action中,Lucene 的構架和過程如下圖,
說明Lucene是有索引和搜尋的兩個過程,包含索引建立,索引,搜尋三個要點。
讓我們更細一些看Lucene的各元件:
- 被索引的文件用Document物件表示。
- IndexWriter通過函式addDocument將文件新增到索引中,實現建立索引的過程。
-
Lucene
- 當用戶有請求時,Query代表使用者的查詢語句。
- IndexSearcher通過函式search搜尋Lucene Index。
- IndexSearcher計算term weight和score並且將結果返回給使用者。
- 返回給使用者的文件集合用TopDocsCollector表示。
那麼如何應用這些元件呢?
讓我們再詳細到對Lucene API 的呼叫實現索引和搜尋過程。
-
索引過程如下:
-
建立一個IndexWriter用來寫索引檔案,它有幾個引數,INDEX_DIR就是索引檔案所存放的位置,Analyzer便是用來對文件進行詞法分析和語言處理的。
- 建立一個Document代表我們要索引的文件。
- 將不同的Field加入到文件中。我們知道,一篇文件有多種資訊,如題目,作者,修改時間,內容等。不同型別的資訊用不同的Field來表示,在本例子中,一共有兩類資訊進行了索引,一個是檔案路徑,一個是檔案內容。其中FileReader的SRC_FILE就表示要索引的原始檔。
- IndexWriter呼叫函式addDocument將索引寫到索引資料夾中。
-
建立一個IndexWriter用來寫索引檔案,它有幾個引數,INDEX_DIR就是索引檔案所存放的位置,Analyzer便是用來對文件進行詞法分析和語言處理的。
-
搜尋過程如下:
- IndexReader將磁碟上的索引資訊讀入到記憶體,INDEX_DIR就是索引檔案存放的位置。
- 建立IndexSearcher準備進行搜尋。
-
建立Analyer
- 建立QueryParser用來對查詢語句進行語法分析。
- QueryParser呼叫parser進行語法分析,形成查詢語法樹,放到Query中。
- IndexSearcher呼叫search對查詢語法樹Query進行搜尋,得到結果TopScoreDocCollector。
以上便是Lucene API函式的簡單呼叫。
然而當進入Lucene的原始碼後,發現Lucene有很多包,關係錯綜複雜。
然而通過下圖,我們不難發現,Lucene的各原始碼模組,都是對普通索引和搜尋過程的一種實現。
此圖是上一節介紹的全文檢索的流程對應的Lucene實現的包結構。(參照http://www.lucene.com.cn/about.htm中文章《開放原始碼的全文檢索引擎Lucene》)
- Lucene的analysis模組主要負責詞法分析及語言處理而形成Term。
- Lucene的index模組主要負責索引的建立,裡面有IndexWriter。
- Lucene的store模組主要負責索引的讀寫。
- Lucene的QueryParser主要負責語法分析。
- Lucene的search模組主要負責對索引的搜尋。
- Lucene的similarity模組主要負責對相關性打分的實現。
瞭解了Lucene的整個結構,我們便可以開始Lucene的原始碼之旅了。、