1. 程式人生 > >solr 定時全量索引 增量索引與dataimporter.properties 配置

solr 定時全量索引 增量索引與dataimporter.properties 配置

solr增量索引配置 
1.在進行增量索引前,首先要弄懂幾個必要的屬性,以及資料庫建表事項,和dataimporter.properties 

data-config.xml裡面的資料 

  <!--  transformer 格式轉化:HTMLStripTransformer 索引中忽略HTML標籤   ---> 
  <!--  query:查詢資料庫表符合記錄資料   ---> 
  <!--  deltaQuery:增量索引查詢主鍵ID    --->    注意這個只能返回ID欄位 
  <!--  deltaImportQuery:增量索引查詢匯入資料  ---> 
  <!--  deletedPkQuery:增量索引刪除主鍵ID查詢  ---> 注意這個只能返回ID欄位 

資料庫配置注意事項 

1.如果只涉及新增,與修改業務,那麼資料庫裡只需額外有一個timpstamp欄位就可以了,預設值為當前系統時間,CURRENT_TIMESTAMP(筆者的資料為mysql的) 
2.如果還涉及刪除業務,那麼資料裡就需額外再多新增一個欄位isdelete,int型別的用0,1來標識,此條記錄是否被刪除,當然也可以用其他欄位標識,ture或false都可以 

dataimporter.properties 

這個配置檔案很重要,它是用來記錄當前時間與上一次修改時間的,通過它能夠找出,那些,新新增的,修改的,或刪除的記錄

下面為筆者當時測試時的一個演示,其中新增,修改,刪除,都涉及了

    <dataConfig>   
	     <!---   此段話配置的是一個MySQL的資料來源,(資料來源也可以配置在solrconfig.xml中)  --->
        <dataSource name="mydb" type="JdbcDataSource" driver="com.mysql.jdbc.Driver" url="jdbc:mysql://localhost/test" user="root" password="ninemax"/>
		
		
		<document>
		     <!--  下面分別來介紹屬性(如有錯誤,歡迎指出) -->
			 <!--  pk="ID" 這個很有必要,因為其中的增量索引查詢主鍵ID時需要  -->
			  <!--  dataSource="mydb"   這個引用名字是引用上面資料來源的名字 -->
			  <!--  name="myinfo"   這個名字必須唯一,存在多個實體時 -->
			   <!--  query="select  *  from myinfo WHERE isdelete=0   query查詢是指
               查詢出表裡所有的符合條件的資料,因為筆者測試的有刪除業務,所以
			   where  後面有一個限定條件isdelete=0,意思為查詢未被刪除的資料
			   
			   (注意這個query查詢只對第一次全量匯入有作用,對增量匯入不起作用)
			   -->
			   <!--
			   deltaQuery="select ID  from myinfo where my_date > '${dataimporter.last_index_time}'" 
			   deltaQuery的意思是,查詢出所有經過修改的記錄的ID
			   可能是修改操作,新增操作,刪除操作產生的
			   (此查詢只對增量匯入起作用,而且只能返回ID值)
			   -->
			   <!--
			   deletedPkQuery="select ID from myinfo where isdelete=1"	
			   此操作值查詢那些資料庫裡偽刪除的資料的ID(即isdelete標識為1的資料)
			   solr通過它來刪除索引裡面對應的資料
			   (此查詢只對增量匯入起作用,而且只能返回ID值)
			   -->
			   <!--
			    deltaImportQuery="select * from myinfo where ID='${dataimporter.delta.ID}'"
				次查詢是獲取以上兩步的ID,然後把其全部資料獲取,根據獲取的資料
				對索引庫進行更新操作,可能是刪除,新增,修改
				(此查詢只對增量匯入起作用,可以返回多個欄位的值,一般情況下,都是返回所有欄位的列)
			   -->
			   
			   
			 
		     <entity pk="ID"  dataSource="mydb" name="myinfo" query="select  *  from myinfo WHERE isdelete=0 " 
			  deltaQuery="select ID  from myinfo where my_date > '${dataimporter.last_index_time}'" 
              deletedPkQuery="select ID from myinfo where isdelete=1"			  
			  deltaImportQuery="select * from myinfo where ID='${dataimporter.delta.ID}'"
			  
			 >
			 <!--  此條記錄有必要說一下,ID指定大寫的,與上面語句中的對應起來---->
			 
			  <field column="ID" name="id"/>
		       <field column="name" name="name"/>
			   <field column="address" name="address"/>
			   <field column="age" name="age"/>
			    <field column="my_date" name="my_date"/>
				 <field column="isdelete" name="isdelete"/>
		      </entity>
			 

		</document>
		
    </dataConfig>  
   

dataimporter.properties 配置

參考:官方文件:http://wiki.apache.org/solr/DataImportHandler#Scheduling


googlecode 找到:https://code.google.com/p/solr-dataimport-scheduler/


1.複製solr-4.2.11\solr-4.2.1\dist目錄下solr-dataimporthandler-4.2.1.jar 和solr-dataimporthandler-extras-4.2.1.jar到


D:\program\tomcat6\webapps\solr\WEB-INF\lib目錄下


2.從https://code.google.com/p/solr-dataimport-scheduler/downloads/list 下載apache-solr-dataimportscheduler-1.0-with-source.jar到


D:\program\tomcat6\webapps\solr\WEB-INF\lib目錄下


3.取出apache-solr-dataimportscheduler-1.0-with-source.jar內的dataimport.properties到D:\program\tomcat6\solrapp\solr\conf


conf資料夾是沒有的,要新建


4.修改D:\program\tomcat6\webapps\solr\WEB-INF\web.xml,加入

<listener>
             <listener-class>org.apache.solr.handler.dataimport.scheduler.ApplicationListener</listener-class>
   </listener>

5.修改dataimport.properties內容:
#################################################
#                                               #
#       dataimport scheduler properties         #
#                                               #
#################################################

#  to sync or not to sync
#  1 - active; anything else - inactive
syncEnabled=1

#  which cores to schedule
#  in a multi-core environment you can decide which cores you want syncronized
#  leave empty or comment it out if using single-core deployment
#syncCores=game,resource
syncCores=collection1
#  solr server name or IP address
#  [defaults to localhost if empty]
server=localhost

#  solr server port
#  [defaults to 80 if empty]
port=8080

#  application name/context
#  [defaults to current ServletContextListener's context (app) name]
webapp=solr

#  URL params [mandatory]
#  remainder of URL
params=/dataimport?command=delta-import&clean=false&commit=true

#  schedule interval
#  number of minutes between two runs
#  [defaults to 30 if empty]
interval=1

#  重做索引的時間間隔,單位分鐘,預設7200,即1天; 
#  為空,為0,或者註釋掉:表示永不重做索引
reBuildIndexInterval=2

#  重做索引的引數
reBuildIndexParams=/dataimport?command=full-import&clean=true&commit=true

#  重做索引時間間隔的計時開始時間,第一次真正執行的時間=reBuildIndexBeginTime+reBuildIndexInterval*60*1000;
#  兩種格式:2012-04-11 03:10:00 或者  03:10:00,後一種會自動補全日期部分為服務啟動時的日期
reBuildIndexBeginTime=03:10:00