mongodb查詢分頁優化(二)
專案中需要用mongodb來進行資料測儲存和查詢,其中涉及到分頁:分頁的要求如下
1)每頁顯示10條
由於資料量太大,cursor.count()獲取的符合條件的資料量也很大,導致分頁得分好幾萬頁,同時在專案中用到了skip加limit的分頁方式,使得效能變慢
所以通過討論使用了一下措施.即要求2
2)最多分5000頁,(其實使用者也不可能從第一頁一頁一頁的翻到6000頁去,一般情況下翻個幾十頁,查不到自己所要的資料,都會重新輸入查詢條件來再進行一次篩選)
經過前面的部落格討論,可以知道分頁過程中用cursor.count()獲取符合條件的條數是很耗時的,在幾千萬條資料的壓力下,基本上點選查詢等待時間不是一般的慢.
結合要求2,現在我們的分頁思路可以進行一下改動,思路的虛擬碼如下
1)分頁查詢語句為:
DBCursor cursor = collection.find(query).skip((currentPage-1) * PAGESIZE).sort(new BasicDBObject("starttime", -1)).limit(PAGESIZE);//PAGESIZE=10
2)既然限制了最大頁數,那麼可以知道skip的最大值就等於最大頁數*每頁顯示的條數,在這裡是10*5000=50000條.那麼核心思路也就由此而出
int count = 0;
if(查詢的數量>50000){
count = 5000;
}else{
count =實際的數量
}
通過if條件可知,我們需要做這麼一個判斷:判斷符合條件的資料量的大小是否大於50000
所以,在分頁查詢語句的後面可以新增這樣的一句程式碼
DBCursor cursor2 = collection.find(query).skip(maxPage * PAGESIZE).limit(1);//maxPage=最大頁數,在這裡是5000
這句程式碼思路很簡單,就只直接skip跳過50000條資料進行查詢,如果能查到結果,就說明查詢的資料量大於50000條
所以上面的程式碼改動如下
int count = 0;
if(cursor2.hasNext()){//說明資料量大於50000
count = 50000;
}else{
count = cursor.count();//在五萬條資料以內的情況下,這個速度還是挺快的
}
當然上面的語句也可以寫的更優雅一些
int count = cursor2.hasNext()? 50000:cursor.count();
方法有點:
多增加了一條查詢語句,進行最大條數的判斷,雖然說查詢語句增加了,但是結果顯示查詢效率確實有了很大的提高,因為這些查詢通過測試都是毫秒級的.易用性得到提高
方法缺點:
限制了分頁的最大頁數,使得查詢結果顯示的不全,一定程式上影響了使用者的使用.