成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

cassandra高級操作之分頁的java實(shí)現(xiàn)(有項(xiàng)目具體需求)

運(yùn)維 數(shù)據(jù)庫運(yùn)維
我們來談?wù)刯ava操作cassandra分頁,需要注意的是這個分頁與我們平時所做的頁面分頁是不同的,具體有啥不同,大家耐著性子往下看。

我們來談?wù)刯ava操作cassandra分頁,需要注意的是這個分頁與我們平時所做的頁面分頁是不同的,具體有啥不同,大家耐著性子往下看。

如果一個查詢得到的記錄數(shù)太大,一次性返回回來,那么效率非常低,并且很有可能造成內(nèi)存溢出,使得整個應(yīng)用都奔潰。所以了,驅(qū)動對結(jié)果集進(jìn)行了分頁,并返回適當(dāng)?shù)哪骋豁摰臄?shù)據(jù)。

一、設(shè)置抓取大小(Setting the fetch size)

抓取大小指的是一次從cassandra獲取到的記錄數(shù),換句話說,就是每一頁的記錄數(shù);我們能夠在創(chuàng)建cluster實(shí)例的時候給它的fetch size指定一個默認(rèn)值,如果沒有指定,那么默認(rèn)是5000  

  1. // At initialization: 
  2. Cluster cluster = Cluster.builder() 
  3.     .addContactPoint("127.0.0.1"
  4.     .withQueryOptions(new QueryOptions().setFetchSize(2000)) 
  5.     .build(); 
  6.  
  7. // Or at runtime: 
  8. cluster.getConfiguration().getQueryOptions().setFetchSize(2000);  

另外,statement上也能設(shè)置fetch size 

  1. Statement statement = new SimpleStatement("your query"); 
  2.  
  3. statement.setFetchSize(2000);  

如果statement上設(shè)置了fetch size,那么statement的fetch size將起作用,否則則是cluster上的fetch size起作用。

注意:設(shè)置了fetch size并不意味著cassandra總是返回準(zhǔn)確的結(jié)果集(等于fetch size),它可能返回比fetch size稍微多一點(diǎn)或者少一點(diǎn)的結(jié)果集。

二、結(jié)果集迭代

fetch size限制了每一頁返回的結(jié)果集的數(shù)量,如果你迭代某一頁,驅(qū)動會在后臺自動的抓取下一頁的記錄。如下例,fetch size = 20:   

 

默認(rèn)情況下,后臺自動抓取發(fā)生在最后一刻,也就是當(dāng)某一頁的記錄被迭代完的時候。如果需要更好的控制,ResultSet接口提供了以下方法:

  1. getAvailableWithoutFetching() and isFullyFetched() to check the current state; 
  2.  
  3. fetchMoreResults() to force a page fetch 

以下是如何使用這些方法提前預(yù)取下一頁,以避免在某一頁迭代完后才抓取下一頁造成的性能下降:  

  1. ResultSet rs = session.execute("your query"); 
  2. for (Row row : rs) { 
  3.     if (rs.getAvailableWithoutFetching() == 100 && !rs.isFullyFetched()) 
  4.         rs.fetchMoreResults(); // this is asynchronous 
  5.     // Process the row ... 
  6.     System.out.println(row); 
  7.  

三、保存并重新使用分頁狀態(tài)

有時候,將分頁狀態(tài)保存起來,對以后的恢復(fù)是非常有用的,想象一下:有一個無狀態(tài)Web服務(wù),顯示結(jié)果列表,并顯示下一頁的鏈接,當(dāng)用戶點(diǎn)擊這個鏈接的時候,我們需要執(zhí)行與之前完全相同的查詢,除了迭代應(yīng)該從上一頁停止的位置開始;相當(dāng)于記住了上一頁迭代到了哪了,那么下一頁從這里開始即可。

為此,驅(qū)動程序會暴露一個PagingState對象,該對象表示下一頁被提取時我們在結(jié)果集中的位置。 

  1. ResultSet resultSet = session.execute("your query"); 
  2. // iterate the result set... 
  3. PagingState pagingState = resultSet.getExecutionInfo().getPagingState(); 
  4.  
  5. // PagingState對象可以被序列化成字符串或字節(jié)數(shù)組 
  6. String string = pagingState.toString(); 
  7. byte[] bytes = pagingState.toBytes();  

PagingState對象被序列化后的內(nèi)容可以持久化存儲起來,也可用作分頁請求的參數(shù),以備后續(xù)再次被利用,反序列化成對象即可: 

  1. PagingState.fromBytes(byte[] bytes); 
  2.  
  3. PagingState.fromString(String str);  

請注意,分頁狀態(tài)只能使用完全相同的語句重復(fù)使用(相同的查詢,相同的參數(shù))。而且,它是一個不透明的值,只是用來存儲一個可以被重新使用的狀態(tài)值,如果嘗試修改其內(nèi)容或?qū)⑵涫褂迷诓煌恼Z句上,驅(qū)動程序會拋出錯誤。

具體我們來看下代碼,下例是模擬頁面分頁的請求,實(shí)現(xiàn)遍歷teacher表中的全部記錄:

接口:

  1. import java.util.Map; 
  2.  
  3. import com.datastax.driver.core.PagingState; 
  4.  
  5. public interface ICassandraPage 
  6.     Map<String, Object> page(PagingState pagingState); 
  7.  
  8.  

主體代碼:

  1. import java.util.ArrayList; 
  2. import java.util.HashMap; 
  3. import java.util.List; 
  4. import java.util.Map; 
  5.  
  6. import com.datastax.driver.core.PagingState; 
  7. import com.datastax.driver.core.ResultSet; 
  8. import com.datastax.driver.core.Row; 
  9. import com.datastax.driver.core.Session; 
  10. import com.datastax.driver.core.SimpleStatement; 
  11. import com.datastax.driver.core.Statement; 
  12. import com.huawei.cassandra.dao.ICassandraPage; 
  13. import com.huawei.cassandra.factory.SessionRepository; 
  14. import com.huawei.cassandra.model.Teacher; 
  15.  
  16. public class CassandraPageDao implements ICassandraPage 
  17.     private static final Session session = SessionRepository.getSession(); 
  18.      
  19.     private static final String CQL_TEACHER_PAGE = "select * from mycas.teacher;"
  20.      
  21.     @Override 
  22.     public Map<String, Object> page(PagingState pagingState) 
  23.     { 
  24.         final int RESULTS_PER_PAGE = 2; 
  25.         Map<String, Object> result = new HashMap<String, Object>(2); 
  26.         List<Teacher> teachers = new ArrayList<Teacher>(RESULTS_PER_PAGE); 
  27.  
  28.         Statement st = new SimpleStatement(CQL_TEACHER_PAGE); 
  29.         st.setFetchSize(RESULTS_PER_PAGE); 
  30.          
  31.         // 第一頁沒有分頁狀態(tài) 
  32.         if (pagingState != null
  33.         {             
  34.             st.setPagingState(pagingState); 
  35.         } 
  36.          
  37.         ResultSet rs = session.execute(st); 
  38.         result.put("pagingState", rs.getExecutionInfo().getPagingState()); 
  39.          
  40.         //請注意,我們不依賴RESULTS_PER_PAGE,因?yàn)?span id="owocgsc" class="keyword">fetch size并不意味著cassandra總是返回準(zhǔn)確的結(jié)果集 
  41.         //它可能返回比fetch size稍微多一點(diǎn)或者少一點(diǎn),另外,我們可能在結(jié)果集的結(jié)尾 
  42.         int remaining = rs.getAvailableWithoutFetching(); 
  43.         for (Row row : rs) 
  44.         { 
  45.             Teacher teacher = this.obtainTeacherFromRow(row); 
  46.             teachers.add(teacher); 
  47.              
  48.             if (--remaining == 0)  
  49.             { 
  50.                 break; 
  51.             } 
  52.         } 
  53.         result.put("teachers", teachers); 
  54.         return result; 
  55.     } 
  56.  
  57.     private Teacher obtainTeacherFromRow(Row row) 
  58.     { 
  59.         Teacher teacher = new Teacher(); 
  60.         teacher.setAddress(row.getString("address")); 
  61.         teacher.setAge(row.getInt("age")); 
  62.         teacher.setHeight(row.getInt("height")); 
  63.         teacher.setId(row.getInt("id")); 
  64.         teacher.setName(row.getString("name")); 
  65.          
  66.         return teacher; 
  67.     } 
  68.   
  69.  

測試代碼:

  1. import java.util.Map; 
  2.  
  3. import com.datastax.driver.core.PagingState; 
  4. import com.huawei.cassandra.dao.ICassandraPage; 
  5. import com.huawei.cassandra.dao.impl.CassandraPageDao; 
  6.  
  7. public class PagingTest 
  8.      
  9.     public static void main(String[] args) 
  10.     { 
  11.         ICassandraPage cassPage = new CassandraPageDao(); 
  12.         Map<String, Object> result = cassPage.page(null); 
  13.         PagingState pagingState = (PagingState) result.get("pagingState"); 
  14.         System.out.println(result.get("teachers")); 
  15.         while (pagingState != null
  16.         { 
  17.             // PagingState對象可以被序列化成字符串或字節(jié)數(shù)組 
  18.             System.out.println("=============================================="); 
  19.             result = cassPage.page(pagingState); 
  20.             pagingState = (PagingState) result.get("pagingState"); 
  21.             System.out.println(result.get("teachers")); 
  22.         } 
  23.     } 
  24.      
  25.  

我們來看看Statement的setPagingState(pagingState)方法: 

 

 

 

四、偏移查詢

保存分頁狀態(tài),能夠保證從某一頁移動到下一頁很好地運(yùn)行(也可以實(shí)現(xiàn)上一頁),但是它不滿足隨機(jī)跳躍,比如直接跳到第10頁,因?yàn)槲覀儾恢赖?0頁的前一頁的分頁狀態(tài)。像這樣需要偏移查詢的特點(diǎn),并不被cassandra原生支持,理由是偏移查詢效率低下(性能與跳過的行數(shù)呈線性反比),所以cassandra官方不鼓勵使用偏移量。如果非要實(shí)現(xiàn)偏移查詢,我們可以在客戶端模擬實(shí)現(xiàn)。但是性能還是呈線性反比,也就說偏移量越大,性能越低,如果性能在我們的接受范圍內(nèi),那還是可以實(shí)現(xiàn)的。例如,每一頁顯示10行,最多顯示20頁,這就意味著,當(dāng)顯示第20頁的時候,最多需要額外的多抓取190行,但這也不會對性能造成太大的降低,所以數(shù)據(jù)量不大的話,模擬實(shí)現(xiàn)偏移查詢還是可以的。

舉個例子,假設(shè)每頁顯示10條記錄,fetch size 是50,我們請求第12頁(也就是第110行到第119行):

1、第一次執(zhí)行查詢,結(jié)果集包含0到49行,我們不需要用到它,只需要分頁狀態(tài);

2、用第一次查詢得到的分頁狀態(tài),執(zhí)行第二次查詢;

3、用第二次查詢得到的分頁狀態(tài),執(zhí)行第三次查詢。結(jié)果集包含100到149行;

4、用第三次查詢得到的結(jié)果集,先過濾掉前10條記錄,然后讀取10條記錄,最后丟棄剩下的記錄,讀取的10條記錄則是第12頁需要顯示的記錄。

我們需要嘗試著找到最佳的fetch size來達(dá)到最佳平衡:太小就意味著后臺更多的查詢;太大則意味著返回了更大的信息量以及更多不需要的行。

另外,cassandra本身不支持偏移量查詢。在滿足性能的前提下,客戶端模擬偏移量的實(shí)現(xiàn)只是一種妥協(xié)。官方建議如下:

1、使用預(yù)期的查詢模式來測試代碼,以確保假設(shè)是正確的

2、設(shè)置最高頁碼的硬限制,以防止惡意用戶觸發(fā)跳過大量行的查詢

五、總結(jié)

Cassandra對分頁的支持有限,上一頁、下一頁比較好實(shí)現(xiàn)。不支持偏移量的查詢,硬要實(shí)現(xiàn)的話,可以采用客戶端模擬的方式,但是這種場景最好不要用在cassandra上,因?yàn)閏assandra一般而言是用來解決大數(shù)據(jù)問題,而偏移量查詢一旦數(shù)據(jù)量太大,性能就不敢恭維了。

在我的項(xiàng)目中,索引修復(fù)用到了cassandra的分頁,場景如下:cassandra的表不建二級索引,用elasticsearch實(shí)現(xiàn)cassandra表的二級索引,那么就會涉及到索引的一致性修復(fù)的問題,這里就用到了cassandra的分頁,對cassandra的某張表進(jìn)行全表遍歷,逐條與elasticsearch中的數(shù)據(jù)進(jìn)行匹對,若elasticsearch中不存在,則在elasticsearch中新增,若存在而又不一致,則在elasticsearch中修復(fù)。具體elasticsearch怎么樣實(shí)現(xiàn)cassandra的索引功能,在我后續(xù)博客中會專門的講解,這里就不多說了。而在cassandra表進(jìn)行全表遍歷的時候就需要用到分頁,因?yàn)楸碇袛?shù)據(jù)量太大,億級別的數(shù)據(jù)不可能一次全部加載到內(nèi)存中。

責(zé)任編輯:龐桂玉 來源: cnblogs.com
相關(guān)推薦

2022-02-16 07:47:48

flask分頁SQLAlchemy

2016-06-08 16:06:56

云計(jì)算

2015-10-09 10:22:47

分頁內(nèi)存尋址Linux

2010-05-31 17:18:39

Cassandra數(shù)據(jù)

2010-06-02 13:13:40

Cassandra

2010-06-03 16:18:07

Hadoop MapR

2009-09-07 13:25:56

Silverlight

2010-08-09 09:31:54

DB2 HADRv8.

2010-08-20 16:02:45

Cassandra集群

2009-12-02 18:51:12

PHP分頁類

2009-12-03 09:49:59

PHP分頁導(dǎo)航函數(shù)

2023-11-03 07:29:51

QL優(yōu)化分組字段順序優(yōu)化

2023-10-16 07:49:25

PawSQL數(shù)據(jù)庫

2021-11-22 10:00:33

鴻蒙HarmonyOS應(yīng)用

2010-02-26 15:09:59

Linux NFS

2010-04-30 12:15:42

Oracle自增ID

2010-02-03 09:59:42

C++文件流操作

2020-10-20 14:05:48

用戶需求分析IT

2010-09-27 10:32:32

2010-11-29 09:12:46

sybase分頁存儲過
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號

主站蜘蛛池模板: 成人av一区| 国产精品久久久久无码av | 欧美视频1区 | 亚洲www| 久久久久久久综合 | 精品欧美一区二区在线观看 | 久久精品国产v日韩v亚洲 | 特一级毛片 | 亚洲电影免费 | 国产在线视频一区二区 | 精产国产伦理一二三区 | 久久国产精品一区二区 | 久久久亚洲 | 欧美日韩国产一区二区三区 | 熟女毛片 | 国产免费人成xvideos视频 | 国产福利在线视频 | 黄色欧美大片 | 羞羞视频免费观看入口 | 91久久精品一区二区三区 | 成人网在线观看 | 亚洲成人黄色 | 国产高清自拍视频在线观看 | 中文字幕不卡在线88 | 日本色婷婷 | 中文字幕一区在线观看视频 | 免费h在线| 日韩精品成人一区二区三区视频 | 中文字幕免费 | 三级在线免费 | 国产黄色大片在线观看 | 99re在线视频 | 亚洲精品久久久一区二区三区 | 一级毛片视频在线观看 | 成人在线播放网站 | 国产一区二区三区视频 | 伊人春色成人网 | 日日噜噜噜夜夜爽爽狠狠视频97 | 久久夜视频 | 亚洲一区二区av | 久久久高清 |