成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

后臺架構設計—數據存儲層

存儲 存儲軟件
LSM樹存儲引擎:對數據的修改增量保存在內存,達到一定條件再批量更新到磁盤;優勢在于批量寫入;劣勢在于讀取需合并磁盤和內存。

數據存儲重要性:

  • 數據是企業最重要的財產;
  • 數據可靠性是企業的命根,一定要保證。

單機存儲原理:

存儲引擎:存儲系統的發動機,它決定存儲系統的功能和性能;

引擎類型:哈希存儲引擎、B樹存儲引擎、LSM存儲引擎

  1. 哈希存儲引擎:基于哈希表結構 :數組+鏈表;支持Create\Update\Delete\隨機Read
  2. B樹存儲引擎:基于B Tree實現,支持單條記錄的CURD,支持順序查找。RDBMS使用較多。
  3. LSM樹存儲引擎:對數據的修改增量保存在內存,達到一定條件再批量更新到磁盤;優勢在于批量寫入;劣勢在于讀取需合并磁盤和內存;

避免內存數據丟失:修改操作寫入到CommitLog日志。

[[211085]]

數據模型:

  1. 文件:以目錄樹組織,如linux,mac,windows;
  2. 關系型:每個關系是一個表格,多行組成,每行多列;
  3. 鍵值(Key-Value):Memcached, Tokey, Redis;
  4. 列存儲型:Casadra, Hbase;
  5. 圖形數據庫:Neo4J, InfoGrid, Infinite Graph
  6. 文檔型:MongoDB, CouchDB

事務與并發控制:

事務4個基本屬性:ACID 原子性、一致性、隔離性、持久性

并發控制:

鎖粒度:Process->DB->Table->Row

提供Read并發,Read不加鎖:寫時復制、MVCC

    數據恢復:通過操作日志

多機存儲原理:

單機存儲原理在多機存儲仍然可用;多級存儲基于單機存儲;

數據分布:

分布在多個節點,節點間負載均衡;

分布方式:

靜態:取模、uid%32;

動態:一致性hash,數據飄移問題(A節點更新前出現故障,更新遷移到B節點后A節點又恢復);

復制:

分布式存儲多個副本;保證高可靠和高可用;Commit Log。

故障檢測:

心跳機制、數據遷移、故障恢復;

FLP定理與設計:

FLP Impossiblity(FLP不可能性):

在異步消息通信場景,即使只有一個進程失敗,沒有任何方法能保證非失敗進程達到一致性。

CAP定理與設計:

CAP:一致性(Consistency)、可用性(Availabilty)、分區容忍性(Tolerance of network Partition)。

一致性和可用性需要折中權衡

分布式存儲系統需要能夠自動容錯,也就是說分區容忍性需要保證。

2PC(Two Phase Commit)協議與設計:

用于分布式事務;

兩類節點組成:

協調者(1個);

事務參與者(多個);

分兩階段:

請求階段:協調者通知參與者準備提交或取消事務,所有參與者都需要表決同意或者不同意。

提交階段:

收到參與者所有決策后,協調者進行決策(提交或取消);

通知參與者執行操作,所有參與者都同意就提交,否則取消;

參與者收到協調者的通知后執行操作。

2PC協議是阻塞式:

事務參與者可能發生故障

        --設置超時時間;

協議者可能發生故障

      --日志記錄、備用協調者

應用:交易訂單 等;

Paxos協議與設計:

作用:

解決節點間的一致性問題;

主節點宕掉,則選擇新節點;

主節點常以操作日志的形式同步備節點。

分兩種角色:提議者(Prpposer)、接受者(Acceptor);

執行步驟:

批準:Proposer發送accept消息給Accepter要求接受某個提議者;

確認:超一半的Accepter接受,則提議值生效,Proposer發送acknowledge消息通知所有的Accepter提議生效。

與2PC比較::

2PC協議保證多個數據分片上操作的原子性;

Paxos協議保證一個數據分片多個副本之間的數據一致性;

Paxos協議用法:

實現全局的鎖服務或者命名和配置服務;

---Apache Zookeeper

將用戶數據復制到多個數據中心;

---Google Megastore

數據存儲層冗余:

多個副本,實現訪問的高可用性。

如何實現: 

數據復制:

基于日志;

Master-Slave:mysql\MongoDB

Replic Set:MongoDB

雙寫:

存儲層多主對等結構;比較靈活,但數據模塊層成本較高;

數據備份:

冷備份:

定期將數據復制到某個存儲介質,是傳統的數據保護手段;

優點:簡單、廉價,技術難度低;

缺點:定期存在數據不一致;恢復數據時間長;

熱備份:

online備份;提供更好的高可用性;

異步熱備份:

從主存儲寫入即返回給應用端,由存儲系統異步寫入其他副本;

同步熱備份:

多份數據副本寫入同步完成,無主從之分;

為提高性能,應用程序并發寫入;

響應延遲是最慢的那臺服務器;

數據存儲層失效轉移機制:

失效確認:是否宕機、心跳;

訪問轉移:訪問路由到非宕機機器;存儲數據完全一致;

數據恢復:主從、日志;

責任編輯:武曉燕 來源: 訂閱號智能服務
相關推薦

2012-06-07 10:53:08

架構設計數據訪問層設計原則

2012-06-07 10:22:48

架構設計邏輯層物理層

2017-10-10 15:20:10

架構數據存儲PB級數據

2012-05-30 09:43:45

業務邏輯層

2012-06-07 10:35:40

架構設計業務邏輯Java

2012-09-19 13:46:37

存儲存儲設計快速表態

2016-05-09 09:26:06

架構ios網絡層

2017-11-27 08:50:29

架構數據存儲

2022-05-18 10:07:29

EMQ車聯網MQTT

2024-11-27 13:01:22

應用層領域層對接層

2012-06-07 10:25:35

架構設計服務層軟件設計

2010-09-17 08:50:30

Visual Stud

2019-06-13 18:50:47

支付平臺架構設計

2023-03-27 08:05:27

數字化轉型MLOps

2021-01-11 10:19:51

安全架構

2019-12-24 08:11:39

大數據架構數據開發

2023-03-01 18:12:16

平臺架構設計

2022-12-13 09:54:52

數據倉庫

2013-05-27 10:58:28

Tumblr架構設計雅虎收購

2024-10-15 11:04:18

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 亚洲一区二区三区四区在线观看 | 中文字幕在线观看第一页 | 成人性生交大免费 | 日本高清aⅴ毛片免费 | 一区二区三区网站 | 色橹橹欧美在线观看视频高清 | 国产成人精品亚洲日本在线观看 | 天堂在线一区 | 九九热在线免费视频 | 精品久久久久久久 | 午夜视频在线免费观看 | 欧美日韩国产综合在线 | 男女视频免费 | 手机在线观看 | 国产精品区二区三区日本 | 亚洲精品电影网在线观看 | 精品日韩欧美一区二区 | 精品一区二区三区免费视频 | 欧美日韩国产在线 | 欧美在线观看一区 | 国产美女精品 | 国产欧美日韩视频 | 国产精品一区二区三区免费观看 | 国产精品777一区二区 | 久久一区二区视频 | 国产亚洲精品一区二区三区 | 日韩中文字幕第一页 | 91麻豆蜜桃一区二区三区 | 成年人在线视频 | 美女久久 | 狠狠爱视频 | 午夜视频在线观看网站 | 免费在线观看一区二区 | 精品国偷自产在线 | 久久国产视频网站 | 午夜激情在线 | 999久久久 | 欧美一二三四成人免费视频 | 欧美a级成人淫片免费看 | 日韩一区二区三区在线观看 | 91精品国产麻豆 |