成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

為什么 MySQL 單表不能超過 2000 萬行?

數據庫 MySQL
互聯網江湖上的確流傳著一個說法:單表數據量超過 500 萬行時就要進行分表分庫,已經超過 2000 萬行時 MySQL 的性能就會急劇下降。

互聯網江湖上的確流傳著一個說法:單表數據量超過 500 萬行時就要進行分表分庫,已經超過 2000 萬行時 MySQL 的性能就會急劇下降。

那么,MySQL 一張表最多能存多少數據?

今天我們就從技術層面剖析一下,MySQL 單表數據不能過大的根本原因是什么?

猜想一:是索引深度嗎?

很多人認為:數據量超過 500 萬行或 2000 萬行時,引起 B+tree 的高度增加,延長了索引的搜索路徑,進而導致了性能下降。事實果真如此嗎?

我們先理一下關系,MySQL 采用了索引組織表的形式組織數據,葉子節點存儲數據,非葉子節點存儲主鍵與頁面號的映射關系。若用戶的主鍵長度是 8 字節時,MySQL 中頁面偏移占 4 個字節,在非葉子節點的時候實際上是 8+4=12 個字節,12 個字節表示一個頁面的映射關系。

MySQL 默認是 16K 的頁面,拋開它的配置 header,大概就是 15K,因此,非葉子節點的索引頁面可放 15*1024/12=1280 條數據,按照每行 1K 計算,每個葉子節點可以存 15 條數據。同理,三層就是 15*1280*1280=24576000 條數據。只有數據量達到 24576000 條時,深度才會增加為 4,所以,索引深度沒有那么容易增加,詳細數據可參考下表:

搜索路徑延長導致性能下降的說法,與當時的機械硬盤和內存條件不無關系。

之前機械硬盤的 IOPS 在 100 左右,而現在普遍使用的 SSD 的 IOPS 已經過萬,之前的內存最大幾十 G,現在服務器內存最大可達到 TB 級。

因此,即使深度增加,以目前的硬件資源,IO 也不會成為限制 MySQL 單表數據量的根本性因素。

那么,限制 MySQL 單表不能過大的根本性因素是什么?

猜想二:是 SMO 無法并發嗎?

我們可以嘗試從 MySQL 所采用的存儲引擎 InnoDB 本身來探究一下。

大家知道 InnoDB 引擎使用的是索引組織表,它是通過索引來組織數據的,而它采用 B+tree 作為索引的數據結構。

B+Tree 操作非原子,所以當一個線程做結構調整(SMO,Struction-Modification-Operation)時一般會涉及多個節點的改動。

SMO 動作過程中,此時若有另一個線程進來可能會訪問到錯誤的 B+Tree 結構,InnoDB 為了解決這個問題采用了樂觀鎖和悲觀鎖的并發控制協議。

InnoDB 對于葉子節點的修改操作如下:

方式一,先采用樂觀鎖的方式嘗試進行修改

對根節點加 S 鎖(shared lock,叫共享鎖,也稱讀鎖),依次對非葉子節點加 S 鎖。

如果葉子節點的修改不會引起 B+Tree 結構變動,如分裂、合并等操作,那么只需要對葉子節點進行加 X 鎖(exclusive lock,叫排他鎖,也稱為寫鎖)即可完成修改。如下圖中所示 :


方式二,采用悲觀鎖的方式

如果對葉子結點的修改會觸發 SMO,那么會采用悲觀鎖的方式。

采用悲觀鎖,需要重新遍歷 B+Tree,對根節點加全局 SX 鎖(SX 鎖是行鎖),然后從根節點到葉子節點可能修改的節點加 X 鎖。

在整個 SMO 過程中,根節點始終持有 SX 鎖(SX 鎖表示有意向修改這個保護的范圍,SX 鎖與 SX 鎖、X 鎖沖突,與 S 鎖不沖突),此時其他的 SMO 則需要等待。

因此,InnoDB 對于簡單的主鍵查詢比較快,因為數據都存儲在葉子節點中,但對于數據量大且改操作比較多的 TP 型業務,并發會有很嚴重的瓶頸問題。

在對葉子節點的修改操作中,InnoDB 可以實現較好的 1 與 1、1 與 2 的并發,但是無法解決 2 的并發。因為在方式 2 中,根節點始終持有 SX 鎖,必須串行執行,等待上一個 SMO 操作完成。這樣在具有大量的 SMO 操作時,InnoDB 的 B+Tree 實現就會出現很嚴重的性能瓶頸。

解決方案

目前業界有一個更好的方案 B-Link Tree,與 B+Tree 相比,B-Link Tree 優化了 B+Tree 結構調整時的鎖粒度,只需要逐層加鎖,無需對 root 節點加全局鎖。因此,可以做到在 SMO 過程中寫操作的并發執行,保持高并發下性能的穩定。

B-Link Tree 主要改進點有 2 個:

1. 中間節點增加 link 指針,指向右兄弟節點;

2. 每個節點內增加字段 high key,存儲該節點中最大的 key 值。

新增的 link 指針是為了解決 SMO 過程中并發寫的問題,在 SMO 過程中,B-Link Tree 對修改節點逐層加鎖,修改完一層即可放鎖,然后去加上一層節點的鎖繼續修改。這樣在 InnoDB 引擎中被 SMO 阻塞的寫操作可以有機會在 SMO 操作過程中并發進行。

如下圖所示,在節點 2 分裂為節點 2 和 4 的過程中,只需要在最后一步將父節點 1 指向新節點 4 時,對父節點 1 加鎖,其他操作均無需對父節點加鎖,更無需對 root 節點加鎖,因此,大大提升了 SMO 過程中寫操作的并發度。

圖片圖片

由此可見,與 B+Tree 全局加鎖對比,B-Link Tree 在高并發操作下的性能是顯著優于 B+Tree 的。GaussDB 當前采用的就是 B-Link Tree 索引數據結構。

InnoDB 的索引組織表更容易觸發 SMO

索引組織表的葉子節點,存儲主鍵以及應對行的數據,InnoDB 默認頁面為 16K,若每行數據的大小為 1000 字節,每個葉子節點僅能存儲 16 行數據。

在索引組織表中,當葉子節點的扇出值過低時,SMO 的觸發將更加頻繁,進而放大了 SMO 無法并發寫的缺陷。

目前業界有一個堆組織表的數據組織方案,也是華為云數據庫 GaussDB 采用的方案。它的葉子節點存儲索引鍵以及對應的行指針(所在的頁面編號及頁內偏移),堆組織表葉子節點可以存更多的數據,分析可得在同樣的數據量與業務并發量下,堆組織表會比索引組織表發生 SMO 概率低許多。

性能對比

在 8U32G 的兩臺服務器分別搭建了 MySQL(B+Tree 和索引組織表)與 GaussDB(B-Link Tree 和堆組織表)的環境,進行了如下性能驗證:

實驗場景:在基礎表的場景上,測試增量隨機插入性能。

1. 基礎表總大小 10G,包含主鍵隨機分布的 1000w 行數據,每行數據 1k;

2. 插入主鍵隨機分布的 1000w 行數據,每行數據大小 1k,測試并發插入性能。

結論:隨著并發數的上升,GaussDB 能穩步提升系統的 TPS,而 MySQL 并發數的提高并不能帶來 TPS 的顯著提升

綜上所述,MySQL 無法支持大數據量下并發修改的根本原因,是由于其索引并發控制協議的缺陷造成的,而 MySQL 選擇索引組織表,又放大了這一缺陷。所以,開源 MySQL 數據庫更適用于主鍵查詢為主的簡單業務場景,如互聯網類應用,對于復雜的商業場景限制比較明顯。

責任編輯:華軒 來源: 微技術之家
相關推薦

2022-10-31 08:29:37

MySQL單表參數

2019-06-23 15:04:42

MySQL單表數據數值

2019-09-10 09:06:01

MySQL經驗數值黃金鐵律

2019-06-27 16:40:30

MySQL單表數據數據庫

2018-10-15 09:20:08

代碼軟件工程師

2009-08-20 16:34:50

Linux源代碼紅帽Linux內核

2021-03-02 13:56:24

Linux 5.12代碼驅動

2018-12-05 09:20:02

MySQL數據庫索引

2024-08-05 10:44:32

MySQL磁盤I/O

2019-01-03 09:29:15

Linux 系統 數據

2023-06-28 14:18:06

2020-02-24 16:27:19

開源大數據計算引擎

2009-07-21 08:44:14

微軟Linux內核開源操作系統

2018-05-13 15:24:33

工程師程序windows

2017-03-23 14:07:55

代碼程序員

2015-09-01 16:26:18

Linux內核

2020-05-27 14:10:50

代碼開發工具

2020-08-17 17:10:54

機器學習聚類開發

2009-07-21 08:51:33

微軟發布Linux設備微軟開源虛擬化

2024-03-13 15:48:43

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 亚洲精品视频导航 | 欧美八区 | av香蕉| 91亚洲国产成人久久精品网站 | 黄色成人在线 | a级在线免费视频 | 欧美高清视频 | 天天草天天干天天 | 日韩欧美理论片 | 欧美视频精品 | 久久国产精品一区二区三区 | 操人网站| 在线播放一区二区三区 | 国产精品美女久久久久久免费 | 日日爽 | 欧美精产国品一二三区 | 特级做a爰片毛片免费看108 | 中文字幕亚洲一区 | 亚洲永久精品国产 | www.日韩| 黄色一级大片在线免费看产 | 亚洲综合大片69999 | 欧美日韩中文在线 | 日本午夜在线视频 | 午夜影院在线视频 | 欧美a在线| 中文字幕乱码一区二区三区 | 欧美日韩视频 | 在线成人www免费观看视频 | 国产综合在线视频 | 91欧美 | 久热免费 | 亚洲福利网站 | 精品毛片在线观看 | 在线91 | 久久久精品亚洲 | 国产成人精品视频 | 中文字幕在线视频一区二区三区 | 国产欧美一级 | 亚洲一区二区三区在线 | 久久免费看 |