MySQL 全表掃描成本計算
查詢優化器是 MySQL 的核心子系統之一,成本計算又是查詢優化器的核心邏輯。
全表掃描成本作為參照物,用于和表的其它訪問方式的成本做對比。任何一種訪問方式,只要成本超過了全表掃描成本,就不會被使用。
基于全表掃描成本的重要地位,要講清楚 MySQL 的成本計算邏輯,從全表掃描成本計算開始是個不錯的選擇。
本文內容基于 MySQL 8.0.29 源碼。
正文
1、概述
我們先來看一下代碼里成本計算的定義:
從上面代碼可以看到,MySQL 成本計算模型定義了四種成本:
- IO 成本:從磁盤或內存讀取數據頁的成本。
- CPU 成本:訪問記錄需要消耗的 CPU 成本。
- 導入成本:這一項直到 MySQL 8.0.29 都還沒有被使用,先忽略。
- 內存成本:這一項指的是占用內存字節數,計算 MRR(Multi Range Read)方式讀取數據的成本時才會用到,也先忽略。
全表掃描的成本就只剩 IO 成本、CPU 成本這兩項了。
2、計算公式
我們先從整體計算公式開始,然后逐步拆解。
全表掃描成本 = io_cost + 1.1 + cpu_cost + 1。
io_cost 后面的 1.1 是硬編碼直接加到 IO 成本上的;cpu_cost 后面的 1 也是硬編碼的,直接加到 CPU 成本上。代碼里長這樣:
關于這兩個硬編碼的值,代碼里沒有注釋為什么要加,不過它們是個固定值,不影響我們理解成本計算邏輯,先忽略它們。
io_cost = cluster_page_count * avg_single_page_cost。
cluster_page_count 是主鍵索引數據頁數量,從表的統計信息中得到,在統計信息小節會介紹。
avg_single_page_cost 是讀取一個數據頁的平均成本,通過計算得到,公式如下:
avg_single_page_cost = pages_in_memory_percent * 0.25 + pages_on_disk_percent * 1.0。
pages_in_memory_percent 是主鍵索引已經加載到 Buffer Pool 中的葉結點占所有葉結點的比例,用小數表示(取值范圍 0.0 ~ 1.0),例如:80% 表示為 0.8。數據頁在內存中的比例小節會介紹具體計算邏輯。
pages_on_disk_percent 是主鍵索引在磁盤文件中的葉結點占所有葉結點的比例,通過 1 - pages_in_memory_percent 計算得到。
0.25 是成本常數 memory_block_read_cost 的默認值,表示從 Buffer Pool 中的一個數據頁讀取數據的成本。
1.0 是成本常數 io_block_read_cost 的默認值,表示把磁盤文件中的一個數據頁加載到 Buffer Pool 的成本,加上從 Buffer Pool 中的該數據頁讀取數據的成本。
cpu_cost = n_rows * 0.1。
n_rows 是表中記錄的數量,從表的統計信息中得到,在統計信息小節會介紹。
0.1 是成本常數 row_evaluate_cost 的默認值,表示訪問一條記錄的 CPU 成本。
有了上面這些公式,我們通過一個具體例子走一遍全表掃描成本計算的過程。
假設一個表有 600 條記錄,主鍵索引數據頁的數量為 3,主鍵索引數據頁已經全部加載到 Buffer Pool(pages_in_memory_percent = 1.0),下面我們開始計算過程:
pages_on_disk_percent = 1 - pages_in_memory_percent(1.0) = 0.0。
avg_single_page_cost = pages_in_memory_percent(1.0) * 0.25 + pages_on_disk_percent(0.0) * 1.0 = 0.25。
io_cost = cluster_page_count(3) * avg_single_page_cost(0.25) = 0.75。
cpu_cost = n_rows(600) * 0.1 = 60。
全表掃描成本 = io_cost(0.75) + 1.1 + cpu_cost(60) + 1 = 62.85。
3、統計信息
全表掃描成本計算過程中,用到了主鍵索引數據頁數量、表中記錄數量,這兩個數據都來源 InnoDB 的表統計信息。
clustered_index_size 就是主鍵索引數據頁數量,n_rows 是表中記錄數量。
4、數據頁在內存中的比例
avg_single_page_cost = pages_in_memory_percent * 0.25 + pages_on_disk_percent * 1.0。
上面的公式用于計算讀取一個數據頁的平均成本,pages_in_memory_percent 是主鍵索引已經加載到 Buffer Pool 中的葉結點占所有葉結點的比例。
計算代碼如下:
InnoDB 在內存中維護了一個哈希表(buf_stat_per_index->m_store),key 是表名,value 是表的主鍵索引已經加載到 Buffer Pool 中的葉子結點數量。
每次從磁盤加載某個表的主鍵索引的一個葉子結點數據頁到 Buffer Pool 中,該表在 buf_stat_per_index->m_store 中對應的 value 值就加一。
從 Buffer Pool 的 LRU 鏈表淘汰某個表的主鍵索引葉子結點時,該表在 buf_stat_per_index->m_store 中對應的 value 值就減一。
還有其它場景,buf_stat_per_index->m_store 中的 value 值也會發生變化,不展開了。
5、成本常數
memory_block_read_cost 和 io_block_read_cost 這兩個成本常數從系統表 mysql.engine_cost 中讀取:
我們可以修改 cost_value 字段值,來調整 memory_block_read_cost 和 io_block_read_cost。
row_evaluate_cost成本常數從系統表 mysql.server_cost 中讀取:
我們可以修改 cost_value 字段值,來調整 row_evaluate_cost。
6、總結
計算全表掃描成本,最重要的無疑是這個公式:全表掃描成本 = io_cost + 1.1 + cpu_cost + 1。
io_cost 表示全表掃描 IO 成本,MySQL 會先計算讀取一個數據頁的平均成本,然后乘以主鍵索引的數據頁數量,得到 IO 成本。
計算讀取一個數據頁的平均成本,關鍵是要知道主鍵索引已經加載到 Buffer Pool 中的葉子結點數量。InnoDB 通過在內存中維護一個哈希表(buf_stat_per_index->m_store)來記錄這個數量。
本文轉載自微信公眾號「一樹一溪」,可以通過以下二維碼關注。轉載本文請聯系一樹一溪公眾號