成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

全面解讀Python垃圾回收機制

開發 后端
由于引用計數法存在重大缺陷,循環引用時有內存泄露風險,因此 Python 還采用 標記清除法 來回收存在循環引用的垃圾對象。此外,為了提高垃圾回收( GC )效率,Python 還引入了 分代回收機制 。

[[402065]]

本文轉載自微信公眾號「小菜學編程」,作者fasionchan。轉載本文請聯系小菜學編程公眾號。

Python 內部采用 引用計數法 ,為每個對象維護引用次數,并據此回收不再需要的垃圾對象。由于引用計數法存在重大缺陷,循環引用時有內存泄露風險,因此 Python 還采用 標記清除法 來回收存在循環引用的垃圾對象。此外,為了提高垃圾回收( GC )效率,Python 還引入了 分代回收機制 。

對象跟蹤

將程序內部對象跟蹤起來,是實現垃圾回收的第一步。那么,是不是程序創建的所有對象都需要跟蹤呢?

一個對象是否需要跟蹤,取決于它會不會形成循環引用。按照引用特征,Python 對象可以分為兩類:

  • 內向型對象 ,例如 int 、float 、 str 等,這類對象不會引用其他對象,因此無法形成循環引用,無須跟蹤;
  • 外向型對象 ,例如 tuple 、 list 、 dict 等容器對象,以及函數、類實例等復雜對象,這類對象一般都會引用其他對象,存在形成循環引用的風險,因此是垃圾回收算法關注的重點;

這是一個典型的例子,橘紅色外向型對象存在循環引用的可能性,需要跟蹤;而綠色內向型對象在引用關系圖中只能作為葉子節點存在,無法形成任何環狀,因此無需跟蹤:

Python 為外向型對象分配內存時,調用位于 Modules/gcmodule.c 源文件的 _PyObject_GC_Alloc 函數。該函數在對象頭部之前預留了一些內存空間,以便垃圾回收模塊用 鏈表 將它們跟蹤起來。預留的內存空間是一個 _gc_head 結構體,它定義于 Include/objimpl.h 頭文件:

  1. typedef union _gc_head { 
  2.     struct { 
  3.         union _gc_head *gc_next; 
  4.         union _gc_head *gc_prev; 
  5.         Py_ssize_t gc_refs; 
  6.     } gc; 
  7.     long double dummy;  /* force worst-case alignment */ 
  8.     // malloc returns memory block aligned for any built-in types and 
  9.     // long double is the largest standard C type. 
  10.     // On amd64 linux, long double requires 16 byte alignment. 
  11.     // See bpo-27987 for more discussion. 
  12. } PyGC_Head; 
  • gc_next ,鏈表后向指針,指向后一個被跟蹤的對象;
  • gc_prev ,鏈表前向指針,指向前一個被跟蹤的對象;
  • gc_refs ,對象引用計數副本,在標記清除算法中使用;
  • dummy ,內存對齊用,以 64 位系統為例,確保 _gc_head 結構體大小是 16 字節的整數倍,結構體地址以 16 字節為單位對齊;

以 list 對象為例,_PyObject_GC_Alloc 函數在 PyListObject 結構體基礎上加上 _gc_head 結構體來申請內存,但只返回 PyListObject 的地址作為對象地址,而不是整塊內存的首地址:

就這樣,借助 gc_next 和 gc_prev 指針,Python 將需要跟蹤的對象一個接一個組織成 雙向鏈表 :

這個鏈表也被稱為 可收集 ( collectable )對象鏈表,Python 將從這個鏈表中收集并回收垃圾對象。

分代回收機制

Python 程序啟動后,內部可能會創建大量對象。如果每次執行標記清除法時,都需要遍歷所有對象,多半會影響程序性能。為此,Python 引入分代回收機制——將對象分為若干“代”( generation ),每次只處理某個代中的對象,因此 GC 卡頓時間更短。

那么,按什么標準劃分對象呢?是否隨機將一個對象劃分到某個代即可呢?答案是否定的。實際上,對象分代里頭也是有不少學問的,好的劃分標準可顯著提升垃圾回收的效率。

考察對象的生命周期,可以發現一個顯著特征:一個對象存活的時間越長,它下一刻被釋放的概率就越低。我們應該也有這樣的親身體會:經常在程序中創建一些臨時對象,用完即刻釋放;而定義為全局變量的對象則極少釋放。

因此,根據對象存活時間,對它們進行劃分就是一個不錯的選擇。對象存活時間越長,它們被釋放的概率越低,可以適當降低回收頻率;相反,對象存活時間越短,它們被釋放的概率越高,可以適當提高回收頻率。

對象存活時間 釋放概率 回收頻率

Python 內部根據對象存活時間,將對象分為 3 代(見 Include/internal/mem.h ):

  1. #define NUM_GENERATIONS 3 

每個代都由一個 gc_generation 結構體來維護,它同樣定義于 Include/internal/mem.h 頭文件:

  1. struct gc_generation { 
  2.     PyGC_Head head; 
  3.     int threshold; /* collection threshold */ 
  4.     int count; /* count of allocations or collections of younger 
  5.                   generations */ 
  6. }; 
  • head ,可收集對象鏈表頭部,代中的對象通過該鏈表維護;
  • threshold ,僅當 count 超過本閥值時,Python 垃圾回收操作才會掃描本代對象;
  • count ,計數器,不同代統計項目不一樣;

Python 虛擬機運行時狀態由 Include/internal/pystate.h 中的 pyruntimestate 結構體表示,它內部有一個 _gc_runtime_state ( Include/internal/mem.h )結構體,保存 GC 狀態信息,包括 3 個對象代。這 3 個代,在 GC 模塊( Modules/gcmodule.c ) _PyGC_Initialize 函數中初始化:

  1. struct gc_generation generations[NUM_GENERATIONS] = { 
  2.     /* PyGC_Head,                                 threshold,      count */ 
  3.     {{{_GEN_HEAD(0), _GEN_HEAD(0), 0}},           700,            0}, 
  4.     {{{_GEN_HEAD(1), _GEN_HEAD(1), 0}},           10,             0}, 
  5.     {{{_GEN_HEAD(2), _GEN_HEAD(2), 0}},           10,             0}, 
  6. }; 

為方便討論,我們將這 3 個代分別稱為:初生代、中生代 以及 老生代。當這 3 個代初始化完畢后,對應的 gc_generation 數組大概是這樣的:

每個 gc_generation 結構體鏈表頭節點都指向自己,換句話說每個可收集對象鏈表一開始都是空的;計數器字段 count 都被初始化為 0 ;而閥值字段 threshold 則有各自的策略。這些策略如何理解呢?

Python 調用 _PyObject_GC_Alloc 為需要跟蹤的對象分配內存時,該函數將初生代 count 計數器加一,隨后對象將接入初生代對象鏈表;當 Python 調用 PyObject_GC_Del 釋放垃圾對象內存時,該函數將初生代 count 計數器減一;_PyObject_GC_Alloc 自增 count 后如果超過閥值( 700 ),將調用 collect_generations 執行一次垃圾回收( GC )。

collect_generations 函數從老生代開始,逐個遍歷每個生代,找出需要執行回收操作( count>threshold )的最老生代。隨后調用 collect_with_callback 函數開始回收該生代,而該函數最終調用 collect 函數。

collect 函數處理某個生代時,先將比它年輕的生代計數器 count 重置為 0 ;然后將它們的對象鏈表移除,與自己的拼接在一起后執行 GC 算法(本文后半部分介紹);最后,將下一個生代計數器加一。

  • 系統每新增 701 個需要 GC 的對象,Python 就執行一次 GC 操作;
  • 每次 GC 操作需要處理的生代可能是不同的,由 count 和 threshold 共同決定;
  • 某個生代需要執行 GC ( count>hreshold ),在它前面的所有年輕生代也同時執行 GC ;
  • 對多個代執行 GC ,Python 將它們的對象鏈表拼接在一起,一次性處理;
  • GC 執行完畢后,count 清零,而后一個生代 count 加一;

下面是一個簡單的例子:初生代觸發 GC 操作,Python 執行 collect_generations 函數。它找出了達到閥值的最老生代是中生代,因此調用 collection_with_callback(1) ,1 是中生代在數組中的下標。

collection_with_callback(1) 最終執調用 collect(1) ,它先將后一個生代計數器加一;然后將本生代以及前面所有年輕生代計數器重置為零;最后調用 gc_list_merge 將這幾個可回收對象鏈表合并在一起:

最后,collect 函數執行標記清除算法,對合并后的鏈表進行垃圾回收,具體細節在本文后半部分展開介紹。

這就是分代回收機制的全部秘密,它看似復雜,但只需略加總結就可以得到幾條直白的策略:

  • 每新增 701 個需要 GC 的對象,觸發一次新生代 GC ;
  • 每執行 11 次新生代 GC ,觸發一次中生代 GC ;
  • 每執行 11 次中生代 GC ,觸發一次老生代 GC (老生代 GC 還受其他策略影響,頻率更低);
  • 執行某個生代 GC 前,年輕生代對象鏈表也移入該代,一起 GC ;
  • 一個對象創建后,隨著時間推移將被逐步移入老生代,回收頻率逐漸降低;

由于篇幅關系,分代回收部分代碼無法逐行解釋,請對照圖示閱讀相關重點函數,應該不難理解。

現在,我們對 Python 垃圾回收機制有了框架上的把握,但對檢測垃圾對象的方法還知之甚少。垃圾對象識別是垃圾回收工作的重中之重,Python 是如何解決這一關鍵問題的呢?

 

責任編輯:武曉燕 來源: 小菜學編程
相關推薦

2010-09-25 15:26:12

JVM垃圾回收

2010-10-13 10:24:38

垃圾回收機制JVMJava

2017-08-17 15:40:08

大數據Python垃圾回收機制

2017-06-12 17:38:32

Python垃圾回收引用

2010-09-25 15:33:19

JVM垃圾回收

2017-03-03 09:26:48

PHP垃圾回收機制

2009-06-23 14:15:00

Java垃圾回收

2021-11-05 15:23:20

JVM回收算法

2011-07-04 16:48:56

JAVA垃圾回收機制GC

2010-09-16 15:10:24

JVM垃圾回收機制

2015-06-04 09:38:39

Java垃圾回收機

2011-06-28 12:39:34

Java垃圾回收

2011-07-04 13:12:04

JavaScript

2011-01-18 14:06:58

JavaScriptweb

2009-12-09 17:28:34

PHP垃圾回收機制

2021-12-07 08:01:33

Javascript 垃圾回收機制前端

2023-03-26 22:48:46

Python引用計數內存

2011-12-26 09:50:05

.NET垃圾回收

2010-09-26 11:22:22

JVM垃圾回收JVM

2024-02-22 17:15:22

JS垃圾回收機制
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 久久精品这里 | 国际精品鲁一鲁一区二区小说 | 日韩在线一区二区 | 国产成人啪免费观看软件 | 久久久久久久久久爱 | 国产精品无码久久久久 | 久久天天 | 日韩久久久久 | 久久久久国产精品一区二区 | 九九九视频精品 | 九九伦理片 | 国产在线视频网 | 久久国产精品免费一区二区三区 | 久久毛片| 亚洲一区二区三区乱码aⅴ 四虎在线视频 | 日韩网站在线 | 免费看的av | 久久久精品综合 | 中文字幕11页 | 亚洲精品视频免费 | 欧美一区二区三区在线播放 | 国产精品不卡一区 | 成人高清在线视频 | 亚洲乱码一区二区 | 欧美一级在线 | 成人免费网站www网站高清 | 欧美激情在线精品一区二区三区 | 国产精品99久久久久久大便 | av 一区二区三区 | 国产精品国产三级国产aⅴ浪潮 | 国产成人精品a视频一区www | 99精品国产在热久久 | 男人的天堂在线视频 | 国产一级黄色网 | 国产一区精品在线 | 看片一区| 午夜精品久久 | 国产精品国产亚洲精品看不卡15 | 五月天国产视频 | 免费能直接在线观看黄的视频 | 国产69久久精品成人看动漫 |