MESI協(xié)議,JMM,線(xiàn)程常見(jiàn)方法等
本文轉(zhuǎn)載自微信公眾號(hào)「 學(xué)習(xí)Java的小姐姐」,轉(zhuǎn)載本文請(qǐng)聯(lián)系 學(xué)習(xí)Java的小姐姐公眾號(hào)。
前言
我們?cè)谡夜ぷ鲿r(shí),經(jīng)常在招聘信息上看到有這么一條:要求多線(xiàn)程并發(fā)經(jīng)驗(yàn)。無(wú)論是初級(jí)程序員,中級(jí)程序員,高級(jí)程序員,也無(wú)論是大廠(chǎng),小廠(chǎng),并發(fā)編程肯定是少不了的。
但是網(wǎng)上很多博文直接上來(lái)就講JUC,沒(méi)有從基礎(chǔ)出發(fā),所以該篇旨在講明并發(fā)基礎(chǔ),主要為計(jì)算機(jī)原理,線(xiàn)程常見(jiàn)方法,Java虛擬機(jī)方法的知識(shí),為后面的學(xué)習(xí)保駕護(hù)航,話(huà)不多說(shuō),開(kāi)始吧。
緩存一致性——MESI協(xié)議
CPU多級(jí)緩存官方概念
CPU在摩爾定律的指導(dǎo)下以每18個(gè)月翻一番的速度在發(fā)展,然而內(nèi)存和硬盤(pán)的發(fā)展速度遠(yuǎn)遠(yuǎn)不及CPU,所以才引入了緩存的概念。我們可以從下圖看出在CPU和主內(nèi)存之間加了一個(gè)緩存,用來(lái)提升交互速度。
隨著CPU的速率越來(lái)越快,人們對(duì)計(jì)算機(jī)性能要求越來(lái)越高,傳統(tǒng)的緩存已經(jīng)滿(mǎn)足不了,所以引入了多級(jí)緩存,包括一級(jí)緩存,二級(jí)緩存,三級(jí)緩存,具體如圖所示。
一級(jí)緩存:基本上都是內(nèi)置在cpu內(nèi)部,和cpu一個(gè)速度運(yùn)行,能有效的提升cpu的工作效率。當(dāng)然數(shù)量越多,cpu工作效率就會(huì)越高,但是由于cpu的內(nèi)部結(jié)構(gòu)限制了其大小,所以一級(jí)緩存的數(shù)據(jù)并不大。
二級(jí)緩存:主要作用是協(xié)調(diào)一級(jí)緩存和內(nèi)存之間的工作效率。cpu首先用的是一級(jí)內(nèi)存,當(dāng)cpu的速度慢慢提升之后,一級(jí)緩存就不夠cpu的使用量了,這就需要用到二級(jí)內(nèi)存。
三級(jí)緩存:和一級(jí)緩存與二級(jí)緩存的關(guān)系差不多,是為了在讀取二級(jí)緩存不夠用的時(shí)候而設(shè)計(jì)的一種緩存手段,在有三級(jí)緩存cpu之中,只有大約百分之五的數(shù)據(jù)需要在內(nèi)存中調(diào)取使用,這能提升cpu不少的效率,從而cpu能夠高速的工作。
我們可以看下本機(jī)的緩存情況。
CPU多級(jí)緩存白話(huà)翻譯
只有一級(jí)緩存情況:
我們可以將CPU當(dāng)做我們本人,緩存區(qū)當(dāng)做超市,主內(nèi)存當(dāng)做工廠(chǎng),如果想要買(mǎi)東西(取數(shù)據(jù))就先去超市(緩存區(qū))買(mǎi)(取),如果超市(緩存區(qū))沒(méi)有,就去工廠(chǎng)(主內(nèi)存)里面買(mǎi)(取)。
多級(jí)緩存情況:
我們可以將CPU當(dāng)做本人,一級(jí)緩存當(dāng)做樓下小區(qū)里面的小賣(mài)部,二級(jí)緩存當(dāng)做普通超市,三級(jí)緩存當(dāng)做大型超市,主內(nèi)存當(dāng)做工廠(chǎng),如果想買(mǎi)東西先去樓下小賣(mài)部(一級(jí)緩存),小賣(mài)部(一級(jí)緩存)沒(méi)有的話(huà),就去普通超市(二級(jí)緩存),如果普通超市(二級(jí)緩存)還沒(méi)有,就去大型超市(三級(jí)緩存),如果大型超市(三級(jí)緩存)還沒(méi)有,就直接去工廠(chǎng)(主內(nèi)存)取。這些緩存的出現(xiàn)使得我們不必每次都去工廠(chǎng)(主內(nèi)存)買(mǎi)東西(取數(shù)據(jù)),節(jié)省了時(shí)間,提升了速度。
為什么需要CPU緩存
CPU速率太快,快到內(nèi)存跟不上,在處理器處理周期內(nèi),CPU常常等待內(nèi)存,造成資源的浪費(fèi)。
緩存的意義
時(shí)間局限性:如果某個(gè)數(shù)據(jù)被訪(fǎng)問(wèn),在將來(lái)的某個(gè)時(shí)間也可能被訪(fǎng)問(wèn)。(白話(huà)翻譯就是如果我今天買(mǎi)了薯片,那么以后我可能還會(huì)買(mǎi)薯片,畢竟是吃貨O(∩_∩)O)
空間局限性:如果某個(gè)數(shù)據(jù)被訪(fǎng)問(wèn),那么他相鄰的數(shù)據(jù)也有可能被訪(fǎng)問(wèn)。(白話(huà)翻譯就是如果我今天買(mǎi)了薯片,那么我可以還會(huì)買(mǎi)其他膨化食品,畢竟他們兩挨在一起)
帶來(lái)的問(wèn)題
對(duì)于多核系統(tǒng)來(lái)說(shuō), 每個(gè)核中緩存數(shù)據(jù)不一致的問(wèn)題。
解決方式一——總線(xiàn)加鎖(性能太低)
CPU從主內(nèi)存讀取數(shù)據(jù)到緩存區(qū),并在總線(xiàn)對(duì)這個(gè)數(shù)據(jù)進(jìn)行加鎖,其他CPU無(wú)法去讀寫(xiě)這個(gè)數(shù)據(jù),直到這個(gè)CPU使用完數(shù)據(jù),鎖被釋放了才訪(fǎng)問(wèn)。就比如我想去超市買(mǎi)一個(gè)辣條,但是張三也想買(mǎi),在我買(mǎi)的過(guò)程中,就給辣條加了鎖,張三根本碰不到辣條,我買(mǎi)的過(guò)程非常慢,那張三不急死啦嘛。
解決方式二——MESI協(xié)議(重點(diǎn))
針對(duì)上面緩存數(shù)據(jù)不一致的情況,提出了MESI協(xié)議用以保證多個(gè)CPU緩存中共享數(shù)據(jù)的一致性,定義了緩存行Cache Line四個(gè)狀態(tài),分表是M(Modified),E(Exclusive),S(Share),I(Invalid)四種。
- M(Modified修改):該行數(shù)據(jù)有效,數(shù)據(jù)被修改了,和內(nèi)存中的數(shù)據(jù)不一致,數(shù)據(jù)只能存在于本緩沖區(qū)中。
- E(Exclusive獨(dú)占):這行數(shù)據(jù)有效,數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致,數(shù)據(jù)只存在于本Cache中。
- S(Shared共享):這行數(shù)據(jù)有效,數(shù)據(jù)和內(nèi)存中的數(shù)據(jù)一致,數(shù)據(jù)存在于很多Cache中。
- I(Invalid無(wú)效):這行數(shù)據(jù)無(wú)效
MESI狀態(tài)之間的遷移:
這圖一看是很懵逼的,咱慢慢來(lái)看哈,慢慢體會(huì)這些變化哈。
當(dāng)前狀態(tài)是Modified
- 內(nèi)核讀取本地緩存中的值(local read):從緩存區(qū)中讀取數(shù)據(jù),狀態(tài)不變,還是修改M
- 本地內(nèi)核寫(xiě)本地緩存中的值(local write):從緩存區(qū)中修改數(shù)據(jù),狀態(tài)不變,還是修改M
- 其它內(nèi)核讀取其他緩存中的值(remote read):數(shù)據(jù)被寫(xiě)入內(nèi)存,其他內(nèi)存讀取到最新數(shù)據(jù),即為共享S
- 其它內(nèi)核更改其他緩存中的值(remote write):數(shù)據(jù)被寫(xiě)入內(nèi)存,其他內(nèi)存讀取到最新數(shù)據(jù),并修改和提交,此緩存區(qū)的狀態(tài)為無(wú)效I
當(dāng)前狀態(tài)是Exclusive
- 內(nèi)核讀取本地緩存中的值(local read):從緩存區(qū)中讀取數(shù)據(jù),狀態(tài)不變,還是獨(dú)占E
- 本地內(nèi)核寫(xiě)本地緩存中的值(local write):從緩存區(qū)中修改數(shù)據(jù),即為修改M
- 其它內(nèi)核讀取其他緩存中的值(remote read):數(shù)據(jù)被寫(xiě)入內(nèi)存,其他內(nèi)存讀取到數(shù)據(jù),即為共享S
- 其它內(nèi)核更改其他緩存中的值(remote write):數(shù)據(jù)被寫(xiě)入內(nèi)存,其他內(nèi)存讀取到數(shù)據(jù),并修改提交,即為無(wú)效I
當(dāng)前狀態(tài)是Share
- 內(nèi)核讀取本地緩存中的值(local read):從緩存區(qū)中讀取數(shù)據(jù),狀態(tài)不變,還是共享S
- 本地內(nèi)核寫(xiě)本地緩存中的值(local write):在緩存區(qū)中修改數(shù)據(jù),即為修改M
- 其它內(nèi)核讀取其他緩存中的值(remote read):數(shù)據(jù)被寫(xiě)入內(nèi)存,其他內(nèi)存讀取數(shù)據(jù),即為共享S
- 其它內(nèi)核更改其他緩存中的值(remote write):數(shù)據(jù)被寫(xiě)入內(nèi)存,其他內(nèi)存讀取數(shù)據(jù),并修改提交,即為無(wú)效I
當(dāng)前狀態(tài)是Invalid
- 內(nèi)核讀取本地緩存中的值(local read):如果其他緩存里面沒(méi)有這個(gè)值,狀態(tài)即為獨(dú)享E;如果其他緩存里有這個(gè)值,狀態(tài)即為共享S
- 本地內(nèi)核寫(xiě)本地緩存中的值(local write):在緩存區(qū)中修改數(shù)據(jù),即為修改M
- 其它內(nèi)核讀取其他緩存中的值(remote read):其他核的操作與他無(wú)關(guān),即為無(wú)效I
- 其它內(nèi)核更改其他緩存中的值(remote write):其他核的操作與他無(wú)關(guān),即為無(wú)效I
并行和并發(fā)的區(qū)別
并發(fā):同一時(shí)刻只能有一個(gè)指令執(zhí)行,但多個(gè)指令被CPU輪換執(zhí)行,因?yàn)闀r(shí)間間隔很短,會(huì)造成同時(shí)執(zhí)行的錯(cuò)覺(jué)。
并行:同一時(shí)刻多條指令在多個(gè)處理器同時(shí)執(zhí)行,不管是微觀(guān),還是宏觀(guān)上,都是同時(shí)執(zhí)行的。
舉個(gè)例子,并發(fā)就是一個(gè)家庭主婦既要燒飯,也要帶娃,也要打掃房間,如果每個(gè)事情只做一分鐘,然后輪換,從宏觀(guān)上來(lái)說(shuō),會(huì)造成同時(shí)執(zhí)行的錯(cuò)覺(jué)。并行就是該家庭主婦請(qǐng)了兩個(gè)保姆,一個(gè)專(zhuān)職負(fù)責(zé)燒飯,一個(gè)專(zhuān)職負(fù)責(zé)帶娃,自己專(zhuān)職負(fù)責(zé)打掃衛(wèi)生,不管從宏觀(guān)還是微觀(guān)上來(lái)看,他們都是同時(shí)執(zhí)行的。
某位大佬曾經(jīng)說(shuō)兩者的區(qū)別,并發(fā)是同一時(shí)間應(yīng)對(duì)多件事情的能力,并行是同一時(shí)間去做多件事情的能力。作為一個(gè)工科生,不知道如何夸大佬,只知道喊666。
進(jìn)程和線(xiàn)程的關(guān)系
進(jìn)程是用來(lái)加載指令,管理內(nèi)存,執(zhí)行語(yǔ)句的。
線(xiàn)程是進(jìn)程的一部分,一個(gè)進(jìn)程可以分為1個(gè)或多個(gè)線(xiàn)程。
網(wǎng)易云音樂(lè)的打開(kāi),就是開(kāi)啟了一個(gè)進(jìn)程,而播放,查找,評(píng)論等都是線(xiàn)程。
線(xiàn)程之間的通信
線(xiàn)程之間的通信比較簡(jiǎn)單,可以通過(guò)他們的共享內(nèi)存通信,具體可以看下面Java內(nèi)存模式部分。
進(jìn)程之間的通信
進(jìn)程之間的通信比較復(fù)雜,對(duì)于同一臺(tái)計(jì)算機(jī)而言,其通信稱(chēng)為IPC;對(duì)于不同計(jì)算機(jī),其通信需要網(wǎng)絡(luò)并遵循彼此約定的協(xié)議,如HTTP等。這部分偏硬件,咱也不敢說(shuō),咱也不敢問(wèn)。
線(xiàn)程的狀態(tài)(從硬件層面)
初始狀態(tài):新建new一個(gè)線(xiàn)程,還沒(méi)有進(jìn)行任何步驟,還未和硬件關(guān)聯(lián)上。
可運(yùn)行狀態(tài):當(dāng)調(diào)用start方法,即進(jìn)行可運(yùn)行狀態(tài)(就緒狀態(tài)),但是這個(gè)時(shí)候還沒(méi)獲取到時(shí)間片,具體什么時(shí)候運(yùn)行取決于硬件。
運(yùn)行狀態(tài):當(dāng)CPU分配的時(shí)間片到某個(gè)線(xiàn)程了,該線(xiàn)程即可進(jìn)入運(yùn)行狀態(tài)。
阻塞狀態(tài):當(dāng)線(xiàn)程調(diào)用阻塞API,線(xiàn)程并沒(méi)有用到CPU,其進(jìn)入阻塞狀態(tài)。
終止?fàn)顟B(tài):當(dāng)一個(gè)線(xiàn)程運(yùn)行結(jié)束了,即進(jìn)入終止?fàn)顟B(tài)。
一些常見(jiàn)的線(xiàn)程操作
創(chuàng)建線(xiàn)程的三種方式
線(xiàn)程和任務(wù)合并
- Thread thread=new Thread(){
- public void run(){
- System.out.println("開(kāi)始");
- }
- };
線(xiàn)程和任務(wù)分開(kāi)
- Runnable runnable=new Runnable() {
- @Override
- public void run() {
- System.out.println("開(kāi)始");
- }
- };
- Thread thread=new Thread(runnable);
FutureTask返回執(zhí)行結(jié)果
- FutureTask<String> futureTask=new FutureTask<String>(new Callable<String>() {
- @Override
- public String call() throws Exception {
- return "線(xiàn)程的返回值";
- }
- });
- Thread thread=new Thread(futureTask);
線(xiàn)程啟動(dòng)start
- thread.start();
這里start是進(jìn)入就緒狀態(tài),即可運(yùn)行狀態(tài),具體什么時(shí)候要看CPU。
等待線(xiàn)程運(yùn)行結(jié)束join
未加join情況:
- Runnable runnable=new Runnable() {
- @Override
- public void run() {
- System.out.println("線(xiàn)程開(kāi)始");
- try {
- sleep(4000L);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- System.out.println("線(xiàn)程結(jié)束");
- }
- };
- //創(chuàng)建線(xiàn)程
- Thread thread=new Thread(runnable);
- //啟動(dòng)線(xiàn)程
- System.out.println("主線(xiàn)程開(kāi)始");
- thread.start();
- System.out.println("主線(xiàn)程結(jié)束");
運(yùn)行結(jié)果:
使用join的情況:
- Runnable runnable=new Runnable() {
- @Override
- public void run() {
- System.out.println("線(xiàn)程開(kāi)始");
- try {
- sleep(4000L);
- } catch (InterruptedException e) {
- e.printStackTrace();
- }
- System.out.println("線(xiàn)程結(jié)束");
- }
- };
- //創(chuàng)建線(xiàn)程
- hread thread=new Thread(runnable);
- //啟動(dòng)線(xiàn)程
- System.out.println("主線(xiàn)程開(kāi)始");
- thread.start();
- thread.join();
- System.out.println("主線(xiàn)程結(jié)束");
運(yùn)行結(jié)果:
沒(méi)有用join方法的第一情況,主線(xiàn)程開(kāi)始和主線(xiàn)程結(jié)束都在前面,并靠在一起,而線(xiàn)程開(kāi)始和線(xiàn)程結(jié)束則在后面,因?yàn)樗麄兪莾蓚€(gè)不同的線(xiàn)程,彼此互不干擾。而用了join方法的第二種情況,主線(xiàn)程結(jié)束在最后一行,因?yàn)閖oin方法需要等待子線(xiàn)程結(jié)束后才能繼續(xù)執(zhí)行后面代碼。
獲取線(xiàn)程id,name,priority
- //創(chuàng)建線(xiàn)程 Thread thread=new Thread(){
- public void run(){
- System.out.println("線(xiàn)程開(kāi)始");
- }
- };
- //啟動(dòng)線(xiàn)程
- thread.start();
- System.out.println("id:"+thread.getId());
- System.out.println("name:"+thread.getName());
- System.out.println("priority:"+thread.getPriority());
運(yùn)行結(jié)果:
Java內(nèi)存模型——JMM
內(nèi)存模型
跟多級(jí)緩存差不多意思,每個(gè)線(xiàn)程里面都有工作內(nèi)存,其存儲(chǔ)的是主內(nèi)存中數(shù)據(jù)的副本,如下圖。那如果主內(nèi)存中有變量a=1,現(xiàn)在線(xiàn)程A,B,C都存了a=1的副本,線(xiàn)程A對(duì)其進(jìn)行加1操作,并刷新到主內(nèi)存。可是線(xiàn)程B,C并不知道這種情況,那么就出問(wèn)題啦。那如何解決這個(gè)問(wèn)題呢?下面將慢慢說(shuō),不急。
8種原子操作(概念)
下面羅列的是8種原子操作,大家大概看看,下面將詳細(xì)描述。
- read(讀取):從主內(nèi)存中讀取數(shù)據(jù)
- load(載入):將主內(nèi)存讀取到的數(shù)據(jù)寫(xiě)入工作內(nèi)存
- user(使用):從工作內(nèi)存讀取數(shù)據(jù)來(lái)計(jì)算
- assign(賦值):將計(jì)算好的值重新賦值到工作內(nèi)存中
- store(存儲(chǔ)):將工作內(nèi)存數(shù)據(jù)寫(xiě)入主內(nèi)存
- write(寫(xiě)入):將store過(guò)去的變量值賦值給主內(nèi)存中的變量
- lock(鎖定):將主內(nèi)存變量加鎖,標(biāo)識(shí)為線(xiàn)程獨(dú)占狀態(tài)
- unlock(解鎖):將主內(nèi)存變量解鎖,解鎖后其他線(xiàn)程可以鎖定該變量
8種原子操作(舉例)
咱以上面的例子畫(huà)了個(gè)圖,請(qǐng)?jiān)徟嘉冶浚?huà)的丑了點(diǎn)。
1.read讀取:將主內(nèi)存中的a=1讀取出來(lái)。
2.load載入:將從主內(nèi)存中a=1載入到線(xiàn)程A的工作內(nèi)存中。
3.use使用:將線(xiàn)程A工作內(nèi)存的a=1讀取到,并進(jìn)行自增操作。
4.assign賦值:將a=2寫(xiě)入到線(xiàn)程A的工作內(nèi)存中。
5.store存儲(chǔ):將a=2存儲(chǔ)到主內(nèi)存中。
6.write寫(xiě)入:將a=2寫(xiě)入到主內(nèi)存的a變量中。
7.lock鎖定:在上面CPU緩存解決不一致的方法一中,線(xiàn)程A操作的時(shí)候,對(duì)主內(nèi)存a變量進(jìn)行加鎖操作(lock),線(xiàn)程B根本讀不了a變量。
8.unlock解鎖:線(xiàn)程A操作解鎖之后,對(duì)主內(nèi)存a變量進(jìn)行解鎖操作(unlock),線(xiàn)程B可以讀到a變量并對(duì)其操作。
注意:lock和unlock存在著一個(gè)性能問(wèn)題,我們發(fā)現(xiàn)寫(xiě)的代碼明明是多線(xiàn)程并發(fā)操作,但是底層還是串行化,并沒(méi)有真正實(shí)現(xiàn)并發(fā)。
可見(jiàn)性原理
上面說(shuō)的MESI協(xié)議是在總線(xiàn)那邊實(shí)踐的,線(xiàn)程A,B可以同時(shí)獲取主內(nèi)存a的值,a進(jìn)行自增操作之后在進(jìn)行操作6write寫(xiě)入的時(shí)候,會(huì)經(jīng)過(guò)總線(xiàn)。線(xiàn)程B一直使用嗅探監(jiān)控總線(xiàn)中自己感興趣的變量a,一旦發(fā)現(xiàn)a值有修改,立刻將自己工作內(nèi)存中a置為無(wú)效Invalid(利用MESI協(xié)議),并立刻從主內(nèi)存中讀取a值,這個(gè)時(shí)候總線(xiàn)中a還沒(méi)有寫(xiě)入內(nèi)存,所以有個(gè)短暫的lock過(guò)程,等到a寫(xiě)入內(nèi)存了,進(jìn)行unlock操作,線(xiàn)程B即可讀取新的a值。
該過(guò)程雖然也有l(wèi)ock與unlock操作,但是鎖的粒度降低啦。
并發(fā)的風(fēng)險(xiǎn)與優(yōu)勢(shì)
優(yōu)勢(shì):
- 速度方面:同時(shí)處理多個(gè)請(qǐng)求,響應(yīng)更快,復(fù)雜的操作可以分成多個(gè)進(jìn)程同時(shí)進(jìn)行。
- 設(shè)計(jì)方面:程序設(shè)計(jì)在某些情況下更簡(jiǎn)單,也可以有更多的選擇。
- 資源利用方面:CPU能夠在等待IO的時(shí)候做一些其他的事情。
風(fēng)險(xiǎn):
- 安全性方面:多個(gè)線(xiàn)程共享數(shù)據(jù)時(shí)可能會(huì)產(chǎn)生與期望不相符的結(jié)果。
- 活躍性方面:某個(gè)操作無(wú)法繼續(xù)進(jìn)行下去時(shí),就會(huì)發(fā)生活躍性問(wèn)題,比如死鎖,節(jié)等問(wèn)題。
- 性能方面:線(xiàn)程過(guò)多時(shí)會(huì)使得:CPU頻繁切換,調(diào)度時(shí)間增多;同步機(jī)制;消耗過(guò)多內(nèi)存。
結(jié)語(yǔ)
看到這里的都是真愛(ài),先行謝過(guò)。此篇是并發(fā)系列的基礎(chǔ),主要聊了硬件的MESI協(xié)議,原子的八種操作,線(xiàn)程和進(jìn)程的關(guān)系,線(xiàn)程的一些基礎(chǔ)操作,JMM的基礎(chǔ)等。