成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

神器啊!比requests還好用的Python高效爬蟲(chóng)框架!

開(kāi)發(fā) 后端
雖然之前有了解過(guò)"協(xié)程"是什么東西,但并沒(méi)有深入探索,于是正好借著這次機(jī)會(huì)可以好好學(xué)習(xí)一下。

最近公司  Python 后端項(xiàng)目進(jìn)行重構(gòu),整個(gè)后端邏輯基本都變更為采用"異步"協(xié)程的方式實(shí)現(xiàn)。看著滿屏幕經(jīng)過(guò) async await(協(xié)程在 Python 中的實(shí)現(xiàn))修飾的代碼,我頓時(shí)感到一臉懵逼,不知所措。

雖然之前有了解過(guò)"協(xié)程"是什么東西,但并沒(méi)有深入探索,于是正好借著這次機(jī)會(huì)可以好好學(xué)習(xí)一下。

Let's go

什么是協(xié)程?

簡(jiǎn)單來(lái)說(shuō),協(xié)程是一種基于線程之上,但又比線程更加輕量級(jí)的存在。對(duì)于系統(tǒng)內(nèi)核來(lái)說(shuō),協(xié)程具有不可見(jiàn)的特性,所以這種由 程序員自己寫(xiě)程序來(lái)管理 的輕量級(jí)線程又常被稱(chēng)作 "用戶空間線程"。

協(xié)程比多線程好在哪呢?

1. 線程的控制權(quán)在操作系統(tǒng)手中,而協(xié)程的控制權(quán)完全掌握在用戶自己手中,因此利用協(xié)程可以減少程序運(yùn)行時(shí)的上下文切換,有效提高程序運(yùn)行效率。

2. 建立線程時(shí),系統(tǒng)默認(rèn)分配給線程的棧大小是 1 M,而協(xié)程更輕量,接近 1 K ,因此可以在相同的內(nèi)存中開(kāi)啟更多的協(xié)程。

3. 由于協(xié)程的本質(zhì)不是多線程而是單線程,所以不需要多線程的鎖機(jī)制。因?yàn)橹挥幸粋€(gè)線程,也不存在同時(shí)寫(xiě)變量而引起的沖突。在協(xié)程中控制共享資源不需要加鎖,只需要判斷狀態(tài)即可。所以協(xié)程的執(zhí)行效率比多線程高很多,同時(shí)也有效避免了多線程中的競(jìng)爭(zhēng)關(guān)系。

協(xié)程的適用 & 不適用場(chǎng)景

適用場(chǎng)景:協(xié)程適用于被阻塞的,且需要大量并發(fā)的場(chǎng)景。

不適用場(chǎng)景:協(xié)程不適用于存在大量計(jì)算的場(chǎng)景(因?yàn)閰f(xié)程的本質(zhì)是單線程來(lái)回切換),如果遇到這種情況,還是應(yīng)該使用其他手段去解決。

初探異步 http 框架 httpx

至此我們對(duì) "協(xié)程" 應(yīng)該有了個(gè)大概的了解,但故事說(shuō)到這里,相信有朋友還是滿臉疑問(wèn):"協(xié)程" 對(duì)于接口測(cè)試有什么幫助呢?不要著急,答案就在下面。

相信用過(guò) Python 做接口測(cè)試的朋友都對(duì) requests 庫(kù)不陌生。requests 中實(shí)現(xiàn)的 http 請(qǐng)求是同步請(qǐng)求,但其實(shí)基于 http 請(qǐng)求 IO 阻塞的特性,非常適合用協(xié)程來(lái)實(shí)現(xiàn) "異步" http 請(qǐng)求從而提升測(cè)試效率。  

相信早就有人注意到了這點(diǎn),于是在 Github 經(jīng)過(guò)了一番探索后,果不其然,最終尋找到了支持協(xié)程 "異步" 調(diào)用 http 的開(kāi)源庫(kù): httpx。

什么是 httpx

httpx 是一個(gè)幾乎繼承了所有 requests 的特性并且支持 "異步" http 請(qǐng)求的開(kāi)源庫(kù)。簡(jiǎn)單來(lái)說(shuō),可以認(rèn)為 httpx 是強(qiáng)化版 requests。

下面大家可以跟著我一起見(jiàn)識(shí)一下 httpx 的強(qiáng)大。

安裝

httpx 的安裝非常簡(jiǎn)單,在 Python 3.6 以上的環(huán)境執(zhí)行。

pip install httpx

最佳實(shí)踐

俗話說(shuō)得好,效率決定成敗。我分別使用了 httpx 異步 和 同步 的方式對(duì)批量 http 請(qǐng)求進(jìn)行了耗時(shí)比較,來(lái)一起看看結(jié)果吧~

首先來(lái)看看同步 http 請(qǐng)求的耗時(shí)表現(xiàn):

import asyncio
import httpx
import threading
import time
def sync_main(url, sign):
response = httpx.get(url).status_code
print(f'sync_main: {threading.current_thread()}: {sign}2 + 1{response}')
sync_start = time.time()
[sync_main(url='http://www.baidu.com', sign=i) for i in range(200)]
sync_end = time.time()
print(sync_end - sync_start)

代碼比較簡(jiǎn)單,可以看到在 sync_main 中則實(shí)現(xiàn)了同步 http 訪問(wèn)百度 200 次。

運(yùn)行后輸出如下(截取了部分關(guān)鍵輸出...):

sync_main: <_MainThread(MainThread, started 4471512512)>: 192: 200
sync_main: <_MainThread(MainThread, started 4471512512)>: 193: 200
sync_main: <_MainThread(MainThread, started 4471512512)>: 194: 200
sync_main: <_MainThread(MainThread, started 4471512512)>: 195: 200
sync_main: <_MainThread(MainThread, started 4471512512)>: 196: 200
sync_main: <_MainThread(MainThread, started 4471512512)>: 197: 200
sync_main: <_MainThread(MainThread, started 4471512512)>: 198: 200
sync_main: <_MainThread(MainThread, started 4471512512)>: 199: 200
16.56578803062439

可以看到在上面的輸出中, 主線程沒(méi)有進(jìn)行切換(因?yàn)楸緛?lái)就是單線程啊喂!)請(qǐng)求按照順序執(zhí)行(因?yàn)槭峭秸?qǐng)求)。

程序運(yùn)行共耗時(shí) 16.6 秒。

下面我們?cè)囋?"異步" http 請(qǐng)求:

import asyncio
import httpx
import threading
import time
client = httpx.AsyncClient()
async def async_main(url, sign):
response = await client.get(url)
status_code = response.status_code
print(f'async_main: {threading.current_thread()}: {sign}:{status_code}')
loop = asyncio.get_event_loop()
tasks = [async_main(url='http://www.baidu.com', sign=i) for i in range(200)]
async_start = time.time()
loop.run_until_complete(asyncio.wait(tasks))
async_end = time.time()
loop.close()
print(async_end - async_start)

上述代碼在 async_main 中用 async await 關(guān)鍵字實(shí)現(xiàn)了"異步" http,通過(guò) asyncio ( 異步 io 庫(kù)請(qǐng)求百度首頁(yè) 200 次并打印出了耗時(shí))。

運(yùn)行代碼后可以看到如下輸出(截取了部分關(guān)鍵輸出...)。

async_main: <_MainThread(MainThread, started 4471512512)>: 56: 200
async_main: <_MainThread(MainThread, started 4471512512)>: 99: 200
async_main: <_MainThread(MainThread, started 4471512512)>: 67: 200
async_main: <_MainThread(MainThread, started 4471512512)>: 93: 200
async_main: <_MainThread(MainThread, started 4471512512)>: 125: 200
async_main: <_MainThread(MainThread, started 4471512512)>: 193: 200
async_main: <_MainThread(MainThread, started 4471512512)>: 100: 200
4.518340110778809

可以看到順序雖然是亂的(56,99,67...) (這是因?yàn)槌绦蛟趨f(xié)程間不停切換) 但是主線程并沒(méi)有切換 (協(xié)程本質(zhì)還是單線程 )。

程序共耗時(shí) 4.5 秒。

比起同步請(qǐng)求耗時(shí)的 16.6 秒 縮短了接近 73 %!

俗話說(shuō)得好,一步快,步步快。 在耗時(shí)方面,"異步" httpx 確實(shí)比同步 http 快了很多。當(dāng)然,"協(xié)程" 不僅僅能在請(qǐng)求效率方面賦能接口測(cè)試, 掌握 "協(xié)程"后,相信小伙伴們的技術(shù)水平也能提升一個(gè)臺(tái)階,從而設(shè)計(jì)出更優(yōu)秀的測(cè)試框架。

好了,這就是今天分享的全部?jī)?nèi)容,喜歡就點(diǎn)個(gè)贊吧~

責(zé)任編輯:龐桂玉 來(lái)源: Python見(jiàn)習(xí)室
相關(guān)推薦

2021-01-07 05:12:27

Persepolis應(yīng)用下載神器

2021-06-15 05:15:30

DeepL翻譯神器應(yīng)用

2022-10-26 10:15:53

GoFramePHP數(shù)組

2020-06-18 15:53:06

Python代碼摳圖

2021-07-31 07:11:01

WPSExcel軟件

2020-08-12 09:44:10

AI 數(shù)據(jù)人工智能

2023-01-30 09:09:51

GoFramePHP數(shù)組

2023-11-27 17:17:52

文件搜索應(yīng)用程序

2021-07-21 08:59:10

requestsPython協(xié)程

2020-10-07 22:26:02

微信工具電腦

2021-08-28 23:19:35

Windows 10Windows微軟

2021-05-08 10:35:02

開(kāi)發(fā)者技能工具

2017-05-27 20:00:30

Python爬蟲(chóng)神器PyQuery

2022-05-15 15:14:04

爬蟲(chóng)Requests反爬

2022-04-20 12:17:50

命令Batcat

2022-04-25 10:04:56

df命令Linux

2023-10-08 07:54:13

printlnJITJVM

2022-10-09 10:11:30

Python爬蟲(chóng)神器

2024-11-27 06:31:02

2024-11-22 16:06:21

點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 成人激情视频免费在线观看 | 国产久| 国产成人在线视频 | 国产欧美在线观看 | 成人av免费 | 国产精品一区久久久 | 国产不卡一区 | 99自拍视频| 欧美久久久久久久 | 国产高清免费在线 | 黄色一级视频 | 成人性生交大片免费看r链接 | www.婷婷| 综合久久久久久久 | 91一区二区三区在线观看 | 精品一区二区三区四区 | 韩国电影久久 | 成人午夜网站 | 久久午夜精品福利一区二区 | 七七婷婷婷婷精品国产 | 亚洲成人第一页 | 国产成人网 | 精品欧美一区二区三区久久久 | 美女久久 | 成人美女免费网站视频 | 亚洲一区国产 | h网站在线观看 | 欧美在线视频免费 | 精品国产一区二区三区日日嗨 | 久久国产日韩欧美 | 欧美区日韩区 | 黄色毛片免费看 | 久久99精品视频 | 精产国产伦理一二三区 | 国产成人免费视频 | 九九热视频这里只有精品 | 日本aaaa | 北条麻妃99精品青青久久 | 992人人草 | 视频一区在线观看 | 欧美日韩一二三区 |