女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

居然有比requests更強(qiáng)大Python庫出現(xiàn)

阿銘linux ? 來源:努力編程小伙 ? 作者:努力編程小伙 ? 2021-07-27 10:43 ? 次閱讀

最近公司 Python 后端項(xiàng)目進(jìn)行重構(gòu),整個(gè)后端邏輯基本都變更為采用“異步”協(xié)程的方式實(shí)現(xiàn)。看著滿屏幕經(jīng)過 async await(協(xié)程在 Python 中的實(shí)現(xiàn))修飾的代碼,我頓時(shí)感到一臉懵逼,不知所措。

雖然之前有了解過“協(xié)程”是什么東西,但并沒有深入探索,于是正好借著這次機(jī)會(huì)可以好好學(xué)習(xí)一下。

什么是協(xié)程?

簡單來說,協(xié)程是一種基于線程之上,但又比線程更加輕量級(jí)的存在。對(duì)于系統(tǒng)內(nèi)核來說,協(xié)程具有不可見的特性,所以這種由 程序員自己寫程序來管理 的輕量級(jí)線程又常被稱作 “用戶空間線程”。

協(xié)程比多線程好在哪呢?

1. 線程的控制權(quán)在操作系統(tǒng)手中,而 協(xié)程的控制權(quán)完全掌握在用戶自己手中,因此利用協(xié)程可以減少程序運(yùn)行時(shí)的上下文切換,有效提高程序運(yùn)行效率。

2. 建立線程時(shí),系統(tǒng)默認(rèn)分配給線程的 棧 大小是 1 M,而協(xié)程更輕量,接近 1 K 。因此可以在相同的內(nèi)存中開啟更多的協(xié)程。

3. 由于協(xié)程的本質(zhì)不是多線程而是單線程,所以不需要多線程的鎖機(jī)制。因?yàn)橹挥幸粋€(gè)線程,也不存在同時(shí)寫變量而引起的沖突。在協(xié)程中控制共享資源不需要加鎖,只需要判斷狀態(tài)即可。所以協(xié)程的執(zhí)行效率比多線程高很多,同時(shí)也有效避免了多線程中的競爭關(guān)系。

協(xié)程的適用 & 不適用場景

適用場景:協(xié)程適用于被阻塞的,且需要大量并發(fā)的場景。

不適用場景:協(xié)程不適用于存在大量計(jì)算的場景(因?yàn)閰f(xié)程的本質(zhì)是單線程來回切換),如果遇到這種情況,還是應(yīng)該使用其他手段去解決。

初探異步 http 框架 httpx

至此我們對(duì) “協(xié)程” 應(yīng)該有了個(gè)大概的了解,但故事說到這里,相信有朋友還是滿臉疑問:“協(xié)程” 對(duì)于接口測試有什么幫助呢?不要著急,答案就在下面。

相信用過 Python 做接口測試的朋友都對(duì) requests 庫不陌生。requests 中實(shí)現(xiàn)的 http 請(qǐng)求是同步請(qǐng)求,但其實(shí)基于 http 請(qǐng)求 IO 阻塞的特性,非常適合用協(xié)程來實(shí)現(xiàn) “異步” http 請(qǐng)求從而提升測試效率。

相信早就有人注意到了這點(diǎn),于是在 Github 經(jīng)過了一番探索后,果不其然,最終尋找到了支持協(xié)程 “異步” 調(diào)用 http 的開源庫: httpx

什么是 httpx

httpx 是一個(gè)幾乎繼承了所有 requests 的特性并且支持 “異步” http 請(qǐng)求的開源庫。簡單來說,可以認(rèn)為 httpx 是強(qiáng)化版 requests。

下面大家可以跟著我一起見識(shí)一下 httpx 的強(qiáng)大

安裝

httpx 的安裝非常簡單,在 Python 3.6 以上的環(huán)境執(zhí)行

pip install httpx

最佳實(shí)踐

俗話說得好,效率決定成敗。我分別使用了 httpx 異步 和 同步 的方式對(duì)批量 http 請(qǐng)求進(jìn)行了耗時(shí)比較,來一起看看結(jié)果吧~

首先來看看同步 http 請(qǐng)求的耗時(shí)表現(xiàn):

import asyncioimport httpximport threadingimport time

def sync_main(url, sign): response = httpx.get(url).status_code print(f‘sync_main: {threading.current_thread()}: {sign}: {response}’)

sync_start = time.time()[sync_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]sync_end = time.time()print(sync_end - sync_start)

代碼比較簡單,可以看到在 sync_main 中則實(shí)現(xiàn)了同步 http 訪問百度 200 次。

運(yùn)行后輸出如下(截取了部分關(guān)鍵輸出。。。):

sync_main: 《_MainThread(MainThread, started 4471512512)》: 192: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 194: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 195: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 196: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 197: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 198: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 199: 20016.56578803062439

可以看到在上面的輸出中, 主線程沒有進(jìn)行切換(因?yàn)楸緛砭褪菃尉€程啊喂!)請(qǐng)求按照順序執(zhí)行(因?yàn)槭峭秸?qǐng)求)。

程序運(yùn)行共耗時(shí) 16.6 秒

下面我們?cè)囋?“異步” http 請(qǐng)求:

import asyncioimport httpximport threadingimport time

client = httpx.AsyncClient()

async def async_main(url, sign): response = await client.get(url) status_code = response.status_code print(f‘a(chǎn)sync_main: {threading.current_thread()}: {sign}:{status_code}’)

loop = asyncio.get_event_loop()tasks = [async_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]async_start = time.time()loop.run_until_complete(asyncio.wait(tasks))async_end = time.time()loop.close()print(async_end - async_start)

上述代碼在 async_main 中用 async await 關(guān)鍵字實(shí)現(xiàn)了“異步” http,通過 asyncio ( 異步 io 庫請(qǐng)求百度首頁 200 次并打印出了耗時(shí)。

運(yùn)行代碼后可以看到如下輸出(截取了部分關(guān)鍵輸出。。。)

async_main: 《_MainThread(MainThread, started 4471512512)》: 56: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 99: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 67: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 93: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 125: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 100: 2004.518340110778809

可以看到順序雖然是亂的(56,99,67.。。) (這是因?yàn)槌绦蛟趨f(xié)程間不停切換) 但是主線程并沒有切換 (協(xié)程本質(zhì)還是單線程 )。

程序共耗時(shí) 4.5 秒

比起同步請(qǐng)求耗時(shí)的 16.6 秒 縮短了接近 73 %!

俗話說得好,一步快,步步快。 在耗時(shí)方面,“異步” http 確實(shí)比同步 http 快了很多。當(dāng)然,“協(xié)程” 不僅僅能在請(qǐng)求效率方面賦能接口測試, 掌握 “協(xié)程”后,相信小伙伴們的技術(shù)水平也能提升一個(gè)臺(tái)階,從而設(shè)計(jì)出更優(yōu)秀的測試框架。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • python
    +關(guān)注

    關(guān)注

    56

    文章

    4825

    瀏覽量

    86169

原文標(biāo)題:比 requests 更強(qiáng)大 Python 庫,讓你的爬蟲效率提高一倍

文章出處:【微信號(hào):aming_linux,微信公眾號(hào):阿銘linux】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    python入門圣經(jīng)-高清電子書(建議下載)

    和Pygal 等強(qiáng)大Python 和工具介紹,以及列表、字典、if 語句、類、文件與異常、代碼測試等內(nèi)容; 第二部分將理論付諸實(shí)踐,講解如何開發(fā)三個(gè)項(xiàng)目,包括簡單的Python
    發(fā)表于 04-10 16:53

    適用于MySQL和MariaDB的Python連接器:可靠的MySQL數(shù)據(jù)連接器和數(shù)據(jù)

    和 MariaDB 數(shù)據(jù)服務(wù)器以及托管數(shù)據(jù)服務(wù),以對(duì)存儲(chǔ)的數(shù)據(jù)執(zhí)行創(chuàng)建、讀取、更新和刪除操作。該解決方案完全實(shí)現(xiàn)了 Python DB API 2.0 規(guī)范,并作為 Windows、macOS
    的頭像 發(fā)表于 01-17 12:18 ?426次閱讀
    適用于MySQL和MariaDB的<b class='flag-5'>Python</b>連接器:可靠的MySQL數(shù)據(jù)連接器和數(shù)據(jù)<b class='flag-5'>庫</b>

    適用于Oracle的Python連接器:可訪問托管以及非托管的數(shù)據(jù)

    適用于 Oracle 的 Python 連接器 適用于 Oracle 的 Python 連接器是一種可靠的連接解決方案,用于從 Python 應(yīng)用程序訪問 Oracle 數(shù)據(jù)服務(wù)器和
    的頭像 發(fā)表于 01-14 10:30 ?395次閱讀

    NVIDIA發(fā)布cuPyNumeric加速計(jì)算

    該加速計(jì)算幫助科研人員無縫地?cái)U(kuò)展到強(qiáng)大的計(jì)算集群,并且無需修改 Python 代碼,推進(jìn)科學(xué)發(fā)現(xiàn)。
    的頭像 發(fā)表于 11-21 10:05 ?605次閱讀

    Python解析:通過實(shí)現(xiàn)代理請(qǐng)求與數(shù)據(jù)抓取

    Python中,有多個(gè)可以幫助你實(shí)現(xiàn)代理請(qǐng)求和數(shù)據(jù)抓取。這些提供了豐富的功能和靈活的API,使得你可以輕松地發(fā)送HTTP請(qǐng)求、處理響應(yīng)、解析HTML/XML/JSON數(shù)據(jù),以及進(jìn)行復(fù)雜的網(wǎng)絡(luò)操作。
    的頭像 發(fā)表于 10-24 07:54 ?436次閱讀

    數(shù)據(jù)數(shù)據(jù)恢復(fù)—SQL Server數(shù)據(jù)出現(xiàn)823錯(cuò)誤的數(shù)據(jù)恢復(fù)案例

    SQL Server數(shù)據(jù)故障: SQL Server附加數(shù)據(jù)出現(xiàn)錯(cuò)誤823,附加數(shù)據(jù)失敗。數(shù)據(jù)沒有備份,無法通過備份恢復(fù)數(shù)據(jù)
    的頭像 發(fā)表于 09-20 11:46 ?623次閱讀
    數(shù)據(jù)<b class='flag-5'>庫</b>數(shù)據(jù)恢復(fù)—SQL Server數(shù)據(jù)<b class='flag-5'>庫</b><b class='flag-5'>出現(xiàn)</b>823錯(cuò)誤的數(shù)據(jù)恢復(fù)案例

    如何利用python和API查詢IP地址?

    Python中,直接查詢IP地址的地理位置或詳細(xì)信息(如所屬國家、城市等)通常需要依賴外部API服務(wù),因?yàn)?b class='flag-5'>Python標(biāo)準(zhǔn)本身不提供直接查詢IP地址地理位置的功能。以下是一個(gè)使用reque
    發(fā)表于 08-28 11:55

    pytorch和python的關(guān)系是什么

    在當(dāng)今的人工智能領(lǐng)域,Python已經(jīng)成為了最受歡迎的編程語言之一。Python的易學(xué)易用、豐富的和框架以及強(qiáng)大的社區(qū)支持,使其成為了數(shù)據(jù)科學(xué)、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等領(lǐng)域的首選語言。而
    的頭像 發(fā)表于 08-01 15:27 ?3073次閱讀

    Python建模算法與應(yīng)用

    Python作為一種功能強(qiáng)大、免費(fèi)、開源且面向?qū)ο蟮木幊陶Z言,在科學(xué)計(jì)算、數(shù)學(xué)建模、數(shù)據(jù)分析等領(lǐng)域展現(xiàn)出了卓越的性能。其簡潔的語法、對(duì)動(dòng)態(tài)輸入的支持以及解釋性語言的本質(zhì),使得Python在多個(gè)平臺(tái)
    的頭像 發(fā)表于 07-24 10:41 ?1087次閱讀

    opencv-python和opencv一樣嗎

    不一樣。OpenCV(Open Source Computer Vision Library)是一個(gè)開源的計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)軟件,它提供了大量的圖像和視頻處理功能。OpenCV-Python
    的頭像 發(fā)表于 07-16 10:38 ?1923次閱讀

    Python中的人工智能框架與實(shí)例

    在人工智能(AI)領(lǐng)域,Python因其簡潔的語法、豐富的強(qiáng)大的社區(qū)支持,成為了最受歡迎的編程語言之一。本文將詳細(xì)介紹Python中的人工智能框架,并通過具體實(shí)例展示如何使用這些框
    的頭像 發(fā)表于 07-15 14:54 ?2437次閱讀

    深度學(xué)習(xí)常用的Python

    深度學(xué)習(xí)作為人工智能的一個(gè)重要分支,通過模擬人類大腦中的神經(jīng)網(wǎng)絡(luò)來解決復(fù)雜問題。Python作為一種流行的編程語言,憑借其簡潔的語法和豐富的支持,成為了深度學(xué)習(xí)研究和應(yīng)用的首選工具。本文將深入探討
    的頭像 發(fā)表于 07-03 16:04 ?1062次閱讀

    如何使用Python進(jìn)行神經(jīng)網(wǎng)絡(luò)編程

    。 為什么使用PythonPython是一種廣泛使用的高級(jí)編程語言,以其易讀性和易用性而聞名。Python擁有強(qiáng)大,如TensorF
    的頭像 發(fā)表于 07-02 09:58 ?678次閱讀

    ESP32下如何加自定義Python

    我看官方有提供Micropython的bin文件,但我想根據(jù)自己外設(shè)擴(kuò)充一下Python,這個(gè)應(yīng)該從哪里入手? 之前做過RTT系統(tǒng)的python擴(kuò)充,RTT有提供Micropyth
    發(fā)表于 06-18 06:27

    工業(yè)物聯(lián)網(wǎng)與SCADA哪個(gè)更強(qiáng)大

    提高生產(chǎn)效率、降低運(yùn)營成本,并通過實(shí)時(shí)監(jiān)控和控制來優(yōu)化工業(yè)流程。然而,關(guān)于哪個(gè)系統(tǒng)更強(qiáng)大,我們需要從多個(gè)維度進(jìn)行深入分析。
    的頭像 發(fā)表于 06-07 15:17 ?1544次閱讀