摘要:并發(fā)用于制定方案,用來解決可能但未必并行的問題。在協(xié)程中使用需要注意兩點(diǎn)使用鏈接的多個(gè)協(xié)程最終必須由不是協(xié)程的調(diào)用方驅(qū)動,調(diào)用方顯式或隱式在最外層委派生成器上調(diào)用函數(shù)或方法。對象可以取消取消后會在協(xié)程當(dāng)前暫停的處拋出異常。
導(dǎo)語:本文章記錄了本人在學(xué)習(xí)Python基礎(chǔ)之控制流程篇的重點(diǎn)知識及個(gè)人心得,打算入門Python的朋友們可以來一起學(xué)習(xí)并交流。
本文重點(diǎn):
1、了解asyncio包的功能和使用方法;一、使用asyncio包做并發(fā)編程 1、并發(fā)與并行
2、了解如何避免阻塞型調(diào)用;
3、學(xué)會使用協(xié)程避免回調(diào)地獄。
并發(fā):一次處理多件事。
并行:一次做多件事。
并發(fā)用于制定方案,用來解決可能(但未必)并行的問題。并發(fā)更好。
了解asyncio的4個(gè)特點(diǎn):
asyncio包使用事件循環(huán)驅(qū)動的協(xié)程實(shí)現(xiàn)并發(fā)。
適合asyncio API的協(xié)程在定義體中必須使用yield from,而不能使用yield。
使用asyncio處理的協(xié)程,需在定義體上使用@asyncio.coroutine裝飾。裝飾的功能在于凸顯協(xié)程,同時(shí)當(dāng)協(xié)程不產(chǎn)出值,協(xié)程會被垃圾回收。
Python3.4起,asyncio包只直接支持TCP和UDP協(xié)議。如果想使用asyncio實(shí)現(xiàn)HTTP客戶端和服務(wù)器時(shí),常使用aiohttp包。
在協(xié)程中使用yield from需要注意兩點(diǎn):
使用yield froml鏈接的多個(gè)協(xié)程最終必須由不是協(xié)程的調(diào)用方驅(qū)動,調(diào)用方顯式或隱式在最外層委派生成器上調(diào)用next()函數(shù)或 .send()方法。
鏈條中最內(nèi)層的子生成器必須是簡單的生成器(只使用yield)或可迭代的對象。
但在asyncio包的API中使用yield from還需注意兩個(gè)細(xì)節(jié):
asyncio包中編寫的協(xié)程鏈條始終通過把最外層委派生成器傳給asyncio包API中的某個(gè)函數(shù)驅(qū)動,例如loop.run_until_complete()。即不通過調(diào)用next()函數(shù)或 .send()方法驅(qū)動協(xié)程。
編寫的協(xié)程鏈條最終通過yield from把職責(zé)委托給asyncio包中的某個(gè)協(xié)程函數(shù)或協(xié)程方法。即最內(nèi)層的子生成器是庫中真正執(zhí)行I/O操作的函數(shù),而不是我們自己編寫的函數(shù)。
實(shí)例——通過asyncio包和協(xié)程以動畫形式顯示文本式旋轉(zhuǎn)指針:
import asyncio import itertools import sys @asyncio.coroutine # 交給 asyncio 處理的協(xié)程要使用 @asyncio.coroutine 裝飾 def spin(msg): for char in itertools.cycle("|/-"): status = char + " " + msg print(status) try: yield from asyncio.sleep(.1) # 使用 yield from asyncio.sleep(.1) 代替 time.sleep(.1),這樣的休眠不會阻塞事件循環(huán)。 except asyncio.CancelledError: # 如果 spin 函數(shù)蘇醒后拋出 asyncio.CancelledError 異常,其原因是發(fā)出了取消請求,因此退出循環(huán)。 break @asyncio.coroutine def slow_function(): # slow_function 函數(shù)是協(xié)程,在用休眠假裝進(jìn)行 I/O 操作時(shí),使用 yield from 繼續(xù)執(zhí)行事件循環(huán)。 # 假裝等待I/O一段時(shí)間 yield from asyncio.sleep(3) # yield from asyncio.sleep(3) 表達(dá)式把控制權(quán)交給主循環(huán),在休眠結(jié)束后恢復(fù)這個(gè)協(xié)程。 return 42 @asyncio.coroutine def supervisor(): # supervisor 函數(shù)也是協(xié)程 spinner = asyncio.async(spin("thinking!")) # asyncio.async(...) 函數(shù)排定 spin 協(xié)程的運(yùn)行時(shí)間,使用一個(gè) Task 對象包裝spin 協(xié)程,并立即返回。 print("spinner object:", spinner) result = yield from slow_function() # 驅(qū)動 slow_function() 函數(shù)。結(jié)束后,獲取返回值。 # 同時(shí),事件循環(huán)繼續(xù)運(yùn)行,因?yàn)閟low_function 函數(shù)最后使用 yield from asyncio.sleep(3) 表達(dá)式把控制權(quán)交回給了主循環(huán)。 spinner.cancel() # Task 對象可以取消;取消后會在協(xié)程當(dāng)前暫停的 yield 處拋出 asyncio.CancelledError 異常。協(xié)程可以捕獲這個(gè)異常,也可以延遲取消,甚至拒絕取消。 return result if __name__ == "__main__": loop = asyncio.get_event_loop() # 獲取事件循環(huán)的引用 result = loop.run_until_complete(supervisor()) # 驅(qū)動 supervisor 協(xié)程,讓它運(yùn)行完畢;這個(gè)協(xié)程的返回值是這次調(diào)用的返回值。 loop.close() print("Answer:", result)3、線程與協(xié)程對比
線程:調(diào)度程序在任何時(shí)候都能中斷線程。必須記住保留鎖。去保護(hù)程序中的重要部分,防止多步操作在執(zhí)行的過程中中斷,防止數(shù)據(jù)處于無效狀態(tài)。
協(xié)程:默認(rèn)會做好全方位保護(hù),以防止中斷。對協(xié)程來說無需保留鎖,在多個(gè)線程之間同步操作,協(xié)程自身就會同步,因?yàn)樵谌我鈺r(shí)刻只有一個(gè)協(xié)程運(yùn)行。
在asyncio包中,期物和協(xié)程關(guān)系緊密,因?yàn)榭梢允褂脃ield from從asyncio.Future對象中產(chǎn)出結(jié)果。這意味著,如果foo是協(xié)程函數(shù),抑或是返回Future或Task實(shí)例的普通函數(shù),那么可以這樣寫:res=yield from foo()。這是asyncio包中很多地方可以互換協(xié)程與期物的原因之一。
二、避免阻塞型調(diào)用 1、有兩種方法能避免阻塞型調(diào)用中止整個(gè)應(yīng)用程序的進(jìn)程:在多帶帶的線程中運(yùn)行各個(gè)阻塞型操作。
把每個(gè)阻塞型操作轉(zhuǎn)換成非阻塞的異步調(diào)用。
使用多線程處理大量連接時(shí)將耗費(fèi)過多的內(nèi)存,故此通常使用回調(diào)來實(shí)現(xiàn)異步調(diào)用。
2、使用Executor對象防止阻塞事件循環(huán):使用loop.run_in_executor把阻塞的作業(yè)(例如保存文件)委托給線程池做。
@asyncio.coroutine def download_one(cc, base_url, semaphore, verbose): try: with (yield from semaphore): image = yield from get_flag(base_url, cc) except web.HTTPNotFound: status = HTTPStatus.not_found msg = "not found" except Exception as exc: raise FetchError(cc) from exc else: loop = asyncio.get_event_loop() # 獲取事件循環(huán)對象的引用 loop.run_in_executor(None, # None 使用默認(rèn)的 TrreadPoolExecutor 實(shí)例 save_flag, image, cc.lower() + ".gif") # 傳入可調(diào)用對象 status = HTTPStatus.ok msg = "OK" if verbose and msg: print(cc, msg) return Result(status, cc)
asyncio 的事件循環(huán)背后維護(hù)一個(gè) ThreadPoolExecutor 對象,我們可以調(diào)用 run_in_executor 方法, 把可調(diào)用的對象發(fā)給它執(zhí)行。
三、從回調(diào)到期物和協(xié)程回調(diào)地獄:如果一個(gè)操作需要依賴之前操作的結(jié)果,那就得嵌套回調(diào)。
Python 中的回調(diào)地獄:
def stage1(response1): request2 = step1(response1) api_call2(request2, stage2) def stage2(response2): request3 = step2(response2) api_call3(request3, stage3) def stage3(response3): step3(response3) api_call1(request1, step1)
使用 協(xié)程 和 yield from 結(jié)構(gòu)做異步編程,無需用回調(diào):
@asyncio.coroutine def three_stages(request1): response1 = yield from api_call1() request2 = step1(response1) response2 = yield from api_call2(request2) request3 = step2(response2) response3 = yield from api_call3(request3) step3(response3) loop.create_task(three_stages(request1)) # 協(xié)程不能直接調(diào)用,必須用事件循環(huán)顯示指定協(xié)程的執(zhí)行時(shí)間,或者在其他排定了執(zhí)行時(shí)間的協(xié)程中使用 yield from 表達(dá)式把它激活四、使用asyncio包編寫服務(wù)器
使用asyncio包能實(shí)現(xiàn)TCP和HTTP服務(wù)器
Web服務(wù)將成為asyncio包的重要使用場景。
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://www.ezyhdfw.cn/yun/44699.html
摘要:是之后引入的標(biāo)準(zhǔn)庫的,這個(gè)包使用事件循環(huán)驅(qū)動的協(xié)程實(shí)現(xiàn)并發(fā)。沒有能從外部終止線程,因?yàn)榫€程隨時(shí)可能被中斷。上一篇并發(fā)使用處理并發(fā)我們介紹過的,在中,只是調(diào)度執(zhí)行某物的結(jié)果。 asyncio asyncio 是Python3.4 之后引入的標(biāo)準(zhǔn)庫的,這個(gè)包使用事件循環(huán)驅(qū)動的協(xié)程實(shí)現(xiàn)并發(fā)。asyncio 包在引入標(biāo)準(zhǔn)庫之前代號 Tulip(郁金香),所以在網(wǎng)上搜索資料時(shí),會經(jīng)常看到這種花的...
摘要:上一篇我們介紹了包,以及如何使用異步編程管理網(wǎng)絡(luò)應(yīng)用中的高并發(fā)。倒排索引保存在本地一個(gè)名為的文件中。運(yùn)行示例如下這個(gè)模塊沒有使用并發(fā),主要作用是為使用包編寫的服務(wù)器提供支持。 asyncio 上一篇我們介紹了 asyncio 包,以及如何使用異步編程管理網(wǎng)絡(luò)應(yīng)用中的高并發(fā)。在這一篇,我們主要介紹使用 asyncio 包編程的兩個(gè)例子。 async/await語法 我們先介紹下 asyn...
摘要:具有以下基本同步原語子進(jìn)程提供了通過創(chuàng)建和管理子進(jìn)程的。雖然隊(duì)列不是線程安全的,但它們被設(shè)計(jì)為專門用于代碼。表示異步操作的最終結(jié)果。 Python的asyncio是使用 async/await 語法編寫并發(fā)代碼的標(biāo)準(zhǔn)庫。通過上一節(jié)的講解,我們了解了它不斷變化的發(fā)展歷史。到了Python最新穩(wěn)定版 3.7 這個(gè)版本,asyncio又做了比較大的調(diào)整,把這個(gè)庫的API分為了 高層級API和...
摘要:我們以請求網(wǎng)絡(luò)服務(wù)為例,來實(shí)際測試一下加入多線程之后的效果。所以,執(zhí)行密集型操作時(shí),多線程是有用的,對于密集型操作,則每次只能使用一個(gè)線程。說到這里,對于密集型,可以使用多線程或者多進(jìn)程來提高效率。 為了提高系統(tǒng)密集型運(yùn)算的效率,我們常常會使用到多個(gè)進(jìn)程或者是多個(gè)線程,python中的Threading包實(shí)現(xiàn)了線程,multiprocessing 包則實(shí)現(xiàn)了多進(jìn)程。而在3.2版本的py...
摘要:創(chuàng)建第一個(gè)協(xié)程推薦使用語法來聲明協(xié)程,來編寫異步應(yīng)用程序。協(xié)程兩個(gè)緊密相關(guān)的概念是協(xié)程函數(shù)通過定義的函數(shù)協(xié)程對象調(diào)用協(xié)程函數(shù)返回的對象。它是一個(gè)低層級的可等待對象,表示一個(gè)異步操作的最終結(jié)果。 我們講以Python 3.7 上的asyncio為例講解如何使用Python的異步IO。 showImg(https://segmentfault.com/img/remote/14600000...
閱讀 2908·2021-11-25 09:43
閱讀 1104·2021-10-11 10:57
閱讀 2557·2020-12-03 17:20
閱讀 3811·2019-08-30 14:05
閱讀 2505·2019-08-29 14:00
閱讀 2045·2019-08-29 12:37
閱讀 1738·2019-08-26 11:34
閱讀 3280·2019-08-26 10:27