摘要:流做下載等功能時候,我們經(jīng)常會使用數(shù)據(jù)流模塊,因為,在大文件下載場景下,如果使用接口將文件全部讀入內(nèi)存然后再返回給客戶端,很容易撐爆內(nèi)存,比如一個文件,同時有人在下載,那么服務(wù)就需要占用內(nèi)存。
NPM酷庫,每天兩分鐘,了解一個流行NPM庫。
流做下載等功能時候,我們經(jīng)常會使用數(shù)據(jù)流模塊(stream),因為,在大文件下載場景下,如果使用fs.readFile()接口將文件全部讀入內(nèi)存然后再返回給客戶端,很容易撐爆內(nèi)存,比如一個文件200M,同時有100人在下載,那么服務(wù)就需要占用10G 內(nèi)存。
而使用stream,我們不會將文件全部讀入內(nèi)存,而只是在內(nèi)存中建立一個“水管”,所以內(nèi)存中不會堆積過多數(shù)據(jù):
ctx.body = fs.createReadStream("filename.ext");
上述代碼中,我們使用fs.createReadStream()方法創(chuàng)建了一個可讀流,Koa會直接讀取數(shù)據(jù)流,并返回給客戶端。
雙向流如果一個流同時可讀、可寫,那么這就是一個雙向流。“水管”不適合解釋雙向流,我們用“電話線”來解釋,你說的話(寫數(shù)據(jù))對方能聽見(讀數(shù)據(jù)),同時,對方說話(寫數(shù)據(jù))你也能聽見(讀數(shù)據(jù))。
妙用雙向流在很多時候能解決很復(fù)雜的問題,比如,數(shù)據(jù)庫導(dǎo)出場景。因為數(shù)據(jù)庫里數(shù)據(jù)巨大,所以不能一下子讀到Node.js內(nèi)存中,我們可以創(chuàng)建一個只寫流,從數(shù)據(jù)庫逐條讀出數(shù)據(jù)然后調(diào)用只寫流,將數(shù)據(jù)寫入磁盤,所有數(shù)據(jù)全部導(dǎo)出到磁盤后,再參照上文創(chuàng)建一個只讀流,再將文件返回給客戶端。但是這樣存在問題的:
對磁盤大小有要求
在數(shù)據(jù)庫導(dǎo)出到磁盤的過程中,客戶端接受不到任何信息,很可能會造成瀏覽器超時訪問
白白消耗系統(tǒng)性能,浪費磁盤IO
接下來我們就用雙向流解決這個問題:
through使用 through 可以快速創(chuàng)建一個雙向流,相比自己調(diào)用stream模塊創(chuàng)建雙向流,through更方便,因為through已經(jīng)封裝了資源回收等機制。
const through = require("through"); // ... const stream = through(); ctx.body = stream; Order.find() .cursor() .eachAsync(async(order)=>{ stream.write(order.toJSON()); }) .then(()=>{ stream.end(); });
上述代碼中,首先創(chuàng)建了一個雙向流,返回給Koa,然后以Mongoose模型舉例,查詢數(shù)據(jù)庫,并使用查詢游標(biāo)(cursor)逐條向流中寫數(shù)據(jù)。在流的另一端,Koa就能逐條讀出數(shù)據(jù)并返回給客戶端。
參考資料https://github.com/dominictar...
https://nodejs.org/api/stream...
歡迎關(guān)注公眾號:梁興臣每天了解一個NPM庫,一年后成為Node.js高手
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://www.ezyhdfw.cn/yun/92800.html
摘要:酷庫,每天兩分鐘,了解一個流行庫。昨天,我們了解的中數(shù)據(jù)流的處理,并使用快速創(chuàng)建雙向流,今天,我們繼續(xù)討論數(shù)據(jù)流。我們昨天說到,使用數(shù)據(jù)流,可以分批讀取數(shù)據(jù)到內(nèi)存,而不用將文件一次性讀取到內(nèi)存。 NPM酷庫,每天兩分鐘,了解一個流行NPM庫。 昨天,我們了解的Node.js中數(shù)據(jù)流的處理,并使用through快速創(chuàng)建雙向流,今天,我們繼續(xù)討論數(shù)據(jù)流。 我們昨天說到,使用數(shù)據(jù)流,可以分批...
摘要:酷庫,每天兩分鐘,了解一個流行庫。在酷庫中,我們學(xué)習(xí)了如何使用庫將格式文檔字符串解析為的對象數(shù)據(jù),本期,我們繼續(xù)學(xué)習(xí),一個可以以流編程的方式解析。 NPM酷庫,每天兩分鐘,了解一個流行NPM庫?!?在NPM酷庫051中,我們學(xué)習(xí)了如何使用xml2js庫將XML格式文檔字符串解析為JavaScript的對象數(shù)據(jù),本期,我們繼續(xù)學(xué)習(xí)sax,一個可以以流編程的方式解析XML。 使用流編程的方...
摘要:酷庫,每天兩分鐘,了解一個流行庫。在酷庫中,我們學(xué)習(xí)了如何使用庫將格式文檔字符串解析為的對象數(shù)據(jù),本期,我們繼續(xù)學(xué)習(xí),一個可以以流編程的方式解析。 NPM酷庫,每天兩分鐘,了解一個流行NPM庫。· 在NPM酷庫051中,我們學(xué)習(xí)了如何使用xml2js庫將XML格式文檔字符串解析為JavaScript的對象數(shù)據(jù),本期,我們繼續(xù)學(xué)習(xí)sax,一個可以以流編程的方式解析XML。 使用流編程的方...
摘要:酷庫,每天兩分鐘,了解一個流行庫。在前幾期酷庫中,我們介紹了操作等數(shù)據(jù)格式文件,在外部系統(tǒng)接口中,我們還會經(jīng)常遇到格式的接口協(xié)議。本期,我們先來了解,用來創(chuàng)建格式文檔。 NPM酷庫,每天兩分鐘,了解一個流行NPM庫。· 在前幾期NPM酷庫中,我們介紹了Node.js操作JSON5、YAML、CSON、CSV等數(shù)據(jù)格式文件,在外部系統(tǒng)接口中,我們還會經(jīng)常遇到XML格式的接口協(xié)議。從本期開...
摘要:酷庫,每天兩分鐘,了解一個流行庫。在前幾期酷庫中,我們介紹了操作等數(shù)據(jù)格式文件,在外部系統(tǒng)接口中,我們還會經(jīng)常遇到格式的接口協(xié)議。本期,我們先來了解,用來創(chuàng)建格式文檔。 NPM酷庫,每天兩分鐘,了解一個流行NPM庫。· 在前幾期NPM酷庫中,我們介紹了Node.js操作JSON5、YAML、CSON、CSV等數(shù)據(jù)格式文件,在外部系統(tǒng)接口中,我們還會經(jīng)常遇到XML格式的接口協(xié)議。從本期開...
閱讀 1713·2023-04-25 20:36
閱讀 2209·2021-09-02 15:11
閱讀 1274·2021-08-27 13:13
閱讀 2698·2019-08-30 15:52
閱讀 5433·2019-08-29 17:13
閱讀 1059·2019-08-29 11:09
閱讀 1538·2019-08-26 11:51
閱讀 901·2019-08-26 10:56