新聞中心
這篇文章主要介紹了NodeJS中的可讀流是什么,具有一定借鑒價(jià)值,需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。
10年積累的網(wǎng)站設(shè)計(jì)制作、網(wǎng)站設(shè)計(jì)經(jīng)驗(yàn),可以快速應(yīng)對(duì)客戶對(duì)網(wǎng)站的新想法和需求。提供各種問題對(duì)應(yīng)的解決方案。讓選擇我們的客戶得到更好、更有力的網(wǎng)絡(luò)服務(wù)。我雖然不認(rèn)識(shí)你,你也不認(rèn)識(shí)我。但先網(wǎng)站設(shè)計(jì)后付款的網(wǎng)站建設(shè)流程,更有保山免費(fèi)網(wǎng)站建設(shè)讓你可以放心的選擇與我們合作。
什么是可讀流
可讀流是生產(chǎn)數(shù)據(jù)用來供程序消費(fèi)的流。我們常見的數(shù)據(jù)生產(chǎn)方式有讀取磁盤文件、讀取網(wǎng)絡(luò)請(qǐng)求內(nèi)容等,看一下前面介紹什么是流用的例子:
const rs = fs.createReadStream(filePath);
rs 就是一個(gè)可讀流,其生產(chǎn)數(shù)據(jù)的方式是讀取磁盤的文件,我們常見的控制臺(tái) process.stdin 也是一個(gè)可讀流:
process.stdin.pipe(process.stdout);
通過簡(jiǎn)單的一句話可以把控制臺(tái)的輸入打印出來,process.stdin 生產(chǎn)數(shù)據(jù)的方式是讀取用戶在控制臺(tái)的輸入。
回頭再看一下我們對(duì)可讀流的定義:可讀流是生產(chǎn)數(shù)據(jù)用來供程序消費(fèi)的流。
自定義可讀流
除了系統(tǒng)提供給我們的 fs.CreateReadStream
我們還經(jīng)常使用 gulp 或者 vinyl-fs 提供的 src 方法
gulp.src(['*.js', 'dist/**/*.scss'])
如果我們想自己以某種特定的方式生產(chǎn)數(shù)據(jù),交給程序消費(fèi),那么改如何開始呢?
簡(jiǎn)單兩步即可
- 繼承 sream 模塊的 Readable類
- 重寫 _read方法,調(diào)用 this.push將生產(chǎn)的數(shù)據(jù)放入待讀取隊(duì)列
Readable 類已經(jīng)把可讀流要做的大部分工作完成,我們只需要繼承它,然后把生產(chǎn)數(shù)據(jù)的方式寫在 _read 方法里就可以實(shí)現(xiàn)一個(gè)自定義的可讀流。
如果我們想實(shí)現(xiàn)一個(gè)每 100 毫秒生產(chǎn)一個(gè)隨機(jī)數(shù)的流(沒什么用處)
const Readable = require('stream').Readable; class RandomNumberStream extends Readable { constructor(max) { super() } _read() { const ctx = this; setTimeout(() => { const randomNumber = parseInt(Math.random() * 10000); // 只能 push 字符串或 Buffer,為了方便顯示打一個(gè)回車 ctx.push(`${randomNumber}\n`); }, 100); } } module.exports = RandomNumberStream;
類繼承部分代碼很簡(jiǎn)單,主要看一下 _read 方法的實(shí)現(xiàn),有幾個(gè)值得注意的地方
- Readable 類中默認(rèn)有 _read 方法的實(shí)現(xiàn),不過什么都沒有做,我們做的是覆蓋重寫
- _read 方法有一個(gè)參數(shù) size,用來向 read 方法指定應(yīng)該讀取多少數(shù)據(jù)返回,不過只是一個(gè)參考數(shù)據(jù),很多實(shí)現(xiàn)忽略此參數(shù),我們這里也忽略了,后面會(huì)詳細(xì)提到
- 通過 this.push 向緩沖區(qū)推送數(shù)據(jù),緩沖區(qū)概念后面會(huì)提到,暫時(shí)理解為擠到了水管中可消費(fèi)了
- push 的內(nèi)容只能是字符串或者 Buffer,不能是數(shù)字
- push 方法有第二個(gè)參數(shù) encoding,用于第一個(gè)參數(shù)是字符串時(shí)指定 encoding
執(zhí)行一下看看效果
const RandomNumberStream = require('./RandomNumberStream'); const rns = new RandomNumberStream(); rns.pipe(process.stdout);
這樣可以看到數(shù)字源源不斷的顯示到了控制臺(tái)上,我們實(shí)現(xiàn)了一個(gè)產(chǎn)生隨機(jī)數(shù)的可讀流,還有幾個(gè)小問題待解決
如何停下來
我們每隔 100 毫秒向緩沖區(qū)推送一個(gè)數(shù)字,那么就像讀取一個(gè)本地文件總有讀完的時(shí)候,如何停下來標(biāo)識(shí)數(shù)據(jù)讀取完畢?
向緩沖區(qū) push 一個(gè) null 就可以。我們修改一下代碼,允許消費(fèi)者定義需要多少個(gè)隨機(jī)數(shù)字:
const Readable = require('stream').Readable; class RandomNumberStream extends Readable { constructor(max) { super() this.max = max; } _read() { const ctx = this; setTimeout(() => { if (ctx.max) { const randomNumber = parseInt(Math.random() * 10000); // 只能 push 字符串或 Buffer,為了方便顯示打一個(gè)回車 ctx.push(`${randomNumber}\n`); ctx.max -= 1; } else { ctx.push(null); } }, 100); } } module.exports = RandomNumberStream;
我們使用了一個(gè) max 的標(biāo)識(shí),允許消費(fèi)者指定需要的字符數(shù),在實(shí)例化的時(shí)候指定即可
const RandomNumberStream = require('./RandomNumberStream'); const rns = new RandomNumberStream(5); rns.pipe(process.stdout);
這樣可以看到控制臺(tái)只打印了 5 個(gè)字符
為什么是 setTimeout 而不是 setInterval
細(xì)心的同學(xué)可能注意到,我們每隔 100 毫秒生產(chǎn)一個(gè)隨機(jī)數(shù)并不是調(diào)用的 setInterval,而是使用的 setTimeout,為什么僅僅是延時(shí)了一下并沒有重復(fù)生產(chǎn),結(jié)果卻是正確的呢?
這就需要了解流的兩種工作方式
- 流動(dòng)模式:數(shù)據(jù)由底層系統(tǒng)讀出,并盡可能快地提供給應(yīng)用程序
- 暫停模式:必須顯示地調(diào)用 read() 方法來讀取若干數(shù)據(jù)塊
流在默認(rèn)狀態(tài)下是處于暫停模式的,也就是需要程序顯式的調(diào)用 read() 方法,可我們的例子中并沒有調(diào)用就可以得到數(shù)據(jù),因?yàn)槲覀兊牧魍ㄟ^ pipe() 方法切換成了流動(dòng)模式,這樣我們的 _read() 方法會(huì)自動(dòng)被反復(fù)調(diào)用,直到數(shù)據(jù)讀取完畢,所以我們每次 _read() 方法里面只需要讀取一次數(shù)據(jù)即可。
流動(dòng)模式和暫停模式切換
流從默認(rèn)的暫停模式切換到流動(dòng)模式可以使用以下幾種方式:
- 通過添加 data 事件監(jiān)聽器來啟動(dòng)數(shù)據(jù)監(jiān)聽
- 調(diào)用 resume() 方法啟動(dòng)數(shù)據(jù)流
- 調(diào)用 pipe() 方法將數(shù)據(jù)轉(zhuǎn)接到另一個(gè) 可寫流
從流動(dòng)模式切換為暫停模式又兩種方法:
- 在流沒有 pipe() 時(shí),調(diào)用 pause() 方法可以將流暫停
- pipe() 時(shí),需要移除所有 data 事件的監(jiān)聽,再調(diào)用 unpipe() 方法
data 事件
使用了 pipe() 方法后數(shù)據(jù)就從可讀流進(jìn)入了可寫流,但對(duì)我們好像是個(gè)黑盒,數(shù)據(jù)究竟是怎么流向的呢?我們看到切換流動(dòng)模式和暫停模式的時(shí)候有兩個(gè)重要的名詞
- 流動(dòng)模式對(duì)應(yīng)的 data 事件
- 暫停模式對(duì)應(yīng)的 read() 方法
這兩個(gè)機(jī)制是我們能夠驅(qū)動(dòng)數(shù)據(jù)流動(dòng)的原因,先來看一下流動(dòng)模式 data 事件,一旦我們監(jiān)聽了可讀流的 data 時(shí)、事件,流就進(jìn)入了流動(dòng)模式,我們可以改寫一下上面調(diào)用流的代碼
const RandomNumberStream = require('./RandomNumberStream'); const rns = new RandomNumberStream(5); rns.on('data', chunk => { console.log(chunk); });
這樣我們可以看到控制臺(tái)打印出了類似下面的結(jié)果
當(dāng)可讀流生產(chǎn)出可供消費(fèi)的數(shù)據(jù)后就會(huì)觸發(fā) data 事件,data 事件監(jiān)聽器綁定后,數(shù)據(jù)會(huì)被盡可能地傳遞。data 事件的監(jiān)聽器可以在第一個(gè)參數(shù)收到可讀流傳遞過來的 Buffer 數(shù)據(jù),這也就是我們打印的 chunk,如果想顯示為數(shù)字,可以調(diào)用 Buffer 的 toString() 方法。
當(dāng)數(shù)據(jù)處理完成后還會(huì)觸發(fā)一個(gè) end事件,應(yīng)為流的處理不是同步調(diào)用,所以如果我們希望完事后做一些事情就需要監(jiān)聽這個(gè)事件,我們?cè)诖a最后追加一句:
rns.on('end', () => { console.log('done'); });
這樣可以在數(shù)據(jù)接收完了顯示 'done'
當(dāng)然數(shù)據(jù)處理過程中出現(xiàn)了錯(cuò)誤會(huì)觸發(fā) error事件,我們同樣可以監(jiān)聽,做異常處理:
rns.on('error', (err) => { console.log(err); });
read(size)
流在暫停模式下需要程序顯式調(diào)用 read() 方法才能得到數(shù)據(jù)。read() 方法會(huì)從內(nèi)部緩沖區(qū)中拉取并返回若干數(shù)據(jù),當(dāng)沒有更多可用數(shù)據(jù)時(shí),會(huì)返回null。
使用 read() 方法讀取數(shù)據(jù)時(shí),如果傳入了 size 參數(shù),那么它會(huì)返回指定字節(jié)的數(shù)據(jù);當(dāng)指定的size字節(jié)不可用時(shí),則返回null。如果沒有指定size參數(shù),那么會(huì)返回內(nèi)部緩沖區(qū)中的所有數(shù)據(jù)。
現(xiàn)在有一個(gè)矛盾了,在流動(dòng)模式下流生產(chǎn)出了數(shù)據(jù),然后觸發(fā) data 事件通知給程序,這樣很方便。在暫停模式下需要程序去讀取,那么就有一種可能是讀取的時(shí)候還沒生產(chǎn)好,如果我們才用輪詢的方式未免效率有些低。
NodeJS 為我們提供了一個(gè) readable的事件,事件在可讀流準(zhǔn)備好數(shù)據(jù)的時(shí)候觸發(fā),也就是先監(jiān)聽這個(gè)事件,收到通知又?jǐn)?shù)據(jù)了我們?cè)偃プx取就好了:
const rns = new RandomNumberStream(5); rns.on('readable', () => { let chunk; while((chunk = rns.read()) !== null){ console.log(chunk); } });
這樣我們同樣可以讀取到數(shù)據(jù),值得注意的一點(diǎn)是并不是每次調(diào)用 read() 方法都可以返回?cái)?shù)據(jù),前面提到了如果可用的數(shù)據(jù)沒有達(dá)到 size 那么返回 null,所以我們?cè)诔绦蛑屑恿藗€(gè)判斷。
數(shù)據(jù)會(huì)不會(huì)漏掉
開始使用流動(dòng)模式的時(shí)候我經(jīng)常會(huì)擔(dān)心一個(gè)問題,上面代碼中可讀流在創(chuàng)建好的時(shí)候就生產(chǎn)數(shù)據(jù)了,那么會(huì)不會(huì)在我們綁定 readable 事件之前就生產(chǎn)了某些數(shù)據(jù),觸發(fā)了 readable 事件,我們還沒有綁定,這樣不是極端情況下會(huì)造成開頭數(shù)據(jù)的丟失嘛
可事實(shí)并不會(huì),按照 NodeJS event loop 我們創(chuàng)建流和調(diào)用事件監(jiān)聽在一個(gè)事件隊(duì)列里面,兒生產(chǎn)數(shù)據(jù)由于涉及到異步操作,已經(jīng)處于了下一個(gè)事件隊(duì)列,我們監(jiān)聽事件再慢也會(huì)比數(shù)據(jù)生產(chǎn)塊,數(shù)據(jù)不會(huì)丟失。
看到這里,大家其實(shí)對(duì) data事件、readable事件觸發(fā)時(shí)機(jī), read() 方法每次讀多少數(shù)據(jù),什么時(shí)候返回 null 還有又一定的疑問,因?yàn)榈浆F(xiàn)在為止我們接觸到的仍然是一個(gè)黑盒,后面我們介紹了可寫流后會(huì)在 back pressure 機(jī)制部分對(duì)這些內(nèi)部細(xì)節(jié)結(jié)合源碼詳細(xì)講解,且聽下回分解吧。
感謝你能夠認(rèn)真閱讀完這篇文章,希望小編分享NodeJS中的可讀流是什么內(nèi)容對(duì)大家有幫助,同時(shí)也希望大家多多支持創(chuàng)新互聯(lián),關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道,遇到問題就找創(chuàng)新互聯(lián),詳細(xì)的解決方法等著你來學(xué)習(xí)!
當(dāng)前名稱:NodeJS中的可讀流是什么
標(biāo)題來源:http://www.ef60e0e.cn/article/jddscc.html