?大家好，我是小風(fēng)哥！今天我們聊聊reactor模式。

在設(shè)計(jì)高并發(fā)高性能服務(wù)器時(shí)，一項(xiàng)關(guān)鍵的考慮就是I/O。

I/O是一個(gè)問(wèn)題

有的同學(xué)可能會(huì)有疑問(wèn)，為什么I/O會(huì)成為問(wèn)題？

(資料圖)

假設(shè)有一個(gè)web server，每分鐘有數(shù)百萬(wàn)次的請(qǐng)求過(guò)來(lái)，服務(wù)器在處理請(qǐng)求時(shí)要訪(fǎng)問(wèn)數(shù)據(jù)庫(kù)，同時(shí)該服務(wù)器也可能要請(qǐng)求其它的服務(wù)，一張典型的后端server可能的架構(gòu)如圖所示：

一個(gè)用戶(hù)請(qǐng)求過(guò)來(lái)后Server可能需要訪(fǎng)問(wèn)數(shù)據(jù)庫(kù)，然后再去請(qǐng)求另外幾個(gè)server后才能得到用戶(hù)請(qǐng)求的處理結(jié)果，然后將response返回給客戶(hù)端，從這張圖中數(shù)一數(shù)涉及到哪些IO？

其實(shí)主要有兩種：

數(shù)據(jù)庫(kù)操作的磁盤(pán)IO、文件IO網(wǎng)絡(luò)IO

現(xiàn)在你已經(jīng)知道了涉及哪些IO，讓我們?cè)賮?lái)看一張圖：

我們可以看到，磁盤(pán)IO和網(wǎng)絡(luò)IO是非常慢的，也就是說(shuō)我們通常用手機(jī)APP、PC瀏覽器打開(kāi)一個(gè)頁(yè)面點(diǎn)擊一個(gè)按鈕到完全得到響應(yīng)，這其中大部分的時(shí)間都消耗在了這兩種IO上，真正用在處理數(shù)據(jù)的CPU時(shí)間反而不是很多。

這告訴了我們一個(gè)道理，那就是高效處理IO對(duì)于高并發(fā)高性能服務(wù)器來(lái)說(shuō)至關(guān)重要。

兩類(lèi)經(jīng)典設(shè)計(jì)模式

有兩類(lèi)處理網(wǎng)絡(luò)請(qǐng)求的經(jīng)典模型：

基于線(xiàn)程(進(jìn)程)的 Thread(Process)-per-connection，也就是每個(gè)請(qǐng)求一個(gè)線(xiàn)程(進(jìn)程)基于事件驅(qū)動(dòng)的Reactor模式，也就是反應(yīng)器模式。

其中第一種模式我們?cè)谥暗奈恼轮幸呀?jīng)多次講解過(guò)了，這種模式會(huì)為每個(gè)請(qǐng)求都創(chuàng)建一個(gè)線(xiàn)程或者進(jìn)程：

但這種模式的一個(gè)問(wèn)題就在于當(dāng)并發(fā)數(shù)較多時(shí)需要?jiǎng)?chuàng)建很多的線(xiàn)程，創(chuàng)建線(xiàn)程過(guò)多會(huì)有性能問(wèn)題。

第二種基于事件的模式我們?cè)谥暗奈恼轮幸仓v解過(guò)，在這種模式下我們只需要一個(gè)線(xiàn)程就能同時(shí)處理多個(gè)用戶(hù)請(qǐng)求：

在基于事件的并發(fā)編程中有一種叫做Reactor的模式非常流行，Node.js以及Nginx就使用Reactor，在這篇文章中我們?cè)敿?xì)的講解一下高性能高并發(fā)服務(wù)器中的Reactor模式。

當(dāng)然，在了解Reactor之前我們先來(lái)看一下咖啡館是怎樣運(yùn)作的。

咖啡館是怎樣運(yùn)作的

假設(shè)你有一家咖啡館，作為老板的你在前臺(tái)接待喝咖啡的顧客，你的生意不錯(cuò)，來(lái)這里喝咖啡的人絡(luò)繹不絕。

有時(shí)，有的人點(diǎn)的東西很簡(jiǎn)單，比如來(lái)一杯咖啡或者牛奶之類(lèi)，但也有一些顧客會(huì)點(diǎn)一些復(fù)雜的比如來(lái)一份意大利面等，作為前臺(tái)的你，如果這是停止接待顧客而且制作意大利面的話(huà)那么后續(xù)到來(lái)的所有顧客都要等待。

幸好，作為老板的你還有幾位大廚來(lái)幫忙，因此你只需要簡(jiǎn)單的把制作意大利面的命令交代下去就好了，“張三去煮面條，李四去制作醬料，制作好后通知我”。

就這樣，即便前臺(tái)只有你一個(gè)人也能快速接待顧客的點(diǎn)餐，其實(shí)這背后本質(zhì)上就是Reactor模式。

Reactor模式

實(shí)際上每個(gè)你可以把咖啡館這個(gè)例子中每個(gè)顧客理解為服務(wù)器接收的請(qǐng)求，前臺(tái)的服務(wù)員理解為一個(gè)單線(xiàn)程的while循環(huán)，這個(gè)while循環(huán)有一個(gè)很形象的名字，event loop，這個(gè)event loop要做的事情非常簡(jiǎn)單，那就是接收用戶(hù)請(qǐng)求，然后讓handler，或者回調(diào)函數(shù)去處理，這里的handler或者回調(diào)函數(shù)就好比大廚張三和李四去，handler或者回調(diào)函數(shù)可以和event loop運(yùn)行在同一個(gè)線(xiàn)程中，也可以和event loop各自運(yùn)行在各自的線(xiàn)程中。

既然該模式是基于事件驅(qū)動(dòng)，那么都有哪些事件呢？

我們需要關(guān)心的典型事件這樣幾種：

網(wǎng)絡(luò)請(qǐng)求的到來(lái)，也就是socket編程中accept到客戶(hù)端連接文件可讀文件可寫(xiě)

看到了吧，這幾種event都是和IO相關(guān)的，涉及網(wǎng)絡(luò)和文件。

有的同學(xué)可能會(huì)問(wèn)，那么這個(gè)event loop是怎么知道有這些event到來(lái)呢？

這是涉及到了IO多路復(fù)用技術(shù)，典型的像Linux中的select、poll、epoll。

通過(guò)IO多路復(fù)用技術(shù)，我們可以一次監(jiān)控一堆的文件描述符，當(dāng)這些文件描述符對(duì)應(yīng)的IO事件發(fā)生時(shí)會(huì)收到操作系統(tǒng)的通知，這時(shí)我們獲取到該event并交給相應(yīng)的handler或者回調(diào)函數(shù)來(lái)處理。

總結(jié)下來(lái)，Reactor的核心組成部分就是event loop + IO多路復(fù)用 + 回調(diào)函數(shù)。

單線(xiàn)程 or 多線(xiàn)程

我們?cè)谏衔奶岬竭^(guò)，處理event的handler可以和event loop運(yùn)行在同一個(gè)線(xiàn)程中，也可以運(yùn)行在不同的線(xiàn)程中。

如果是運(yùn)行在同一個(gè)線(xiàn)程中那么我們無(wú)需面對(duì)復(fù)雜的多線(xiàn)程問(wèn)題，但在當(dāng)前的多核時(shí)代，單線(xiàn)程無(wú)法充分利用多核資源，此外如果某個(gè)請(qǐng)求比較復(fù)雜需要占用的CPU資源較多，那么在單線(xiàn)程下其它所有的用戶(hù)請(qǐng)求都要等待，基于以上考慮我們可以使用線(xiàn)程池(多線(xiàn)程)技術(shù)。

event loop在接收到event后，將event和處理event的handler(回調(diào)函數(shù))打包發(fā)給線(xiàn)程池，線(xiàn)程池中的線(xiàn)程接收到打包后的任務(wù)后調(diào)用handler(回調(diào)函數(shù))來(lái)處理相應(yīng)的event。

這樣我們的組合就成了event loop + IO多路復(fù)用 + 回調(diào)函數(shù) + 線(xiàn)程池。

把協(xié)程也加進(jìn)來(lái)

回調(diào)函數(shù)的一大缺點(diǎn)在于如果處理用戶(hù)請(qǐng)求的邏輯比較復(fù)雜可能會(huì)導(dǎo)致回調(diào)地獄，關(guān)于回調(diào)地獄你可以參考這里，協(xié)程這種技術(shù)在一定程度上解決了這一問(wèn)題，讓我們可以用同步的方式來(lái)進(jìn)行異步編程，關(guān)于協(xié)程你可以參考這里和這里。

最終我們的組合就成了event loop + IO多路復(fù)用 + 協(xié)程 + 線(xiàn)程池。

接下來(lái)讓我們以Node.js來(lái)講解一下Reactor模式。

Node.js與Reactor模式

我們來(lái)看一下Node.js的架構(gòu)圖：

這張架構(gòu)圖已經(jīng)無(wú)比清晰的展示了Reactor模式是如何運(yùn)行的。

1， 當(dāng)用戶(hù)請(qǐng)求到來(lái)后需要將其放到一個(gè)隊(duì)列當(dāng)中，因?yàn)閑vent loop是運(yùn)行在單線(xiàn)程中的。

2，接下來(lái)event loop不斷檢測(cè)event queue中是否有event到來(lái)，如果隊(duì)列中有請(qǐng)求，那么根據(jù)隊(duì)列的“先來(lái)先服務(wù)”原則，event loop取出相應(yīng)的event，并將其交給線(xiàn)程池。

3，該線(xiàn)程池不斷檢測(cè)是否有task到來(lái)，這里的task也就是將event和相應(yīng)的回調(diào)函數(shù)打包后形成的。

4，線(xiàn)程接收到task后，線(xiàn)程池中的線(xiàn)程開(kāi)始工作，比如查詢(xún)數(shù)據(jù)庫(kù)、讀取文件等等。

5，當(dāng)線(xiàn)程處理完一個(gè)請(qǐng)求后調(diào)用task相應(yīng)的回調(diào)函數(shù)，并將該處理結(jié)果response發(fā)送給event loop。

6，event loop在接收到處理結(jié)果后發(fā)送給客戶(hù)端。

怎樣，這是不是像極了上文中的咖啡館以及這里的核反應(yīng)堆。

這就是Reactor模式。

此外，Node.js中的協(xié)程叫做Fiber，都是用來(lái)以同步的方式來(lái)進(jìn)行異步編程的，這里就不詳細(xì)講解了。

Reactor vs Proactor

Reactor模式中使用的IO都是同步IO，什么是同步IO呢？

就是說(shuō)調(diào)用方在IO完成之前會(huì)被阻塞等待，這種IO更具體的就叫做同步阻塞式IO。

但我們知道event loop是運(yùn)行在一個(gè)線(xiàn)程中的，如果在event loop中調(diào)用同步阻塞式IO的話(huà)，那么整個(gè)線(xiàn)程會(huì)被暫停運(yùn)行，由于event loop就像咖啡廳前臺(tái)，非常關(guān)鍵，如果event loop所在線(xiàn)程被阻塞那么所有的用戶(hù)請(qǐng)求都必須等待。

因此，在event loop中的IO不能是阻塞式的。

有同步阻塞式IO就有同步非阻塞式IO。

什么是同步非阻塞式IO呢？意思是當(dāng)我們調(diào)用同步非阻塞式IO相關(guān)函數(shù)時(shí)，函數(shù)會(huì)立刻返回，并告訴我們文件是否可讀或者可寫(xiě)，如果可讀或者可寫(xiě)的話(huà)我們?cè)僬嬲倪M(jìn)行文件讀寫(xiě)，這就是同步非阻塞式IO。

Reactor模式都是采用的同步非阻塞式IO。

與同步IO相對(duì)應(yīng)的是異步IO。

在異步IO下我們需要將接收或者寫(xiě)入數(shù)據(jù)的地址告訴操作系統(tǒng)，操作系統(tǒng)會(huì)將數(shù)據(jù)從進(jìn)程地址空間寫(xiě)入文件或者將文件內(nèi)容寫(xiě)到進(jìn)程地址空間中，操作系統(tǒng)完成IO后會(huì)通知我們，這就是異步IO。

執(zhí)行異步IO同樣不會(huì)阻塞調(diào)用線(xiàn)程。

關(guān)于同步以及異步的概念你可以參考這里。

而采用異步IO的事件驅(qū)動(dòng)編程被稱(chēng)為Proactor。

也就是說(shuō)Reactor和Proactor的區(qū)別就在于一個(gè)采用同步IO一個(gè)采用異步IO。

接下來(lái)我們用一個(gè)讀文件的例子來(lái)講解這兩者的差異。

Reactor中的讀：

告訴event loop，我們對(duì)某個(gè)文件可讀事件感興趣event loop等待該事件事件到來(lái)，event loop被喚醒，并調(diào)用相應(yīng)handler該handler開(kāi)始讀取文件，并處理數(shù)據(jù)，完成后返回到event loop

而Proactor的讀是這樣的：

我們發(fā)起一個(gè)針對(duì)某個(gè)文件的異步讀取操作，告訴event loop，我們不關(guān)心這個(gè)文件是否可讀，我們只關(guān)心這個(gè)文件是否讀取完成。event loop開(kāi)始等待該事件與此同時(shí)，操作系統(tǒng)開(kāi)始執(zhí)行真正的文件讀取，讀取完成后通知event loop讀取完成event loop被喚醒，此時(shí)文件已經(jīng)讀取完畢，調(diào)用相應(yīng)的handlerhandler開(kāi)始處理數(shù)據(jù)，完成后返回到event loop。

現(xiàn)在你應(yīng)該明白R(shí)eactor和Proactor的差異了吧。

總結(jié)

在這篇文章中我們?cè)敿?xì)講解了高性能高并發(fā)目前流行的Reactor模式，其實(shí)其本質(zhì)和咖啡館沒(méi)什么區(qū)別，如果你善于觀(guān)察和思考的話(huà)那么你會(huì)發(fā)現(xiàn)其實(shí)很多技術(shù)問(wèn)題都能在現(xiàn)實(shí)生活中找到相似的場(chǎng)景。

希望這篇能對(duì)大家理解Reactor模式有幫助。?

關(guān)鍵詞： 回調(diào)函數(shù) 操作系統(tǒng) 多路復(fù)用 處理結(jié)果 意大利面