在設(shè)計模式中有一個模式叫責(zé)任鏈模式，他的作用是避免請求發(fā)送者與接收者耦合在一起，讓多個對象都有可能接收請求，將這些對象連接成一條鏈，并且沿著這條鏈傳遞請求，直到有對象處理它為止。通過這種模式將請求的發(fā)送者和請求的處理者解耦了。在我們的各個框架中對此模式都有實現(xiàn)，比如servlet里面的filter，springmvc里面的Interceptor。

在Netflix Zuul中也應(yīng)用了這種模式，如下圖所示:

這種模式在網(wǎng)關(guān)的設(shè)計中我們可以借鑒到自己的網(wǎng)關(guān)設(shè)計:

preFilters：前置過濾器，用來處理一些公共的業(yè)務(wù)，比如統(tǒng)一鑒權(quán)，統(tǒng)一限流，熔斷降級，緩存處理等，并且提供業(yè)務(wù)方擴(kuò)展。

routingFilters: 用來處理一些泛化調(diào)用，主要是做協(xié)議的轉(zhuǎn)換，請求的路由工作。

postFilters: 后置過濾器，主要用來做結(jié)果的處理，日志打點，記錄時間等等。

errorFilters: 錯誤過濾器，用來處理調(diào)用異常的情況。

這種設(shè)計在有贊的網(wǎng)關(guān)也有應(yīng)用。

2.3 業(yè)務(wù)隔離

上面在全鏈路異步的情況下不同業(yè)務(wù)之間的影響很小，但是如果在提供的自定義FiIlter中進(jìn)行了某些同步調(diào)用，一旦超時頻繁那么就會對其他業(yè)務(wù)產(chǎn)生影響。所以我們需要采用隔離之術(shù)，降低業(yè)務(wù)之間的互相影響。

2.3.1 信號量隔離

信號量隔離只是限制了總的并發(fā)數(shù)，服務(wù)還是主線程進(jìn)行同步調(diào)用。這個隔離如果遠(yuǎn)程調(diào)用超時依然會影響主線程，從而會影響其他業(yè)務(wù)。因此，如果只是想限制某個服務(wù)的總并發(fā)調(diào)用量或者調(diào)用的服務(wù)不涉及遠(yuǎn)程調(diào)用的話，可以使用輕量級的信號量來實現(xiàn)。有贊的網(wǎng)關(guān)由于沒有自定義filter所以選取的是信號量隔離。

2.3.2 線程池隔離

最簡單的就是不同業(yè)務(wù)之間通過不同的線程池進(jìn)行隔離，就算業(yè)務(wù)接口出現(xiàn)了問題由于線程池已經(jīng)進(jìn)行了隔離那么也不會影響其他業(yè)務(wù)。在京東的網(wǎng)關(guān)實現(xiàn)之中就是采用的線程池隔離，比較重要的業(yè)務(wù)比如商品或者訂單 都是單獨的通過線程池去處理。但是由于是統(tǒng)一網(wǎng)關(guān)平臺，如果業(yè)務(wù)線眾多，大家都覺得自己的業(yè)務(wù)比較重要需要單獨的線程池隔離，如果使用的是Java語言開發(fā)的話那么，在Java中線程是比較重的資源比較受限，如果需要隔離的線程池過多不是很適用。如果使用一些其他語言比如Golang進(jìn)行開發(fā)網(wǎng)關(guān)的話，線程是比較輕的資源，所以比較適合使用線程池隔離。

2.3.3 集群隔離

如果有某些業(yè)務(wù)就需要使用隔離但是統(tǒng)一網(wǎng)關(guān)又沒有線程池隔離那么應(yīng)該怎么辦呢?那么可以使用集群隔離，如果你的某些業(yè)務(wù)真的很重要那么可以為這一系列業(yè)務(wù)單獨申請一個集群或者多個集群，通過機(jī)器之間進(jìn)行隔離。

2.4 請求限流

流量控制可以采用很多開源的實現(xiàn)，比如阿里最近開源的Sentinel和比較成熟的Hystrix。

一般限流分為集群限流和單機(jī)限流:

利用統(tǒng)一存儲保存當(dāng)前流量的情況，一般可以采用Redis，這個一般會有一些性能損耗。

單機(jī)限流:限流每臺機(jī)器我們可以直接利用Guava的令牌桶去做，由于沒有遠(yuǎn)程調(diào)用性能消耗較小。

2.5 熔斷降級

這一塊也可以參照開源的實現(xiàn)Sentinel和Hystrix，這里不是重點就不多提了。

2.6 泛化調(diào)用

泛化調(diào)用指的是一些通信協(xié)議的轉(zhuǎn)換，比如將HTTP轉(zhuǎn)換成Thrift。在一些開源的網(wǎng)關(guān)中比如Zuul是沒有實現(xiàn)的，因為各個公司的內(nèi)部服務(wù)通信協(xié)議都不同。比如在唯品會中支持HTTP1,HTTP2,以及二進(jìn)制的協(xié)議，然后轉(zhuǎn)化成內(nèi)部的協(xié)議，淘寶的支持HTTPS,HTTP1,HTTP2這些協(xié)議都可以轉(zhuǎn)換成，HTTP,HSF,Dubbo等協(xié)議。

2.6.1泛化調(diào)用

如何去實現(xiàn)泛化調(diào)用呢?由于協(xié)議很難自動轉(zhuǎn)換，那么其實每個協(xié)議對應(yīng)的接口需要提供一種映射。簡單來說就是把兩個協(xié)議都能轉(zhuǎn)換成共同語言，從而互相轉(zhuǎn)換。

一般來說共同語言有三種方式指定:

json：json數(shù)據(jù)格式比較簡單,解析速度快，較輕量級。在Dubbo的生態(tài)中有一個HTTP轉(zhuǎn)Dubbo的項目是用JsonRpc做的，將HTTP轉(zhuǎn)化成JsonRpc再轉(zhuǎn)化成Dubbo。

比如可以將一個 www.baidu.com/id = 1 GET 可以映射為json：

代碼塊

{

“method”:"getBaidu"

"param":{

"id":1

}

}

xml:xml數(shù)據(jù)比較重，解析比較困難，這里不過多討論。

自定義描述語言:一般來說這個成本比較高需要自己定義語言來進(jìn)行描述并進(jìn)行解析，但是其擴(kuò)展性，自定義個性化性都是最高。例:spring自定義了一套自己的SPEL表達(dá)式語言

對于泛化調(diào)用如果要自己設(shè)計的話JSON基本可以滿足，如果對于個性化的需要特別多的話倒是可以自己定義一套語言。

2.7 管理平臺

上面介紹的都是如何實現(xiàn)一個網(wǎng)關(guān)的技術(shù)關(guān)鍵。這里需要介紹網(wǎng)關(guān)的一個業(yè)務(wù)關(guān)鍵。有了網(wǎng)關(guān)之后，需要一個管理平臺如何去對我們上面所描述的技術(shù)關(guān)鍵進(jìn)行配置,包括但不限于下面這些配置:

限流

熔斷

緩存

日志

自定義filter

泛化調(diào)用

3.總結(jié)

最后一個合理的標(biāo)準(zhǔn)網(wǎng)關(guān)應(yīng)該按照如下去實現(xiàn):