隨著互聯(lián)網(wǎng)業(yè)務(wù)的高速發(fā)展，對構(gòu)建互聯(lián)網(wǎng)基礎(chǔ)架構(gòu)的網(wǎng)絡(luò)設(shè)備提出了更高要求，例如容量、性能、擴展性以及QoS等諸多關(guān)鍵特性，而這往往是由其所采用的硬件架構(gòu)決定的。以框式核心交換機為例，先后出現(xiàn)了多種硬件架構(gòu)，而現(xiàn)在最為常用的有三種：Full-Mesh交換架構(gòu)、Crossbar矩陣交換架構(gòu)和基于Cell的CLOS交換架構(gòu)。本文將通過對這三種硬件架構(gòu)、報文轉(zhuǎn)發(fā)流程等原理的分析，全面剖析三種架構(gòu)的優(yōu)劣勢。

名詞解釋

Full-Mesh

架構(gòu)說明

▲圖1：Full-Mesh架構(gòu)圖

如圖1所示，所有業(yè)務(wù)線卡通過背板走線連接到其它線卡，因為Full-Mesh不需要外部的交換芯片，而是任意兩個節(jié)點間都有直接連接，故得名全連接。

由于各線卡需要Full-Mesh互聯(lián)，一個節(jié)點數(shù)為N的Full-Mesh，連接總數(shù)為[N×(N-1)]÷2，所以隨著節(jié)點數(shù)量增加連接總數(shù)也急劇上升，因而可擴展性較差，僅適用于槽位數(shù)量較少的核心設(shè)備。

報文轉(zhuǎn)發(fā)流程

1、報文從線卡進入，跨卡報文送到與目的線卡連接的背板通路；

2、報文到達目的線卡。

Crossbar

架構(gòu)說明

▲圖2:Crossbar架構(gòu)圖

如圖2所示，業(yè)務(wù)線卡通過背板走線連接到Crossbar芯片上，Crossbar芯片集成在主控引擎上。

▲圖3:Crossbar芯片架構(gòu)

Crossbar芯片架構(gòu)如圖3所示，每一條輸入鏈路和輸出鏈路都有一個CrossPoint，在CrossPoint處有一個半導(dǎo)體開關(guān)連接輸入線路和輸出線路，當來自某個端口的輸入線路需要交換到另一個端口的輸出點時，在CPU或交換矩陣的控制下，將交叉點的開關(guān)連接，數(shù)據(jù)就被發(fā)到另一個接口。

簡單地說，Crossbar 架構(gòu)是一種兩級架構(gòu)，它是一個開關(guān)矩陣，每一個CrossPoint都是一個開關(guān)，交換機通過控制開關(guān)來完成輸入到特定輸出的轉(zhuǎn)發(fā)。如果交換具有N個輸入和N個輸出，那么該Crossbar Switch就是一個帶有N*(N-1)≈N²個CrossPoint點的矩陣，可見，隨著端口數(shù)量的增加，交叉點開關(guān)的數(shù)量呈幾何級數(shù)增長。對于Crossbar芯片的電路集成水平、矩陣控制開關(guān)的制造難度、制造成本都會呈幾何級數(shù)增長。所以，采用一塊Crossbar交換背板的交換機，所能連接的端口數(shù)量也是有限的。

報文轉(zhuǎn)發(fā)流程

• 無緩存Crossbar

每個交叉點沒有緩存，業(yè)務(wù)調(diào)度采用集中調(diào)度的方式，對輸入輸出進行統(tǒng)一調(diào)度，報文轉(zhuǎn)發(fā)流程如下：

1、報文從線卡進入，線卡先向Arbiter請求發(fā)送；

2、Arbiter根據(jù)輸出端口隊列擁塞情況，決定是否允許線卡發(fā)送報文到輸出端口；

3、報文通過Crossbar轉(zhuǎn)發(fā)到目的線卡輸出端口。

由于是集中調(diào)度，所以仲裁器的調(diào)度算法復(fù)雜度很高，擴展性較差，系統(tǒng)容量大時仲裁器容易形成瓶頸，難以做到精確調(diào)度。

• 緩存式Crossbar

最早的緩存式Crossbar只有交叉節(jié)點帶緩存，而輸入端是無緩存的，被稱為”bus matrix”,后來，CICQ的概念被引入，即在輸入端用大的Input Buffer，在中間節(jié)點用小的CrossPoint Buffer。

這種結(jié)構(gòu)采用分布式調(diào)度的方式進行業(yè)務(wù)調(diào)度，即輸入和輸出端都有各自的調(diào)度器，報文轉(zhuǎn)發(fā)流程如下：

1、報文從線卡進入，輸入端口通過特定的調(diào)度算法（如RR算法）獨立地選擇有效的VOQ；

2、將VOQ隊列頭部分組發(fā)送到相應(yīng)的交叉點緩存；

3、輸出端口通過特定的算法在非空的交叉點緩存中選擇進行服務(wù)。

由于輸入和輸出的調(diào)度策略相互獨立，所以很難確保交換系統(tǒng)在每個時隙整體上達到理想匹配狀態(tài)，并且調(diào)度算法復(fù)雜度和交換系統(tǒng)規(guī)模有關(guān)，限制了其擴展性。

CLOS

架構(gòu)說明

▲圖4:CLOS架構(gòu)圖

如圖4所示，每塊業(yè)務(wù)線卡和所有交換網(wǎng)板相連，交換芯片集成在交換網(wǎng)板上，實現(xiàn)了交換網(wǎng)板和主控引擎硬件分離。CLOS架構(gòu)是一種多級架構(gòu)，每個入口級開關(guān)和每個中間級開關(guān)之間只有一個連接，并且，每個中間級開關(guān)正好連接到每個出口級開關(guān)，這種架構(gòu)的優(yōu)點是可以通過多個小型Crossbar 開關(guān)來實現(xiàn)大量輸入和輸出端口之間的連接，CrossPoint數(shù)量級別低于Crossbar架構(gòu)的N的2次方，降低了芯片實現(xiàn)難度。

報文轉(zhuǎn)發(fā)流程

• 基于Cell的動態(tài)負載

1、入方向線卡將數(shù)據(jù)包切分為N個cell，其中：N=下一跳可用線路數(shù)量；

2、交換網(wǎng)板采用動態(tài)路由方式，即根據(jù)下一級各鏈路的實際可用交換能力，動態(tài)選路和負載均衡，通過多條路徑將分片發(fā)送到出方向線卡；

3、出方向線卡重組報文。

動態(tài)負載關(guān)鍵點在于能負載分擔(dān)地均衡利用所有可達路徑，由此實現(xiàn)了無阻塞交換。

CLOS架構(gòu)交換機的分類

• 非正交背板設(shè)計

▲圖5:非正交背板

如圖5所示，業(yè)務(wù)線卡與交換網(wǎng)板互相平行，板卡之間通過背板走線連接。

背板走線會帶來信號干擾，背板設(shè)計也限制了帶寬的升級，同時，背板上PCB的走線要求很高，從背板開孔就成了奢望，這直接導(dǎo)致純前后的直通風(fēng)道設(shè)計瓶頸一直無法突破。

• 正交背板設(shè)計

▲圖6:正交背板

如圖6所示，交換機線卡與交換網(wǎng)板分別與背板對接。

同非正交背板設(shè)計一樣，背板帶寬限制了帶寬的升級，同時也增加了散熱的難度。

• 正交零背板設(shè)計

▲圖7:正交零背板

如圖7所示，業(yè)務(wù)線卡與交換網(wǎng)板互相垂直，背板走線為零，甚至無中板。

正交設(shè)計能減少背板走線帶來的高速信號衰減，提高了硬件的可靠性，無背板設(shè)計能夠解除背板對容量提升的限制，當需要更大帶寬的時候，只需要更換相應(yīng)板卡即可，大大縮短業(yè)務(wù)升級周期，并且因為沒有了背板的限制，交換機直通風(fēng)道散熱問題迎刃而解，匹配數(shù)據(jù)中心機房空氣流的走向，形成了貫穿前后板卡的高速、通暢的氣流。

總結(jié)

下表將對以上三種架構(gòu)做出總結(jié)：

對于高端機架式交換機，以Crossbar交換架構(gòu)和CLOS交換架構(gòu)為主。其中CLOS交換架構(gòu)是當前大容量數(shù)據(jù)中心核心交換機的理想架構(gòu)。銳捷網(wǎng)絡(luò)RG-N18000-X系列交換機基于無阻塞的CLOS架構(gòu)，并且采用“零背板”技術(shù)，在提供高效、穩(wěn)定交換服務(wù)的同時，可實現(xiàn)未來10年網(wǎng)絡(luò)可持續(xù)平滑升級。

本期作者：李瑩

銳捷網(wǎng)絡(luò)互聯(lián)網(wǎng)系統(tǒng)部行業(yè)咨詢

往期精彩回顧  

• 【第一期】淺談物聯(lián)網(wǎng)技術(shù)之通信協(xié)議的紛爭
• 【第二期】如何通過網(wǎng)絡(luò)遙測（Network Telemetry）技術(shù)實現(xiàn)精細化網(wǎng)絡(luò)運維？
• 【第三期】暢談數(shù)據(jù)中心網(wǎng)絡(luò)運維自動化
• 【第四期】基于Rogue AP反制的無線安全技術(shù)探討
• 【第五期】流量可視化之ERSPAN的前世今生
• 【第六期】如何實現(xiàn)數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)“去”堆疊
• 【第七期】運維可視化之INT功能詳解
• 【第八期】淺析RDMA網(wǎng)絡(luò)下MMU水線設(shè)置
• 【第九期】第七代無線技術(shù)802.11ax詳解
• 【第十期】數(shù)據(jù)中心自動化運維技術(shù)探索之交換機零配置上線
• 【第十一期】 淺談數(shù)據(jù)中心100G光模塊
• 【第十二期】數(shù)據(jù)中心網(wǎng)絡(luò)等價多路徑（ECMP）技術(shù)應(yīng)用研究
• 【第十三期】如何為RDMA構(gòu)建無損網(wǎng)絡(luò)
• 【第十四期】基于EVPN的分布式VXLAN實現(xiàn)方案
• 【第十五期】數(shù)據(jù)中心自動化運維技術(shù)探索之NETCONF
• 【第十六期】一文讀懂網(wǎng)絡(luò)界新貴Segment Routing技術(shù)化繁為簡的奧秘
• 【第十七期】淺談UWB（超寬帶）室內(nèi)定位技術(shù)
• 【第十八期】PoE以太網(wǎng)供電技術(shù)詳解

相關(guān)推薦

• Clos組網(wǎng)技術(shù)

• IT小張：618別人剁手我剁“框”！