ICCSZ訊 由于互聯(lián)網(wǎng)業(yè)務的快速發(fā)展,數(shù)據(jù)中心的流量已經(jīng)占據(jù)全球通信網(wǎng)絡流量絕大部分。作為高速信息傳輸?shù)闹饕d體,如今光通信技術已經(jīng)在數(shù)據(jù)中心中得到了廣泛應用,從距離幾米服務器間的光互連到連接世界各地數(shù)據(jù)中心的光網(wǎng)絡。本文概要介紹了數(shù)據(jù)中心的光通信技術,包括數(shù)據(jù)中心之間互連的廣域網(wǎng)、城域網(wǎng)技術和數(shù)據(jù)中心內(nèi)部服務器及交換機之間光互連技術,并對各個領域內(nèi)一些不同的技術方案做了簡要的討論和比較。
1、引言
互聯(lián)網(wǎng)已經(jīng)進入了人們生活的各個方面,正在對人類社會產(chǎn)生深遠的影響。從電子商務、社交網(wǎng)絡、網(wǎng)絡游戲,到網(wǎng)絡視頻、云計算、虛擬現(xiàn)實等,互聯(lián)網(wǎng)上各種新的應用層出不窮,所產(chǎn)生的數(shù)據(jù)量和對通信容量和計算能力的需求一直在以指數(shù)級快速增長。
基本上所有的互聯(lián)網(wǎng)業(yè)務和應用的處理與計算都是在數(shù)據(jù)中心進行的。在數(shù)據(jù)中心,成千上萬臺服務器通過網(wǎng)絡連接起來,像一臺巨大的超級計算機一樣協(xié)同一致地工作。根據(jù)《Cisco全球云計算指數(shù)白皮書》,到2019年,全球通信網(wǎng)絡流量的99%是和數(shù)據(jù)中心相關的,其中數(shù)據(jù)中心內(nèi)部的網(wǎng)絡流量占到全部流量的70%以上,如圖1所示。
圖1 Cisco發(fā)布的2019年全球通信網(wǎng)絡流量預測
高餛博士1966年指出光纖的損耗可以降到20 dB/km以下,1970年美國康寧公司第一次拉出損耗為17 dB/km的光纖,光纖通信產(chǎn)業(yè)發(fā)展至今已有50年。
1977年第一個商用光纖通信系統(tǒng)由AT&T在美國芝加哥投入使用,容量為45 Mbit/s,今天單模光纖的容量已達到100 Tbit/s,技術的發(fā)展使光纖通信系統(tǒng)的容量在過去30多年里提高了6個數(shù)量級。
從距離幾米服務器交換機之間的連接、到連接千家萬戶的接入網(wǎng)、再到跨越1萬多公里的海底光纜,今天的光纖通信已經(jīng)覆蓋了信息傳輸從短距到長距的各個方面,成為了今天信息社會和大數(shù)據(jù)時代的重要基礎設施。
近年來,由于互聯(lián)網(wǎng)和云計算的發(fā)展,光纖通信的應用主體已經(jīng)從電信運營商的中心機房轉向了數(shù)據(jù)中心。在美國,2008年互聯(lián)網(wǎng)公司數(shù)據(jù)中心對光纖通信的需求超過了電信運營商,今天數(shù)據(jù)中心或許已經(jīng)成為光纖通信的最大市場。
本文描述了數(shù)據(jù)中心中使用和需要的光通信技術,包括連接數(shù)據(jù)中心間的廣域網(wǎng)和城域網(wǎng)技術以及數(shù)據(jù)中心內(nèi)部的光互連技術。首先對數(shù)據(jù)中心的網(wǎng)絡作了簡單的概述,使讀者對光纖通信在數(shù)據(jù)中心中的應用有個總體的了解;而后對數(shù)據(jù)中心廣域網(wǎng)、城域網(wǎng)及數(shù)據(jù)中心內(nèi)網(wǎng)中使用的光通信技術作了詳細的闡述;最后進行了簡要的總結。
2、數(shù)據(jù)中心網(wǎng)絡架構
圖2給出了典型的大型互聯(lián)網(wǎng)公司數(shù)據(jù)中心網(wǎng)絡架構,包括廣域網(wǎng)、城域網(wǎng)和數(shù)據(jù)中心內(nèi)網(wǎng)。分布在不同地區(qū)的數(shù)據(jù)中心通過廣域網(wǎng)相互連接,根據(jù)架構的不同,每個或部分數(shù)據(jù)中心通過外部通道和公共互聯(lián)網(wǎng)相連,用戶通過公共互聯(lián)網(wǎng)和外部通道進入數(shù)據(jù)中心。為改善用戶體驗、降低訪問時延,一般會在靠近用戶或用戶集中的地方設立POP點,POP點通過專線直接連接到數(shù)據(jù)中心。這樣可以減少用戶訪問數(shù)據(jù)在公共互聯(lián)網(wǎng)中的滯留時間。
圖2 典型的大型互聯(lián)網(wǎng)公司數(shù)據(jù)中心網(wǎng)絡架構
一般每個地區(qū)的數(shù)據(jù)中心有幾個不同的數(shù)據(jù)中心組成,主要為了容災和備份的需求,也有的是為了將位于同一個地區(qū)內(nèi)幾個數(shù)據(jù)中心組成一個超級虛擬數(shù)據(jù)中心,這樣每個數(shù)據(jù)中心可以相對較小,設計和建設相對容易。同一地區(qū)的數(shù)據(jù)中心通過城域網(wǎng)連接起來。因為時延的要求,城域網(wǎng)中不同數(shù)據(jù)中心的距離不容許超過80公里。
每個數(shù)據(jù)中心內(nèi)部有成千上萬臺服務器,這些服務器通過數(shù)據(jù)中心內(nèi)網(wǎng)相互連接。數(shù)據(jù)中心內(nèi)網(wǎng)有幾個重要的參數(shù):可連接的服務器的數(shù)量(可擴張性)、對分帶寬和時延??蓴U展性指在增加服務器數(shù)量時不需要改變網(wǎng)絡架構。最理想的情況是在一個大型數(shù)據(jù)中心內(nèi)的任何兩個服務器之間都能以很小的時延和服務器的全部帶寬進行通信,但在實際的網(wǎng)絡設計中必須考慮成本,網(wǎng)絡架構設計和技術選擇必須在成本和性能之間進行平衡。今天的數(shù)據(jù)中心內(nèi)網(wǎng)大多采用多層結構,但隨著技術的發(fā)展,網(wǎng)絡架構有走向扁平化的趨勢。
從上面的描述可以看出,和傳統(tǒng)的電信網(wǎng)絡不同,數(shù)據(jù)中心的網(wǎng)絡主要是機器和機器之間通信的網(wǎng)絡。隨著網(wǎng)絡速率的不斷提高,光通信技術在數(shù)據(jù)中心得到大量的使用。在如今的數(shù)據(jù)中心網(wǎng)絡中,幾乎每個連接都采用了光通信技術,包括數(shù)據(jù)中心內(nèi)部距離幾米的服務器和交換機之間的連接。下面對廣域網(wǎng)、城域網(wǎng)和數(shù)據(jù)中心內(nèi)網(wǎng)中采用的光通信技術分別進行詳細的闡述。
3、數(shù)據(jù)中心的廣域網(wǎng)光通信技術
光通信具有大帶寬、長距離傳輸信息的優(yōu)點,它的主要應用場景是在兩點之間提供大帶寬的信息傳輸通道,所以在誕生之初,主要應用領域是長途干線網(wǎng)。長距離、大容量的干線傳輸網(wǎng)技術一直是光通信技術的前沿研究領域,致力于解決噪聲(光纖損耗)、光纖線性損傷(如色散)和光纖非線性損傷對傳輸容量和距離的限制,提高單信道速率、單根光纖的容量和無電中繼的傳輸距離。
圖3給出了自1985年以來單根光纖容量的發(fā)展。在過去30年里,光通信單信道的速率從1 Gbit/s發(fā)展到1 Tbit/s、單模光纖的容量從1 Gbit/s發(fā)展到100 Tbit/s,分別提高了1000倍和10萬倍。無電中繼的傳輸距離從最初的10 km到提高到跨域太平洋的1萬多公里。
圖3 單根光纖的容量發(fā)展
這些容量和距離的進展得益于光纖技術、光放大技術、非線性管理技術、調制解調技術、光信號檢測技術等的發(fā)展。今天單模光纖的容量已經(jīng)接近了香農(nóng)極限。
為進一步提高光纖的容量,近年來,空分復用技術受到了廣泛的重視??辗謴陀眉夹g采用多芯子和多模光纖來提高單根光纖的傳輸容量,該技術不僅包括多芯子和多模光纖本身,還涉及空分復用光放大技術和多進多出信號處理技術。采用空分復用技術,單根光纖高達2 Pbit/s傳輸容量光通信系統(tǒng)已經(jīng)在實驗室得到驗證。
今天數(shù)字相干光通信技術已經(jīng)成為干線傳輸網(wǎng)的主要技術。圖4給出了數(shù)字相干光通信系統(tǒng)框架。
圖4 數(shù)字相干光通信系統(tǒng)框架
數(shù)字相干光通信不僅僅是提高了接收機的靈敏度,更重要的有以下3點:可以利用正交相位和正交極化方向來調制信號,信號空間從強度調制時的一維擴大到四維,大大提高了頻譜效率;可以在發(fā)射端和接收端大量使用數(shù)字信號處理技術,使得許多傳輸系統(tǒng)的損傷,包括線性和非線性損傷,可以在電領域采用數(shù)字信號處理技術來補償,這大大簡化了線路系統(tǒng)的設計和管理;容易在系統(tǒng)中采用復雜的編解碼技術,使得系統(tǒng)的容量接近香農(nóng)極限。
目前100 Gbit/s PDM-QPSK在陸地和跨洋干線系統(tǒng)中得到廣泛應用,采用EDFA光放大器技術和SD-FEC技術,無電中繼傳輸距離在陸地和跨洋系統(tǒng)中可以超過3000 km和10000 km。使用靈活柵格和C波段,容量可達12 Tbit/s。進一步提高系統(tǒng)容量可以采用高階調制格式如8QAM,但是高階調制需要更高的光信噪比(OSNR)。對于同樣的符號速率,16QAM所需的OSNR比QPSK高近7 dB,這意味著在同樣的光纖、光放大器和跨段距離的條件下,采用16QAM雖然可以把容量提高一倍,但無電中繼的傳輸距離會降低5倍。
有許多技術可以提高16QAM的傳輸距離,如采用拉曼光放大器、低損耗和低非線性光纖、編碼調制技術、非線性補償技術等等。
實驗證明,采用新型低損耗低非線性光纖及拉曼放大器技術,16QAM可以達到和QPSK在標準單模光纖和EDFA系統(tǒng)中相同的傳輸距離。采用16QAM和L波段技術,系統(tǒng)的容量可以比現(xiàn)在提高4倍,達48 Tbit/s。
對于呈指數(shù)形式增加的網(wǎng)絡流量需求,單從硬件角度來提高網(wǎng)絡的容量已經(jīng)難以滿足需求,特別是在光纖傳輸容量已接近香農(nóng)極限的今天。
必須硬件和軟件結合,從廣域網(wǎng)的層面建立一個靈活開放的光傳輸網(wǎng)來提高廣域網(wǎng)的效率,以滿足社會對網(wǎng)絡流量快速增長的需求。
如圖5所示,一個靈活開放的傳輸網(wǎng)將分開線路系統(tǒng)和終端系統(tǒng),不同廠商的設備可以相互連接,采用統(tǒng)一的管理控制平臺,如SDN控制器或NMS。ROADM 和靈活可編程的收發(fā)信機可以大大提高網(wǎng)絡的靈活性和對流量的靈活調度能力。
圖5 開放靈活的光傳輸網(wǎng)絡
4、數(shù)據(jù)中心的城域網(wǎng)光通信技術
幾年前貝爾實驗室城域網(wǎng)流量增長白皮書指出,城域網(wǎng)流量的增長速度將大大高于干線網(wǎng)絡,城域網(wǎng)將成為光通信的最大市場,其中數(shù)據(jù)中心的城域網(wǎng)占很大一部分。數(shù)據(jù)中心的城域網(wǎng)和電信運營商的城域網(wǎng)有很大的不同,主要的不同點列在表1中。
表1 數(shù)據(jù)中心城域網(wǎng)和電信運營商城域網(wǎng)比較
從表1可以看出,相對于電信運營商,數(shù)據(jù)中心的城域網(wǎng)要簡單得多。由于節(jié)點較少、距離較短、業(yè)務單一,數(shù)據(jù)中心城域網(wǎng)基本是點對點的傳輸系統(tǒng),但是因為大量數(shù)據(jù)傳輸?shù)男枨?,對容量要求較大。
數(shù)據(jù)中心城域網(wǎng)是目前很熱門的研究領域,各種新的技術和方案層出不窮。從檢測技術角度,可以把數(shù)據(jù)中心城域網(wǎng)方案分成相干檢測和直接檢測兩種技術方案。
相干檢測方案即采用數(shù)字相干光通信技術,和廣域網(wǎng)中相干光通信技術類似。但因為傳輸距離短,很多方面可以簡化,如可以采用低成本的光器件如硅光器件、HD-FEC、簡化數(shù)字信號處理模塊中的色散補償?shù)?,即使性能低一些也能滿足要求。另外,一些高階的調制格式如64 QAM,雖然傳輸距離短,但仍然可以滿足80 km的需求,適合在數(shù)據(jù)中心城域網(wǎng)中使用,因為單波長可達400 Gbit/s,可以大大降低單位比特的傳輸成本。
對于直接檢測方案,有許多不同的技術。最簡單的是二進制強度調制即OOK技術,但該技術對器件的帶寬要求較高,而且對光纖色散匹配的要求很高。為減輕這些要求,人們開始采用高階強度調制,如四電平幅度調制PAM4對系統(tǒng)帶寬的要求比OOK降低一半,對色散的容忍性可以比OOK提高4倍。隨著PAM4的芯片的成熟,PAM4已經(jīng)在實際系統(tǒng)中得到應用。
另外一種得到大量研究的直接檢測技術是DMT技術。DMT實際上是一種多載波技術,它對每個載波不是采用同一種調制格式,而是根據(jù)每個載波的信噪比的不同對每個載波采用不同調制格式,即對高信噪比的載波采用高階調制格式、低信噪比的載波采用低階調制格式,從而可以最大限度地優(yōu)化信道的頻譜效率。
DMT技術包括強度調制一直接檢測的DMT技術和單邊帶一直接檢測的DMT技術。單邊帶DMT技術比強度調制DMT技術的頻譜效率高一倍,同時對光纖色散的容忍度很高,但它需要正交相位調制技術,發(fā)射機的復雜度比強度調制DMT技術高很多。此外還有其他的直接檢測技術如Stoke、矢量直接檢測接收機技術。
直接檢測和相干檢測最大的不同是在接收端不需要本震源,發(fā)射端有的采用強度調制,相對簡單,有的采用正交相位調制,和相干檢測的復雜度一樣。
相干檢測和直接檢測技術各有優(yōu)缺點。直接檢測相對比較簡單、成本低、尺寸小,有可能做成可插拔的光模塊,直接插在交換機和路由器上,但是它對線路系統(tǒng)要求較高,如系統(tǒng)色散需要精確匹配、所需光信噪比較高,此外它的容量比相干檢測系統(tǒng)低,C波段一般只可以達到4~8 Tbit/s。相干檢測技術的優(yōu)點一是容量高,如采用64QAM,在C波段的容量可達36 Tbit/s;二是對線路系統(tǒng)要求低,對系統(tǒng)色散基本沒有什么要求。它的缺點一是成本相對較高,但因為高階調制可以大幅降低單位比特的成本,這個缺點將會越來越不顯著,二是尺寸相對較大,做成目前100 Gbit/s普遍采用的QSFP28封裝模式難度很大。
城域網(wǎng)數(shù)據(jù)中心光互連一般是交換機或路由器通過灰光光模塊連接到波分光傳輸設備,波分傳輸設備不同波長的信道通過合波器集中到一根光纖后經(jīng)過光放大器和傳輸光纖傳送到另一個數(shù)據(jù)中心,如圖6(a)所示。近年來出現(xiàn)了另一種設備形態(tài),如圖6(h)所示,即交換機或路由器直接出彩光,該彩光可以是外接可插拔彩光光模塊,也可以是彩光光模塊直接集成到交換機或路由器中。
這些不同波長的彩光直接連接到合波器再經(jīng)過放大后傳送到另一個數(shù)據(jù)中心。方案A的好處是交換機、路由器及波分傳輸設備是分開的,用戶可以自由選擇各自最合適的方案。方案B的優(yōu)點是省了一對灰光光模塊,但是如果采用相十檢測彩光光模塊,交換機和路由器端口的密度會降低,如采用直接檢測彩光光模塊,對線路系統(tǒng)要求提高且傳輸容量受到限制,另外方案B把光傳輸和交換機/路由器結合在一起,有可能會限制技術的選擇自由度。灰光光模塊成本比彩光光模塊低很多,所以從成本上比較,這兩種方案難分仲伯,各自有自己的應用場景。
圖6 城域網(wǎng)數(shù)據(jù)中心互連方案形態(tài)
5、數(shù)據(jù)中心內(nèi)光互聯(lián)技術
數(shù)據(jù)中心內(nèi)的鏈路距離較短,大多在幾米到幾百米的范圍內(nèi)。有的大型數(shù)據(jù)中心包括幾個大的建筑物,建筑物和建筑物間的連接距離相對較長,但最長距離在2 km之內(nèi)。雖然距離短,但隨著數(shù)據(jù)中心速率的提高,銅纜已經(jīng)難以勝任連接的要求,越來越多的連接采用光互連技術。
圖7是目前數(shù)據(jù)中心以太網(wǎng)速率的演變圖,這里有兩個速率:服務器至交換機的速率和交換機至交換機的速率提高。一般數(shù)據(jù)中心的速率指的是交換機至交換機的速率。今天的數(shù)據(jù)中心正從40 Gbit/s向100 Gbit/s演變,下一代可能會跳過200 Gbit/s直接演進到400 Gbit/s。
圖7 數(shù)據(jù)中心以太網(wǎng)速率
在這樣的速率下,大多數(shù)鏈路采用光互連方案。因為距離短,光纖容易鋪設,和長途干線不同,數(shù)據(jù)中心內(nèi)部一般采用平行鏈路來提高互聯(lián)速率,如圖8所示。
圖8 數(shù)據(jù)中心光互連鏈路框架
如對于40 Gbit/s和100 Gbit/s,采用4條平行通道,即4x 10 Gbit/s和4x25 Gbit/s。這4條平行通道可以是4根光纖或4個波長。在發(fā)射端,信號被分成平行的幾路通道,經(jīng)驅動電路放大后驅動激光器陣列(對于采用外調制器的方案,信號驅動調制器陣列),電光轉換后的信號藕合進光纖后傳送到接收端。在接收端,光信號經(jīng)探測器陣列轉換成電信號,再經(jīng)接收機電路處理后送到信號目的地。
自從1996年VCSEL被建議用作短距離數(shù)據(jù)通信以來,VCSEL一直在短距離數(shù)據(jù)通信中占有重要的地位。直到40 Gbit/s,多模技術(多模光纖和VCSEL相結合的技術)一直是數(shù)據(jù)中心光互連的主要技術。
到100 Gbit/s后,單通道速率達到25 Gbit/s,由于模式色散的影響,多模技術的傳輸距離受到限制,單模技術開始在數(shù)據(jù)中心應用得到重視。
根據(jù)采用多模還是單模、多個光纖還是多個波長,可以把100 Gbit/s技術分為4種類型:SR4、SWDM4、PSM4和CWDM4。這4種類型都是采用4個通道,每個通道速率為25 Gbit/s。
SR4和SWDM4采用多模技術,PSM4和CWDM4采用單模技術。SR4采用850 nm波長的VCSEL陣列和MPO多模光纖(雙向8根光纖),IEEE定義的最大傳輸距離為OM4光纖100 m。采用低線寬的VCSEL和均衡技術,SR4傳輸距離可增加到300 m。SWDM4也是采用多模技術,但和SR4不同的是它采用850~ 950 nm范圍內(nèi)4個波長的VCSEL陣列和雙向兩根多模光纖,傳輸距離和SR4相似。
PSM4和SR4相對應的單模技術,采用1 310 nm波長的DFB激光器陣列和MPO單模光纖,最大傳輸距離為500 m。CWDM4采用單模粗波分技術,即1270~1330 nm范圍內(nèi)相隔20 nm的4個波長。
相對于PSM4,CWDM4對激光器要求更高,且需要合分波器,但傳輸距離可達2 km。
這4種技術具體特性和性能指標列在表2中。具體采用哪種技術需要綜合考慮性能和成本。單模技術傳輸距離較長,而且技術升級到更高速率時光纖仍然可以使用,有的數(shù)據(jù)中心看中這一點會優(yōu)先考慮單模技術方案。但多模技術成本相對較低,對于大多數(shù)鏈路在100 m之內(nèi)的數(shù)據(jù)中心,多模技術方案在成本上更具優(yōu)勢。
表2 4種100 Gbit/s技術
100 Gbit/s之后的下一個以太網(wǎng)速率很有可能是400 Gbit / s , IEEE 802.3在2014年啟動了400Ghit/s以太網(wǎng)研究組,定義400 Gbit/s以太網(wǎng)標準。400 Gbit/s以太網(wǎng)物理層對多模光纖和單模光纖距離目標和100 Gbit/s一樣。如圖9所示,有多種方法可以使光通道達到400 Gbit/s。
圖9 提高速率到400 Gbit/s的方法
一是增加通道速率,如提高符號速率或調制階數(shù),50 Gbaud的PAM4信號可以不改變現(xiàn)有通道數(shù)就可以實現(xiàn)400 Gbit/s;
二是增加光纖數(shù),如在現(xiàn)有25 Gbit/s通道速率的基礎上,采用16根光纖可以達到400 Gbit/s;
三是增加波長,如在PSM4基礎上,每根光纖4個波長就可以實現(xiàn)400 Gbit/s。
不論采用哪種方法,400 Gbit/s的單位比特的成本和功耗應該比100 Gbit/s的低。
目前光模塊采用熱插拔的方式,通過交換機的面板接口和電子走線和交換芯片連接在一起,如圖10(a)所示。隨著交換機速率的提高,這段電子走線將會對信號產(chǎn)生愈來愈大的損傷,同時可插拔接口也限制了面板的密度。為解決這個問題,可以把光模塊移到交換機中去,使光模塊靠近交換芯片,光模塊通過光纖接到面板上,這種方式稱為板載光模塊,如圖10(b)所示。板載光模塊不僅可以減少電子走線對信號的損傷,簡化模塊設計,還可以大大增加面部密度。最終電子芯片和光子芯片將集成在一起,大大簡化系統(tǒng)、降低功耗和成本,如圖10(c)所示。板載光模塊和光電集成模塊對器件的可靠性要求很高,因為板載模塊和光電集成器件的故障都需要更換整個交換機電路板,不像更換可插拔光模塊那樣簡單易操作。
圖10 光和電結合的方式
6、結束語
本文綜述了數(shù)據(jù)中心網(wǎng)絡所需的光通信技術,包括廣域網(wǎng)、城域網(wǎng)和數(shù)據(jù)中心內(nèi)網(wǎng)。
可以看到,隨著網(wǎng)絡速率的提高,光通信技術幾乎用在數(shù)據(jù)中心的所有鏈路中。從距離幾米的服務器互連到連接位于世界各地數(shù)據(jù)中心的跨洋廣域網(wǎng),作為高帶寬、高密度和長距離的信息傳輸載體,光通信技術將直接影響未來數(shù)據(jù)中心的發(fā)展。
如何在各個層面提高光傳輸通道的容量和效率來滿足數(shù)據(jù)中心快速發(fā)展的需求,將是一項十分挑戰(zhàn)的工作。