AIGC引爆數(shù)據(jù)洪流，云服務(wù)商跑步進(jìn)入800G以太網(wǎng)時代

  數(shù)日前，SimilarWeb更新了一份關(guān)于聊天機(jī)器人ChatGPT訪問數(shù)的數(shù)據(jù)統(tǒng)計。數(shù)據(jù)顯示，2023年4月ChatGPT訪問量再創(chuàng)新高，已經(jīng)超過了必應(yīng)、DuckDuckGo等其他國際搜索引擎，也超越了紐約時報和CNN等知名網(wǎng)站;目前ChatGPT訪問數(shù)已經(jīng)達(dá)到百度搜索引擎的60%，谷歌搜索引擎的2%。

  圖1：ChatGPT訪問數(shù)據(jù)統(tǒng)計(圖源：SimilarWeb)

  當(dāng)然，不光是ChatGPT，近一段時間以來，全球科技巨頭紛紛發(fā)布自己的大模型。北京時間5月11日，谷歌宣布推出最新大型語言模型PaLM 2，在部分任務(wù)上已經(jīng)超越GPT-4;在中國市場，百度、360、阿里、華為、京東、騰訊等也都紛紛推出了自己的AI大模型。

  訪問量陡增的ChatGPT，加上紛至沓來的AI大模型，AIGC(人工智能生成內(nèi)容)產(chǎn)業(yè)不僅帶來檢索效率和工作效率的提升，同時由于大模型需要大量的數(shù)據(jù)和算力進(jìn)行訓(xùn)練和運行，并在使用過程中產(chǎn)生大量新的數(shù)據(jù)，因此對底層基礎(chǔ)設(shè)備提出了更高的要求。

  在數(shù)據(jù)傳輸方面，光通信行業(yè)市場調(diào)研機(jī)構(gòu)Lightcounting曾在2021年時預(yù)測，800G光模塊將從2025年底開始主導(dǎo)市場。如今，在GPT等大模型的帶動下，這一節(jié)奏明顯提前。市場消息顯示，目前已經(jīng)有云服務(wù)廠商開始集中測試和采購800G光模塊，相關(guān)需求將在2023年下半年開始集中爆發(fā)。

  800G以太網(wǎng)需求提前爆發(fā)

  為什么頭部云服務(wù)商如此重視800G以太網(wǎng)用以數(shù)據(jù)傳輸呢?

  最直接的回答就是：為了應(yīng)對數(shù)據(jù)大爆炸。就以AI大模型訓(xùn)練而言，公開數(shù)據(jù)顯示，從GPT-1到GPT-3，模型的參數(shù)量從1.1億個增長到了1750億個。有傳言稱，GPT-4模型的參數(shù)達(dá)到5000億個，甚至可能超過萬億規(guī)模。根據(jù)市場調(diào)查機(jī)構(gòu)TrendForce的數(shù)據(jù)，如果以英偉達(dá)A100顯卡的處理能力計算，GPT-3.5大模型需要2萬塊GPU來處理訓(xùn)練數(shù)據(jù)。

  因此，在算力集群的超算中心里，先進(jìn)芯片和先進(jìn)算力之間并不是劃等號的，算力芯片只是提供了算力，而要高效利用算力還需要依賴光模塊、存儲等芯片的支持。

  如下圖所示，這是中國移動在《算力網(wǎng)絡(luò)白皮書(2021年版)》中分享的一張算力網(wǎng)絡(luò)體系架構(gòu)。在這個結(jié)構(gòu)中，中國移動將其分為算網(wǎng)底座、算網(wǎng)大腦、算網(wǎng)運營三個部分，其中在算網(wǎng)底座這部分，全光底座是行業(yè)的共識。因此，先進(jìn)算力實際上是遵循“木桶效應(yīng)”的，算力、存儲和網(wǎng)絡(luò)傳輸三大核心環(huán)節(jié)，一個出現(xiàn)短板，整個系統(tǒng)的性能就會出現(xiàn)巨大的下滑，這便是為什么云服務(wù)商積極部署800G以太網(wǎng)光模塊的原因。

  圖2：先進(jìn)算力網(wǎng)絡(luò)框圖(圖源：中國移動)

  目前，已經(jīng)有多家方案商表示已經(jīng)完成800G光模塊送樣量產(chǎn)。供需大幅度提前讓LightCounting修改了自己在2022年的預(yù)測，該機(jī)構(gòu)在今年3月份最新預(yù)測中表示，雖然今年整個以太網(wǎng)光模塊市場將出現(xiàn)10%的下滑，但是800G光模塊市場將在2023年維持高速增長。

  當(dāng)然，不光是800G光模塊，在交換機(jī)芯片和交換機(jī)整機(jī)方面，產(chǎn)業(yè)也是快速跟進(jìn)。2022年8月，博通正式發(fā)布自己的Tomahawk 51.2 Tbps交換機(jī)芯片;在2022年OCP全球峰會上，思科發(fā)布了兩款新的800G交換機(jī)系列——Nexus 9232E和8111交換機(jī)，以及帶有100G和400G接口的800G光模塊。如下圖所示，過去12年里，交換機(jī)的交換能力已經(jīng)從640G發(fā)展到102.4T。

圖3：交換機(jī)容量擴(kuò)張年表

  800G以太網(wǎng)的優(yōu)勢

  當(dāng)前，芯片廠商如博通等，設(shè)備廠商如思科等，云服務(wù)商如亞馬遜等，圍繞著高性能計算、5G和深度學(xué)習(xí)等產(chǎn)業(yè)積極向800G以太網(wǎng)過渡。

  對于高性能計算和深度學(xué)習(xí)訓(xùn)練等領(lǐng)域而言，800G以太網(wǎng)具有兩大突出的賦能價值。其一是在同等算力規(guī)模下，800G以太網(wǎng)能夠帶來倍增的計算效率。通過以太網(wǎng)技術(shù)聯(lián)盟發(fā)布的800GBASE-R規(guī)范可以看出，800G以太網(wǎng)是400G的延伸和擴(kuò)展，最直觀的改變是帶寬是此前400G以太網(wǎng)的兩倍。如下圖所示，端到端的以太網(wǎng)通信實際上可以抽象為這種連接，如果交換機(jī)全部端口從400G升級到800G，那么交換機(jī)傳輸容量將直接翻倍。

圖4：端到端800G以太網(wǎng)實施用例

  其二是能夠進(jìn)行更大規(guī)模的算力集群。我們都知道，算力網(wǎng)絡(luò)最底層的算力底座一般會分為算力基礎(chǔ)設(shè)施和網(wǎng)絡(luò)基礎(chǔ)設(shè)施，兩者融合使得目前的數(shù)據(jù)中心和算力中心呈現(xiàn)出一種類似葉脊的架構(gòu)。結(jié)合下圖來看，這是Facebook構(gòu)建的樹形數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)，名為data center fabric網(wǎng)絡(luò)架構(gòu)，里面的連接無處不在。

  圖5：4層data center fabric網(wǎng)絡(luò)架構(gòu)(圖源：Facebook)

  從上圖的上方不難看出，data center fabric網(wǎng)絡(luò)架構(gòu)是一個四層結(jié)構(gòu)，也被成為“F4結(jié)構(gòu)”。不過，F(xiàn)acebook在2019年已經(jīng)將其升級為“F16結(jié)構(gòu)”，原因是數(shù)據(jù)暴漲和設(shè)備更新讓“F4結(jié)構(gòu)”已經(jīng)難以適應(yīng)。

  參考下圖來看，“F16結(jié)構(gòu)”明顯是更大規(guī)模的算力集群，連接數(shù)量和服務(wù)器數(shù)量都更多。預(yù)計這個結(jié)構(gòu)很快也會更新，因為在2019年Facebook認(rèn)為400G并不成熟，所以只支持了100G以太網(wǎng)，如今800G已經(jīng)步入商用，這個集群規(guī)模顯然太小了。

  圖6：16層data center fabric網(wǎng)絡(luò)架構(gòu)(圖源：Facebook)

  800G以太網(wǎng)的部署挑戰(zhàn)

  在具體實現(xiàn)的過程中，800GBASE-R規(guī)范并非是簡單地將兩個400G拼接在一起，而是引入了新的介質(zhì)訪問控制(MAC)和物理編碼子層(PCS)，能夠以最小的成本實現(xiàn)800G。由于新的PCS包含對之前PCS的重用，因此保留了標(biāo)準(zhǔn)RS(544, 514)前向糾錯，并提供了很好的向后兼容特性。

  下圖是800G Pluggable MSA工作組在《800G MSA白皮書》中給出的示意圖，這是一種能夠快速上市的800G實現(xiàn)方案，通過重新調(diào)整兩個400G的PMA，進(jìn)而得到一個800G的PMA，再定義一個低成本的800G的PMD，最終實現(xiàn)基于8通道100Gb/s技術(shù)的800G以太網(wǎng)。

  圖7：800G SR8方案系統(tǒng)框圖(圖源：MSA)

  當(dāng)然，為了繼續(xù)向1.6T以太網(wǎng)進(jìn)化，MSA工作組在白皮書中指出，后續(xù)800G會通過每通道200G PAM4技術(shù)進(jìn)行優(yōu)化，并且DSP芯片會采用更先進(jìn)的工藝制程，因此這是一種更加低功耗、低延遲的解決方案。不過，如MSA工作組所言，這種實現(xiàn)方式實際上是為了從800G向1.6T過渡，是一種未來式的實現(xiàn)方式。

  圖8：800G FR4方案框圖(圖源：MSA)

  雖然系統(tǒng)框圖都已經(jīng)很清晰，不過要完成800G交換芯片的設(shè)計還是會遇到很多挑戰(zhàn)。

  首先，第一個顯著的問題是，800G并不是簡單的兩個400G疊加，那么MAC、PCS和PMA被集成之后，如何保證整個系統(tǒng)能夠?qū)崿F(xiàn)最佳的性能和延遲。

  下圖展示的是一個800G芯片的設(shè)計框圖，對于這款芯片而言，信號完整性、電源完整性等方面的測試只是基礎(chǔ)，重點是如何系統(tǒng)性優(yōu)化beachfront、SerDes、PCS和MAC這些塊分區(qū)。如果是在交換機(jī)芯片研發(fā)設(shè)計的過程中，又會分為單裸片方案、雙裸片方案和Chiplet三個不同的類型，需要考慮的因素都不同。比如在Chiplet配置方式里，需要考慮如何更好地進(jìn)行模塊劃分，如何進(jìn)行參考時鐘布線等。

  圖9：具有8通道100G Serdes的800G芯片示例圖

  為了保證在各種實現(xiàn)方式中，整個芯片的信號一致性和低延遲，就需要一種高效的FEC，用以補(bǔ)償更快傳輸速度下必然伴隨的更高錯誤率。

  第二個挑戰(zhàn)是芯片功耗和面積難題。目前800G芯片采用的是112G SerDes或PHY技術(shù)，進(jìn)而打造成一款并行處理能力強(qiáng)和時鐘速度快的硬件。雖然采用先進(jìn)制程，不過為了保證良率，芯片面積不能過小。然而，在交換機(jī)中，器件的集成度只會越來越高，因此合適的芯片尺寸是一個非常值得考究的問題;另外，高速芯片必然伴隨功耗問題，如果功耗過高就需要在交換機(jī)中加入額外的、昂貴的冷卻系統(tǒng)。

  第三個挑戰(zhàn)也來自112G SerDes或PHY技術(shù)，那就是如何做到更好的跨信道傳輸。為了讓各個112G SerDes或PHY之間具有最小的串?dāng)_(xtalk)影響，在芯片實現(xiàn)的過程中往往會采用增加封裝層數(shù)，以滿足高速SerDes或PHY串?dāng)_規(guī)格，這必然會帶來更高的成本挑戰(zhàn)。同時，多層封裝也需要考慮南北(N/S)、東西(E/W)方向進(jìn)行封裝出線的問題。

  因此，如果要打造一款高性能的800G芯片，就需要擁有用于優(yōu)化beachfront、SerDes、PCS和MAC設(shè)計的專業(yè)知識，同時對時鐘布線、封裝出線和Chiplet等有深刻的認(rèn)識。如此，才能夠打造出一顆完美的800G芯片。

  新思科技800G以太網(wǎng)方案

  看到了挑戰(zhàn)和要求，可能對一些想要從事800G以太網(wǎng)芯片研究的人進(jìn)行了勸退。為了幫助大家應(yīng)對這些挑戰(zhàn)，新思科技提供了業(yè)界唯一完整的200G/400G/800G以太網(wǎng)IP解決方案。

  作為全球以太網(wǎng)IP開發(fā)的領(lǐng)航者，新思科技能夠為業(yè)界提供經(jīng)過硅驗證的800G以太網(wǎng)IP方案。我們上面提到，800G是基于112G SerDes或PHY技術(shù)進(jìn)行實現(xiàn)。新思科技112G以太網(wǎng)PHY IP解決方案可實現(xiàn)真正的長距離、中距離、極短距離和超短距離(LR、MR、VSR、XSR)接口，以及CEI-112G-Linear和CEI-112G-XSR+光接口，是支持實現(xiàn)800G光模塊和800G交換機(jī)的理想方案。

  早在2021年1月，新思科技就已經(jīng)推出經(jīng)過硅驗證的采用5納米FinFET工藝的112G以太網(wǎng)PHY IP，提供超出IEEE 802.3ck和OIF標(biāo)準(zhǔn)電氣規(guī)范的卓越信號完整性和電氣性能。研發(fā)人員借助這款PHY IP能實現(xiàn)高集成度的800G以太網(wǎng)芯片，擁有顯著的性能、面積和功耗優(yōu)勢。這款I(lǐng)P主要用于長距離和中距離接口，能夠在大于45dB的信道中以低于5pJ/bit實現(xiàn)出色的BER(誤碼率)。

  另外，用于極短距離接口的新思科技112G以太網(wǎng)PHY可以在大于20dB的信道中以低于3pJ/bit的速度實現(xiàn)出色的BER;用于超短距離接口的新思科技112G以太網(wǎng)PHY可以在大于10dB的信道中以低于1.4pJ/bit實現(xiàn)出色的BER。

  這些PHY IP全部都支持在芯片的四個邊緣進(jìn)行布局和堆疊，最大限度地提高每個芯片邊緣的帶寬。它們都支持脈沖幅度調(diào)制4級(PAM-4)、不歸零(NRZ)信號和獨立的每通道數(shù)據(jù)速率，并以極高的靈活性支持PCI Express®、DDR、HBM、Die-to-Die、CXL和CCIX等廣泛的連接協(xié)議。

  為了使研發(fā)人員能夠加速基于以太網(wǎng)設(shè)計的驗證收斂，新思科技還推出了用于以太網(wǎng)的VC VIP，提供一套全面的協(xié)議、方法、驗證和生產(chǎn)力功能。

圖10：新思科技以太網(wǎng)VIP

  通過這些IP和VIP，再結(jié)合新思科技在路由可行性研究、封裝基板指南、信號和電源完整性模型以及串?dāng)_分析等方面的全面經(jīng)驗，研發(fā)人員可實現(xiàn)高速可靠的800G芯片開發(fā)。

  當(dāng)然，在此還需要額外提到，新思科技112G以太網(wǎng)PHY是該公司廣泛的IP產(chǎn)品組合中的一部分，新思IP產(chǎn)品組合包括邏輯庫、嵌入式存儲器、嵌入式測試、模擬IP、有線和無線接口IP、安全I(xiàn)P、嵌入式處理器和子系統(tǒng)，對高性能HPC應(yīng)用進(jìn)行全方位的賦能。

  結(jié)語

  AIGC產(chǎn)業(yè)的爆發(fā)進(jìn)一步帶動了800G以太網(wǎng)的需求。通過引入全新的MAC和PCS，800G以太網(wǎng)找到了當(dāng)前最經(jīng)濟(jì)理想的實現(xiàn)方案——8通道112G SerDes或PHY技術(shù)。不過，要把800G SR8方案系統(tǒng)框圖兌現(xiàn)到具體的800G芯片中，依然面臨著性能、功耗、面積和信號完整性等多方面的挑戰(zhàn)，幫助大家克服這些挑戰(zhàn)，便是新思科技112G以太網(wǎng)PHY IP和以太網(wǎng)VIP的價值所在。