OCP24:AI時(shí)代需要光學(xué)技術(shù)同行

訊石光通訊網(wǎng) 2024/10/25 11:38:59

  ICC  2024年10月15日至17日,開(kāi)放計(jì)算項(xiàng)目全球峰會(huì)2024(簡(jiǎn)稱(chēng)OCP24)在美國(guó)加州圣何塞舉行。OCP是一個(gè)專(zhuān)注于計(jì)算的展會(huì),在過(guò)去幾年里,由于人工智能的發(fā)展,該展會(huì)的重要性得到了極大的提升。在OCP24上,盡管多數(shù)參會(huì)者聚焦于AI架構(gòu)、功率、液冷及軟件的討論,但有一個(gè)座無(wú)虛席的會(huì)議,專(zhuān)門(mén)探討網(wǎng)絡(luò)和光學(xué)技術(shù)對(duì)于當(dāng)前及未來(lái)AI節(jié)點(diǎn)擴(kuò)展性的重要意義。Meta強(qiáng)調(diào),目前仍不清楚如何在不增加更多GPU的情況下從大型AI模型中獲得更準(zhǔn)確的結(jié)果(因?yàn)楦叩臏?zhǔn)確性意味著需要更多的參數(shù),而更多的參數(shù)則需要更多的GPU資源),這意味著數(shù)據(jù)中心對(duì)光學(xué)帶寬的需求不會(huì)停止。

  今年,首次有兩家光學(xué)供應(yīng)商光迅和Ciena在展會(huì)上設(shè)有展位。隨著CIOE和ECOC剛剛落幕,而且OCP并不是傳統(tǒng)的光學(xué)展覽,因此并沒(méi)有任何主要的光學(xué)公告。不過(guò),這里有關(guān)于數(shù)據(jù)中心內(nèi)部光學(xué)技術(shù)未來(lái)的有趣討論,而OCP可能是聽(tīng)取初創(chuàng)公司關(guān)于AI光學(xué)有趣想法的最佳場(chǎng)所。

  本文中涵蓋的主題包括:

  共封裝光學(xué)(CPO)離現(xiàn)實(shí)更近了一步

  Ciena推出400G/通道 —— 出乎意料

  AI節(jié)點(diǎn)中的光學(xué)可靠性和穩(wěn)定性需提升

  LPO——持續(xù)發(fā)展,但問(wèn)題依然存在

  液冷將改變架構(gòu)設(shè)計(jì)

  結(jié)論

  共封裝光學(xué)(CPO)離現(xiàn)實(shí)更近了一步

  近幾年來(lái),CPO幾乎一直由Intel和Broadcom通過(guò)51.2T交換機(jī)演示進(jìn)行獨(dú)家推廣。去年的OCP會(huì)議上,Micas Networks首次推出了基于Broadcom CPO平臺(tái)的商用交換機(jī)。今年,Micas依然是唯一商用的CPO交換機(jī)廠商,但許多其他公司在他們的演講中也開(kāi)始提及CPO。

  最近,臺(tái)積電(TSMC)宣布正在研究在其工藝流程中集成SiPho,而超大規(guī)模企業(yè)也發(fā)表了令人鼓舞的聲明,CPO似乎比以往任何時(shí)候都更接近現(xiàn)實(shí)——可能在不到五年的時(shí)間內(nèi)就能實(shí)現(xiàn)大規(guī)模部署。然而,CPO的采用仍然是有些二元化的——要么會(huì)被一個(gè)主要客戶認(rèn)可用于大規(guī)模部署,從而引發(fā)大量需求,要么它仍將是一種少數(shù)較小運(yùn)營(yíng)商采用的小眾產(chǎn)品。目前這個(gè)關(guān)鍵的主要客戶尚未出現(xiàn),但鑒于AI是一個(gè)核心應(yīng)用場(chǎng)景,Nvidia和超大規(guī)模企業(yè)的ASICs很可能是早期采用者。

  CPO所宣傳的主要好處仍然是功耗(聲稱(chēng)每800GbE小于5.5W),但它還提供了穩(wěn)定性和更低的延遲。AI模型中困擾光學(xué)連接的偶然錯(cuò)誤(flapping)隨著鏈路中DSP的減少而降低,這可能以犧牲一致性為代價(jià),換取了鏈路穩(wěn)定性以及較低的誤碼率(BER)。對(duì)于短距離鏈接,這種權(quán)衡可能是值得的。字節(jié)跳動(dòng)在展覽會(huì)上分享了早期試驗(yàn)的結(jié)果,表明第二層網(wǎng)絡(luò)的延遲最高可減少600納秒,第三層網(wǎng)絡(luò)的延遲最高可減少1000納秒(不過(guò),字節(jié)跳動(dòng)并未解釋第三層網(wǎng)絡(luò)為何會(huì)有更顯著的延遲改善)。

  Micas繼續(xù)開(kāi)發(fā)其CPO平臺(tái),目前為51.2T,但計(jì)劃在Tomahawk 6可用時(shí)升級(jí)到102.4T。這意味著B(niǎo)roadcom將開(kāi)發(fā)一個(gè)102.4T的CPO板卡。今年Micas已經(jīng)出貨了幾十臺(tái)交換機(jī),主要用于評(píng)估,并預(yù)計(jì)到2025年最多也只能出貨幾百臺(tái),因?yàn)閷ふ抑饕蛻舻墓ぷ魅栽诶^續(xù)。騰訊仍然是一個(gè)潛在的客戶(Micas雇傭了一名來(lái)自該公司的高級(jí)工程師),但在短期內(nèi)不會(huì)大量采購(gòu)。

  Broadcom與字節(jié)跳動(dòng)共同展示了CPO,后者展示了一個(gè)潛在的網(wǎng)絡(luò)部署方案,其中CPO交換機(jī)作為頂級(jí)脊柱層,未來(lái)將轉(zhuǎn)移到核心層,直接進(jìn)入網(wǎng)絡(luò)的主要交換基礎(chǔ)設(shè)施。服務(wù)提供商正在試用一個(gè)商用平臺(tái)的定制版本,據(jù)推測(cè)是Micas,因?yàn)樗鼡碛心壳拔ㄒ坏纳逃闷脚_(tái)。字節(jié)跳動(dòng)表示還沒(méi)有承諾購(gòu)買(mǎi)和部署,并且仍在評(píng)估這項(xiàng)技術(shù)。

  Broadcom與字節(jié)跳動(dòng)共同展示了CPO技術(shù),展示了一種將CPO交換機(jī)作為T(mén)op Spine層,并在未來(lái)過(guò)渡到核心層的潛在網(wǎng)絡(luò)部署方案,這將使CPO直接成為網(wǎng)絡(luò)主交換基礎(chǔ)設(shè)施的一部分。服務(wù)提供商正在測(cè)試商用平臺(tái)的定制版本,據(jù)推測(cè)該平臺(tái)為Micas的產(chǎn)品,因?yàn)槟壳八俏ㄒ豢捎玫纳逃闷脚_(tái)。字節(jié)跳動(dòng)表示,他們尚未決定購(gòu)買(mǎi)和部署,并且仍在評(píng)估這項(xiàng)技術(shù)。

  Meta表示,他們正在研究將CPO應(yīng)用于“Scale up域”(即目前使用銅纜連接的機(jī)架內(nèi)部)。隨著這一領(lǐng)域擴(kuò)展到單個(gè)機(jī)架之外并且需要光學(xué)技術(shù)時(shí),CPO可能成為一個(gè)可行的選擇。Meta相信,由于減少了活動(dòng)組件的數(shù)量,CPO可以提供一個(gè)更可靠的網(wǎng)絡(luò),減少鏈路故障的發(fā)生。值得一提的是,Meta曾是CPO/NPO技術(shù)的早期倡導(dǎo)者之一,但在后來(lái)停止了內(nèi)部開(kāi)發(fā)。

  Ciena推出400G/通道 —— 出乎意料

  正如Cignal AI在其最新的ECOC 2024報(bào)告中所述,400G/通道電子和光學(xué)器件被認(rèn)為即將公開(kāi)亮相。實(shí)際情況比預(yù)期的更早到來(lái)。在OCP上,Ciena展示了利用其WaveLogic 6e相干DSP中的SERDES實(shí)現(xiàn)的400G/通道PAM4操作。這不是像Marvell或Broadcom這樣的傳統(tǒng)DSP供應(yīng)商,而是Ciena首先在3nm硅片上公開(kāi)演示了400Gbps的操作。Ciena的演示應(yīng)被視為一個(gè)測(cè)試芯片,而該公司正考慮為其多個(gè)組件,包括一個(gè)400Gbps/通道的PAM4 DSP,制定未來(lái)的商業(yè)化計(jì)劃。

  在光學(xué)方面,Hyperlight關(guān)于薄膜鈮酸鋰(TFLN)的演講表明,該材料有足夠的帶寬來(lái)支持400G/通道的光學(xué)器件。Hyperlight還提到,在過(guò)去兩年中,TFLN晶圓制造商的數(shù)量已經(jīng)從一家增加到了三家。硅光子學(xué)(SiPho)幾乎肯定不能在400G/通道條件下工作,即使是InP EMLs也可能面臨性能問(wèn)題。盡管TFLN在大規(guī)模生產(chǎn)中尚未得到驗(yàn)證,但它仍然是2028年后實(shí)現(xiàn)400Gbps/通道3.2GbE的一個(gè)強(qiáng)有力候選者。

  AI節(jié)點(diǎn)中的光學(xué)可靠性和穩(wěn)定性需提升

  在Cignal AI的CIOE報(bào)告(CIOE24:洞察中國(guó)市場(chǎng))中,該市場(chǎng)調(diào)研公司首次提到了光學(xué)器件中的bit error和flapping導(dǎo)致AI模型失敗的問(wèn)題,這個(gè)問(wèn)題在這次OCP上被多次提及。AI模型中的鏈路錯(cuò)誤可能會(huì)導(dǎo)致整個(gè)計(jì)算周期失敗,并需要從檢查點(diǎn)重新啟動(dòng)。然而,光學(xué)方面的消息比最初報(bào)道的要樂(lè)觀:

  Meta展示了其模型數(shù)據(jù),顯示GPU的故障率遠(yuǎn)遠(yuǎn)高于光學(xué)鏈路。在初步數(shù)據(jù)中,約80%的模型故障是硬件問(wèn)題造成的,其中60%是由于GPU故障。網(wǎng)絡(luò)問(wèn)題是導(dǎo)致故障的第四大因素——雖然這并不理想,但情況并不像最初認(rèn)為的那樣嚴(yán)重。

  Meta還指出,400GbE模塊的故障大多是因?yàn)橹圃靻?wèn)題,而非激光器故障(200GbE模塊的故障主要是由于DML,但400GbE使用了更為可靠的EML)。制造問(wèn)題相比基本的半導(dǎo)體可靠性問(wèn)題應(yīng)該更容易解決。

  此外,Meta表示,所有硬件——無(wú)論是光學(xué)器件還是ASIC——的故障率隨時(shí)間逐漸下降,這表明存在一些尚未確定的早期失效原因。同樣,這應(yīng)該是一個(gè)比可靠性故障更容易解決的問(wèn)題。

  旭創(chuàng)展示的數(shù)據(jù)表明,基于硅光子學(xué)(SiPho)的光學(xué)器件的可靠性有了顯著提高。這家公司已經(jīng)售出了數(shù)百萬(wàn)個(gè)可插拔模塊,其現(xiàn)有產(chǎn)品的FIT率低于0.4,這對(duì)于1.6Gbps速率下的低成本SiPho光學(xué)器件而言是個(gè)積極的信號(hào)。

  LPO——持續(xù)發(fā)展,但問(wèn)題依然存在

  線性可插拔光學(xué)(LPO)繼續(xù)在各類(lèi)展覽會(huì)上受到關(guān)注,特別是在Arista的Andy Bechtolsheim出席的場(chǎng)合。然而,目前還沒(méi)有大型客戶正式采用這項(xiàng)技術(shù)。即便互操作性問(wèn)題得到了解決,故障排查和管理方面的問(wèn)題仍然存在。因此,盡管業(yè)內(nèi)對(duì)這項(xiàng)技術(shù)的討論持續(xù)不斷,但Cignal AI的預(yù)測(cè)(800GbE市場(chǎng)中不足10%的份額)自一年前《線性驅(qū)動(dòng)市場(chǎng)機(jī)會(huì)》(The Linear Drive Market Opportunity)報(bào)告發(fā)布以來(lái),一直未發(fā)生變化。

  在一個(gè)光學(xué)專(zhuān)題的演講中,Meta表示LPO正處于“積極研究”階段,但從LPO在OFC23上引起關(guān)注到現(xiàn)在已接近兩年,研究尚未轉(zhuǎn)化為實(shí)際部署。Meta還報(bào)告稱(chēng),排查光學(xué)鏈路固有的困難很大;據(jù)報(bào)告,因故障退回的模塊中有75%被診斷為未發(fā)現(xiàn)問(wèn)題(NTF),這意味著光學(xué)器件并非錯(cuò)誤來(lái)源。由于LPO進(jìn)一步減少了用于鏈路評(píng)估的遙測(cè)數(shù)據(jù),問(wèn)題可能會(huì)變得更復(fù)雜,盡管鏈路中的活動(dòng)組件減少可能會(huì)提高整體可靠性。

  或許對(duì)LPO的最大激勵(lì)來(lái)自Chris Cole的觀點(diǎn)(Cignal AI也有同樣的看法),即對(duì)于當(dāng)前的AI運(yùn)營(yíng)者而言,部署速度遠(yuǎn)比在光學(xué)器件上節(jié)省一點(diǎn)能耗重要得多——因此,基于DSP的光學(xué)器件(MOP)仍將是首選架構(gòu)。

  1.6T可能會(huì)為L(zhǎng)PO——或者說(shuō)更有可能是LRO——提供機(jī)會(huì),因?yàn)槟壳斑€沒(méi)有既定的MOP。OCP24上的演講者承認(rèn),200G/通道的LPO更具挑戰(zhàn)性,這意味著其部署并不確定。

  液冷將改變架構(gòu)設(shè)計(jì)

  下一代AI設(shè)施將需要液冷技術(shù),因?yàn)閱蝹€(gè)機(jī)架的散熱需求將超過(guò)100千瓦。在展會(huì)上,可以看到許多液冷供應(yīng)商及其演示。正如Cignal AI在ECOC報(bào)告中討論的,液冷技術(shù)將會(huì)改變?cè)O(shè)備的設(shè)計(jì)。Credo展示液冷技術(shù)也將使得電氣連接(如銅線/AEC)更加普及。隨著液冷技術(shù)的應(yīng)用,AI節(jié)點(diǎn)的密度增加,GPU之間的距離變短,從而使得銅連接可以用于更多的地方。一旦不再依賴風(fēng)冷,設(shè)備和網(wǎng)絡(luò)設(shè)計(jì)肯定會(huì)經(jīng)歷重大變革。

  結(jié)論

  雖然OCP不是一個(gè)專(zhuān)門(mén)的光學(xué)展會(huì),但它展示了未來(lái)幾年由AI推動(dòng)的光學(xué)需求和發(fā)展趨勢(shì)。雖然銅線在AI節(jié)點(diǎn)內(nèi)部還將長(zhǎng)期使用,但隨著速度提升和集群范圍擴(kuò)大,光學(xué)技術(shù)變得不可或缺。光學(xué)帶寬需求不斷增加,同時(shí)由于AI模型參數(shù)持續(xù)增長(zhǎng),功耗問(wèn)題仍然突出。盡管許多光學(xué)互聯(lián)的創(chuàng)新可能不會(huì)被廣泛采納,但它們有望挑戰(zhàn)行業(yè)對(duì)光學(xué)互聯(lián)的看法。這是一個(gè)屬于AI的時(shí)代,光學(xué)技術(shù)也被邀請(qǐng)一同前行。

  原文:OCP24: Optical Gets Invited to the AI Party - Cignal AI- https://cignal.ai/2024/10/ocp24-optical-gets-invited-to-the-ai-party/

新聞來(lái)源:訊石光通訊網(wǎng)

相關(guān)文章