LC：人工智能集群對(duì)光學(xué)的特殊要求

  ICC訊  國(guó)際光電委員會(huì)（IPEC）繼續(xù)推動(dòng)人工智能（AI）集群新一代光互連的行業(yè)討論。近期（2024年7月30日），IPEC舉行了主題為“AI集群中光學(xué)的特殊要求”（Special requirements for optics in AI Clusters）的網(wǎng)絡(luò)研討會(huì)。該活動(dòng)包括8個(gè)演講，吸引了400多名與會(huì)者，持續(xù)了整整3個(gè)小時(shí)，有超過(guò)30多位觀眾提問(wèn)。

  Andy Bechtolsheim以對(duì)GPU性能的預(yù)測(cè)拉開了活動(dòng)的序幕。如下圖所示，隨著CMOS、基板/封裝方法、芯片架構(gòu)和冷卻技術(shù)的進(jìn)步，預(yù)計(jì)從2022年到2028年，這一數(shù)字將增加100倍。

  Andy的時(shí)間表非常激進(jìn)（和往常一樣）。所有這些新技術(shù)可能需要十年時(shí)間才能投入批量生產(chǎn)。關(guān)于英偉達(dá)/臺(tái)積電用于封裝Blackwell GPU的新CoWoS技術(shù)存在問(wèn)題的最新傳言表明，將新技術(shù)轉(zhuǎn)化為大規(guī)模生產(chǎn)是多么具有挑戰(zhàn)性。

  管理這些非常大的芯片組件的散熱是許多問(wèn)題之一。在人工智能集群中使用的所有技術(shù)都必須有一個(gè)提高能效的路線圖。CMOS確實(shí)有5年內(nèi)從5nm到3nm和2nm的路線圖，但光互連仍在尋找更高功率效率的路徑。

  Andy介紹了當(dāng)前設(shè)計(jì)的重定時(shí)、LRO和LPO 1.6T（8x200G）收發(fā)器的功耗估算，如下圖所示。重定時(shí)（DSP）模塊消耗30W，是800G模塊的2倍多。LPO和/或LRO確實(shí)為更高的功率效率提供了一條途徑，但目前尚不清楚它們是否以每通道200G的速度工作。Andy評(píng)論說(shuō)，使用干凈的電氣通道224G LPO可以工作，但它還需要Flyover線纜、高性能TIA和線性驅(qū)動(dòng)器。

  Andy還提到，112G LPO MSA的標(biāo)準(zhǔn)即將完成，應(yīng)在9月ECOC之前發(fā)布。互操作性Plug-fest將于8月舉行，到2025年，幾家供應(yīng)商將準(zhǔn)備批量交付LPO。

  問(wèn)題是：是否有客戶準(zhǔn)備部署LRO或LPO？

  字節(jié)跳動(dòng)是認(rèn)真考慮8x100G LPO的潛在客戶之一。根據(jù)LightCounting的估計(jì)，到2024年，字節(jié)跳動(dòng)將是中國(guó)云計(jì)算公司中第二大光模塊消費(fèi)者，并有可能在2025年排名第一。

  字節(jié)跳動(dòng)的Yinxing Zhang給出了大量的LPO測(cè)試結(jié)果，證明了1E-6規(guī)格的Pre-FEC BER測(cè)試有助于保證鏈路在全溫度范圍內(nèi)的性能。FEC將為通過(guò)Pre-FEC BER測(cè)試的收發(fā)器性能增加余量。他還評(píng)論說(shuō)，需要優(yōu)化VCSEL和收發(fā)器/AOC設(shè)計(jì)，以提高Pre-FEC BER測(cè)試的良率，但他對(duì)2025-2026年的8x100G LPO部署持樂(lè)觀態(tài)度。字節(jié)跳動(dòng)并不急于轉(zhuǎn)向每通道200G的速度，至少現(xiàn)在還沒(méi)有。

  LightCounting預(yù)計(jì)英偉達(dá)將在今年晚些時(shí)候測(cè)試每通道200G的LRO和LPO，并可能在2025年部署有限的數(shù)量。如果這些都不起作用，CPO將是英偉達(dá)可以依賴的另一種選擇。英偉達(dá)也在放棄基于VCSEL的SR8收發(fā)器，但字節(jié)跳動(dòng)和許多其他客戶將在未來(lái)許多年內(nèi)部署這些收發(fā)器。

  博通的Manish Mehta討論了CPO的進(jìn)展，并介紹了與云暉合作開發(fā)的SR8 LRO收發(fā)器的最新測(cè)試數(shù)據(jù)，如下所示。他還討論了用于人工智能應(yīng)用的SMF雙向收發(fā)器的設(shè)計(jì)。該技術(shù)已在FTTx收發(fā)器中使用了20多年。Manish還回顧了博通（Avago/Agilent）30年來(lái)收發(fā)器制造的歷史，其中包括10萬(wàn)億（是的，這是萬(wàn)億！）個(gè)現(xiàn)場(chǎng)裝置時(shí)（Device hours），可靠性記錄<1FIT。

  Meta的Drew Alduino展示了硬件故障如何減慢AI集群運(yùn)行的數(shù)據(jù)。單個(gè)GPU故障或網(wǎng)絡(luò)鏈路故障會(huì)使整個(gè)集群的效率降低40%。緩解故障(通過(guò)軟件)最多可能需要10分鐘。這樣的故障平均每30-45分鐘發(fā)生一次。對(duì)于基于更復(fù)雜的GPU和光學(xué)的大型集群，這個(gè)問(wèn)題會(huì)變得更糟。

  他還分享了200G FR4和400G FR4模塊的收發(fā)器故障分析數(shù)據(jù)，如下所示。直接調(diào)制激光器衰減是200G模塊故障的主要原因。與一般的制造問(wèn)題(PCBA和引線鍵合)相比，400G收發(fā)器中使用的EML性能下降的問(wèn)題較小。他建議使用更簡(jiǎn)單和更集成的設(shè)計(jì)將有助于減少這些故障。從這個(gè)角度來(lái)看，LPO和CPO都是行業(yè)探索的正確方向。不僅可以降低功耗，還可以提高可靠性。

  華為的Eric Bernier也討論了提高可靠性的方法。除了優(yōu)化整個(gè)收發(fā)器或集成芯片的光電設(shè)計(jì)和提高光源效率外，基于激光陣列的更高功率光源也將有所幫助。如果一個(gè)激光器性能下降，陣列中的其他激光器可以產(chǎn)生更多的功率，以補(bǔ)償故障的激光器。

  其他演講者包括Quintescent的Cris Cole，他提供了關(guān)于硅基量子點(diǎn)激光器可靠性提高100倍的更多數(shù)據(jù)。英特爾的Christian Urricariet分享了關(guān)于異質(zhì)集成激光器極高可靠性（<0.1FIT）的數(shù)據(jù)。Ranovus的Jeff Hutchins認(rèn)為，只有高度集成的CPO解決方案才能滿足AI集群的可靠性要求。

  原文內(nèi)容請(qǐng)參考：https://www.lightcounting.com/resource/53/resourceFile/081324%20Research%20Note%20on%20IPEC%20webinar.pdf