ICC訊(編譯:Nina)Yole報告數(shù)據(jù)顯示,2022年,CPO市場產(chǎn)生的收入達到約3800萬美元,預(yù)計2033年將達到26億美元,2022-2033年復(fù)合年增長率為46%。對快速增長的訓(xùn)練數(shù)據(jù)(Training dataset)大小的預(yù)測表明,數(shù)據(jù)將成為擴展ML模型的主要瓶頸,因此我們可能會看到人工智能(AI)的進展放緩。在ML硬件中使用光學輸入/輸出(I/O)可以幫助克服這種瓶頸。該瓶頸是下一代高性能計算(HPC)系統(tǒng)采用光學互連的主要驅(qū)動因素。
共封裝光學器件在高性能計算中備受關(guān)注
在過去的50年里,移動通信每十年出現(xiàn)新一代技術(shù)。移動帶寬需求已經(jīng)從語音通話和短信發(fā)展到超高清(UHD)視頻和各種增強現(xiàn)實/虛擬現(xiàn)實(AR/VR)應(yīng)用。盡管新冠肺炎疫情對電信基礎(chǔ)設(shè)施供應(yīng)鏈產(chǎn)生了深遠影響,但全球消費者和商業(yè)用戶繼續(xù)對網(wǎng)絡(luò)和云服務(wù)產(chǎn)生新的需求。社交網(wǎng)絡(luò)、商務(wù)會議、超高清視頻流、電子商務(wù)和游戲應(yīng)用將繼續(xù)推動增長。
每個家庭和每個人連接到互聯(lián)網(wǎng)的設(shè)備數(shù)量正在增加。隨著功能和智能不斷增強的新型數(shù)字設(shè)備的出現(xiàn),用戶每年的采用率都在上升。此外,不斷擴展的機器對機器應(yīng)用,如智能電表、視頻監(jiān)控、醫(yī)療保健監(jiān)控、聯(lián)網(wǎng)驅(qū)動器和自動化物流,極大地促進了設(shè)備和連接的增長,并推動了數(shù)據(jù)中心基礎(chǔ)設(shè)施的擴張。
由于服務(wù)提供商預(yù)算削減,以及可插拔器件已經(jīng)可以實現(xiàn)CPO所承諾的成本節(jié)約和低功耗,共封裝光學器件(CPO)市場面臨困難時期。CPO的全面部署只有在可插拔器件失去勢頭時才會發(fā)生。至少在接下來的兩代交換機系統(tǒng)中,CPO很難與可插拔模塊競爭,因為在很長一段時間內(nèi),可插拔模塊仍將是首選。CPO由于其在數(shù)據(jù)中心(DC)中的網(wǎng)絡(luò)功率效率,最近受到了很多關(guān)注。LC的分析表明,與數(shù)據(jù)中心的總功耗相比,網(wǎng)絡(luò)節(jié)省的功耗可以忽略不計。只有少數(shù)幾家CPO廠商,如博通、英特爾、Marvell和其他一些公司,將為市場帶來專有解決方案。為了滿足市場需求并讓最終用戶相信CPO的可行性,多供應(yīng)商的商業(yè)模式以及可觀的成本和功耗節(jié)省的驗證是必須的。
隨著6.4T光模塊最晚在2029年的到來,CPO和可插拔光學器件之間可能會發(fā)生激烈的競爭。CPO系統(tǒng)中的多個技術(shù)障礙預(yù)計將在此時得到解決。然而,收發(fā)器行業(yè)正在不斷創(chuàng)新,以推動可插拔光學器件市場。在CPO系統(tǒng)實現(xiàn)網(wǎng)絡(luò)應(yīng)用的批量出貨之前,可插拔將采用共封裝方法,并且光學引擎將在高性能計算和分解式未來系統(tǒng)中越來越受歡迎。行業(yè)生態(tài)系統(tǒng),包括Ayar Labs、Intel、Ranovus、Lightmatter、AMD、GlobalFoundries和其他圍繞機器學習(ML)系統(tǒng)供應(yīng)商Nvidia和HPE的公司,已經(jīng)取得了相當大的進展,并計劃在2024年至2026年間批量交付產(chǎn)品。
Yole報告數(shù)據(jù)顯示,2022年,CPO市場產(chǎn)生的收入達到約3800萬美元,預(yù)計2033年將達到26億美元,2022-2033年復(fù)合年增長率為46%。對快速增長的訓(xùn)練數(shù)據(jù)(Training dataset)大小的預(yù)測表明,數(shù)據(jù)將成為擴展ML模型的主要瓶頸,因此我們可能會看到人工智能(AI)的進展放緩。在ML硬件中使用光學輸入/輸出(I/O)可以幫助克服這種瓶頸。該瓶頸是下一代高性能計算(HPC)系統(tǒng)采用光學互連的主要驅(qū)動因素。
光子集成電路使低功耗&低成本光互連的CPO成為可能
Yole預(yù)計800G和1.6T可插拔模塊會非常受歡迎,因為它們利用了100G和200G單波長光學器件的優(yōu)勢,因此可以在QSFP-DD和OSFP-XD封裝中實現(xiàn)技術(shù)和成本效益。在所需的電氣和光學密度、熱管理和能源效率方面,可插拔封裝在支持6.4T和12.8容量方面的能力將受到限制。由于采用離散電氣器件,功耗和熱管理正在成為未來可插拔光學的限制因素。使用硅光子學技術(shù)平臺的共封裝旨在克服上述挑戰(zhàn)。
光纖離芯片組越來越近了。使用光將數(shù)據(jù)引入到集中處理的點是架構(gòu)設(shè)計師的主要目標之一。這一趨勢始于十年前安裝在印刷電路板(PCB)上的光學組件的專有設(shè)計。板載光學聯(lián)盟(COBO)延續(xù)了這些嵌入式光互連(EOI)想法,并制定規(guī)范,允許在網(wǎng)絡(luò)設(shè)備的制造中使用板載光學模塊。CPO是一種創(chuàng)新方法,將光學器件和ASIC緊密結(jié)合在一起。在當今的技術(shù)下,用16個3.2Tbps光模塊環(huán)繞50T交換芯片具有挑戰(zhàn)性,因此近封裝光學(NPO)通過使用位于主機板上的高性能PCB基板(一種interposer)來解決這一問題,而CPO則是在多芯片模塊基板上使用模塊環(huán)繞芯片。NPO interposer的空間更大,使芯片和光模塊之間的信號路由更容易,同時仍能滿足信號完整性要求。相比之下,CPO的模塊和主機ASIC挨得更近,可以實現(xiàn)更低的信道損耗和更低的功耗。
隨著技術(shù)的進步,通信和計算技術(shù)能夠在商業(yè)系統(tǒng)中更緊密地集成,網(wǎng)絡(luò)硬件正在更多地采用通用組件。此外,人工智能模型的規(guī)模正在以前所未有的速度增長,傳統(tǒng)架構(gòu)(基于銅的電氣互連)的芯片到芯片或板到板的能力將成為擴展機器學習的主要瓶頸。因此,針對高性能計算(HPC)及其新的分解架構(gòu),出現(xiàn)了新的極短距離光學互連。分解設(shè)計區(qū)分了服務(wù)器卡上的計算、內(nèi)存和存儲組件,并分別對它們進行池化。通過先進的封裝內(nèi)光學I/O技術(shù),將基于光學的互連用于各種處理單元(xPU),特別是中央處理單元(CPU)、數(shù)據(jù)處理單元(DPU)、圖形處理單元(GPU)、現(xiàn)場可編程門陣列(FPGA)和ASIC、存儲器和存儲器,可以幫助實現(xiàn)必要的傳輸速度和帶寬。
數(shù)據(jù)中心運營商將傾向于經(jīng)過驗證的低成本和靈活的解決方案
如今,可插拔光模塊市場供應(yīng)鏈已經(jīng)建立完善。它包括分立或集成組件供應(yīng)商、生產(chǎn)發(fā)射器和接收器光學組件(TOSA和ROSA)、多路復(fù)用器、數(shù)字信號處理器(DSP)和PCB的光學公司,以及組裝/測試集成商。這樣一個多供應(yīng)商市場模型涉及到許多不同的供應(yīng)商。此外,多個不同可插拔模塊可在一個交換機盒子中實現(xiàn)互操作也賦予了該行業(yè)靈活性。這些是可插拔技術(shù)相對于CPO的主要優(yōu)勢,而后者將嚴重依賴于硅光子學。隨著光學和硅芯片的高度集成,人們將非常需要新的工程能力和晶圓代工廠,這對傳統(tǒng)的中型企業(yè)來說是不可接受的。只有價值數(shù)十億美元的光學供應(yīng)商才能負擔得起從可插拔式轉(zhuǎn)向CPO。
需要指出的是,盡管主流(主要是大型云運營商)部署了高端CPO解決方案,但仍有許多小型企業(yè)數(shù)據(jù)中心沒有采用最新的互連技術(shù),因此技術(shù)之間的交換速度將比較慢。這意味著即使CPO成為主流技術(shù),對于CPO在技術(shù)上或經(jīng)濟上不可行的幾個應(yīng)用來說,如長途應(yīng)用和邊緣數(shù)據(jù)中心,可插拔模塊的需求仍然很高。Yole預(yù)計可插拔技術(shù)在未來10年內(nèi)不會被淘汰。然而,可插拔光學行業(yè)可能會整合,而CPO市場將形成多供應(yīng)商的商業(yè)模式。
2020年,光互聯(lián)和交換設(shè)備行業(yè)開始了關(guān)于CPO進一步發(fā)展的密集而廣泛的討論。此后宣布了幾項戰(zhàn)略合作,并出現(xiàn)了第一個概念驗證。光互連論壇(OIF)、COBO和多源協(xié)議(MSA)組織等標準組織已經(jīng)建立了內(nèi)部項目來創(chuàng)建CPO規(guī)范,這就是業(yè)界重視CPO的證據(jù)。四大超大規(guī)模云運營商中的兩家——Meta和微軟——積極支持CPO滲透到他們的云網(wǎng)絡(luò)中。
2022年,數(shù)千臺CPO殷勤開始試點測試。今年,我們將看到一些宏觀經(jīng)濟逆風,這將對預(yù)算密集型項目產(chǎn)生負面影響,特別是對CPO等新興技術(shù)。最近的新聞表明,大多數(shù)主要的CPO支持者已經(jīng)暫停了對CPO計劃的支持。甚至最終用戶也不再關(guān)注CPO。博通仍然是最后一家CPO供應(yīng)商。CPO失去吸引力有幾個原因。第一個原因是圍繞可插拔的成熟的工業(yè)生態(tài)系統(tǒng)。此外,用于可插拔封裝的新光學技術(shù),包括薄膜鈮酸鋰(TFLN)、鈦酸鋇(BTO)、碳和聚合物調(diào)制器,可以幫助實現(xiàn)所需的低功耗,并且可以在不改變現(xiàn)有網(wǎng)絡(luò)系統(tǒng)設(shè)計的情況下引入市場。無論哪種技術(shù),只要在性能、功率、成本和可制造性方面都是最好的,就可以在市場上蓬勃發(fā)展。
CPO在AI/ML系統(tǒng)中的應(yīng)用前景有所不同。未來數(shù)以十億計的光互連(芯片-芯片和板-板)的潛力促使大型晶圓代工廠為大規(guī)模生產(chǎn)做準備。由于大多數(shù)光子學制造知識產(chǎn)權(quán)(IP)由非晶圓代工廠持有,大型晶圓代工廠如Tower Semiconductor/Intel、GlobalFoundries、ASE Group、臺積電和三星等正在準備硅光子學工藝流程,以接受來自設(shè)計公司的任何光子集成電路(PIC)架構(gòu)。這些公司都加入了相關(guān)行業(yè)聯(lián)盟,諸如PCIe、CXL和UCIe等。芯片組互連的通用規(guī)范允許構(gòu)建超過最大標線片尺寸的大型片上系統(tǒng)(SoC)封裝。這允許在同一封裝中混合來自不同供應(yīng)商的組件,并通過使用更小的模具提高制造產(chǎn)量。每個芯片組可以針對特定的設(shè)備類型或計算性能/功耗要求使用不同的硅制造工藝。