根據 TrendForce 最新高速互連市場研究,NVIDIA 下世代的 AI 算力櫃架構顯示,未來 GPU 設計重心將轉向更高密度的晶片互連,和更高速的資料傳輸,機櫃內晶片互連 (Scale-Up) 及跨機櫃的大規模互連 (Scale-Out) 將成規劃資料中心的核心課題。使用銅纜的傳統電氣傳輸方案,受物理限制無法應對超大規模的資料搬運需求,光學傳輸方案因此獲得發展空間。TrendForce 預估,CPO (共同封裝光學) 在 AI 資料中心光通訊模組的滲透率將逐年成長,有機會於 2030 年達 35%。
依照 NVIDIA NVLink 6 的傳輸通訊協定,定義單通道 400G SerDes 的極速,以及單顆 GPU 擁有 3.6 TB / s 的頻寬極限。在極端的高頻傳輸速率下,銅纜方案電訊號隨傳輸距離增加而衰退的情況加劇,導致可用距離被嚴格限縮在一公尺內。不過據 Broadcom 預測,透過 SerDes 技術持續突破物理極限,銅纜方案 (Copper Cable) 憑藉成本效益與低功耗特性,至 2028 年前都將是機櫃內的極短距互連主流選擇。
然而,當晶片互連規模放大,Scale-Up 串聯規模從單一機櫃擴展至跨機櫃 (如 NVIDIA 八組 NVL72 組成之 576 GPU 叢集),銅纜方案將無法應付需求。此外,光學傳輸具備 WDM (波分複用) 技術,能利用多種波長在單一光纖內大幅提升傳輸密度,是銅纜傳輸無法企及的優勢。因此,各大雲端供應商 (CSP) 正攜手新創公司研發各項光學傳輸方案,為將來更大的頻寬需求作準備,也替 CPO 技術的滲透與成長前景奠定基礎。
產業龍頭深化布局,算力基礎建設對光學技術依賴將加深
觀察 NVIDIA 近年在 CPO 與矽光技術的策略,在半導體封裝端,NVIDIA 透過 TSMC COUPE 3D 封裝技術,堆疊邏輯與矽光晶片,並利用矽光晶片上的 200G PAM4 微環調變器 (MRM),兼顧小體積與低功耗,提升光引擎的整體頻寬密度。
NVIDIA 近日也宣布分別投資 Lumentum 與 Coherent 各 20 億美元,並簽署多年度採購承諾,與先進雷射、光學產品的優先供貨權。此舉顯示 NVIDIA 開始針對 Scale-Up 光互連的關鍵零組件預先做戰略儲備,將深度參與雷射與光學元件研發,意味未來的算力基礎設施將更依賴光學技術。
TrendForce 預期,基於矽光與 CPO 的光互連技術,將率先導入在 NVIDIA Rubin 世代機櫃間資料傳輸的 Scale Out,並規劃將光互連整合至未來的 Scale-up 互連架構中,以實現更高的頻寬密度。據 TrendForce 估計,2026 年用於 AI 資料中心的光通訊模組中,CPO 滲透率僅約 0.5%。隨著矽光與 CPO 封裝技術逐漸純熟,跨機櫃的 Scale Up 光互連資料傳輸最快將於 Rubin Ultra 或 Feynman 世代開始出現。在資料傳輸頻寬不斷提高的情況下,TrendForce 預估至 2030 年左右,矽光 CPO 於 AI 資料中心的滲透率有機會達到 35% 水準。同時,新型態的光互連與 Optical I / O 等光學技術也可能陸續出現。