一根光纖、雙向傳輸：BiDi 如何支撐 AI 基礎架構規模化發展

隨著 AI 模型規模與運算需求持續攀升，AI 基礎架構面臨的挑戰，正從單純增加更多 GPU，進一步轉向如何以更高效率連接大規模運算資源。更大的縱向擴展（scale-up）領域可直接支援更快的訓練速度與更佳的模型品質，使高頻寬、低延遲互連日益成為下一世代 AI 基礎架構的關鍵。然而，當銅纜逐漸觸及物理極限、scale-up 網路轉向光學互連時，快速增加的光纖數量與佈線複雜度，也帶來成本、部署、供應與可靠性等新的挑戰。

雙向（BiDi）光學技術提供了一條更具效率的發展路徑。BiDi 利用不同波長，在單一光纖上分別承載傳送與接收訊號，可降低大型 scale-up 網路所需的光纖與連接器數量，同時維持交換器 radix（連接埠數）、頻寬與鏈路傳輸距離不變。其價值不只是減少光纖用量，更在於簡化支撐日益龐大 AI 叢集所需的實體基礎架構。

BiDi 的關鍵效益
Scale-up 領域是由 AI 加速器緊密耦合而成的叢集，在邏輯上如同單一 GPU 運作，其規模直接決定訓練吞吐量、推論延遲與 token 生成速率。在每通道 200 Gb/s 的速率下，銅纜傳輸距離約僅一公尺，使 scale-up 叢集受限於一至兩個機架，也就是 72 至 144 顆 GPU。若要跨機架連接 512 顆以上的加速器，光子互連是唯一可行的發展路徑。然而，光纖佈線數量增加、複雜度提高與供應短缺，也會顯著增加上市時程、成本與可靠性方面的風險。

根據 Lightmatter 的 512-GPU scale-up 模型，且結果與其他獨立分析一致，分析顯示 BiDi 可：(1) 將光纖與連接器數量減半；(2) 將 scale-up 網路總支出降低約 15%；(3) 將被動光路中的潛在故障點減少約一半，同時維持交換器 radix（連接埠數）、頻寬與鏈路傳輸距離不變。Lightmatter 已在其互連產品組合中導入 BiDi。

突破銅纜限制，擴展 AI 運算規模
打造更大型 AI 模型的競賽，如今也與擴大 scale-up 領域規模的競賽緊密相連。在晶片與封裝層級，GPU 受到矽晶片面積、良率與功耗限制，因此產業的因應方式，是將數百顆加速器整合成單一高頻寬、低延遲的機櫃組（pod），讓 AI 模型將其視為一顆超大型 GPU。更大的 scale-up 領域可直接支援更多可部署的專家、更快的訓練速度，以及更佳的模型品質。

Pod 無法透過銅纜持續擴展。在目前每通道 200G 的 SerDes 速率下，被動式電氣互連的最大傳輸距離約為一公尺，實際上將以電氣方式連接的 scale-up 領域限制在一至兩個機架內。光纖跨越 pod 內機架之間數十公尺的距離時，額外損耗可忽略不計，因此勢必成為替代方案。然而，單純以光鏈路取代銅纜，也會帶來新的挑戰。

對單一 512-GPU pod 而言，UniDi 光學網路會形成龐大的光纖佈線：數十萬芯光纖、數萬個連接器，以及用來重新排列光纖路徑的 shuffle box；每一芯光纖與每一個對接連接器，都可能成為污染、錯接或故障的風險點。

BiDi：更具效率的發展路徑
既然 scale-up 勢必走向光學互連，關鍵問題就在於如何因應佈線複雜度增加所帶來的光纖成本與故障風險。最直接且有效的答案，就是雙向光學技術。

Lightmatter 已在其互連產品組合中導入 BiDi。本分析以預計於 2027 年上市的 Passage L20 光引擎（OE）作為代表性解決方案，說明 BiDi 的優勢。

歡迎探索更多資訊請造訪：技術摘要


關於 Lightmatter
Lightmatter® 正引領 AI 資料中心基礎設施的革命，推動人類進步邁向下一個重大躍進。旗下開創性的 Passage® 平台（全球首款 3D 堆疊矽光子引擎）與 Guide® 業界首款 VLSP™（超大規模光子技術）光引擎，能夠互連數千至數百萬顆處理器，Lightmatter 的技術旨在消除關鍵的資料傳輸瓶頸，為最先進的 AI 與高效能運算（HPC）工作負載提供前所未有的頻寬密度與能源效率，從根本上重新定義了下一代 AI 基礎設施的架構。
更多資訊請參閱：www.lightmatter.co