ICC訊 2024年5月14-15日,由華為海思光電主辦,ICC訊石承辦的“2024芯?光論壇:芯光耀智算 互聯暢未來”會議在武漢光谷皇冠假日酒店圓滿舉辦。本次大會匯聚了近500位光電子領域專業人士,共同探討光電技術的演進趨勢,捕捉全球光電子產業的發展態勢。
其中,5月15日下午分論壇一《AI大模型下短距光互聯技術》圍繞AI領域的短距光互聯需求變化、技術演進和學術研究熱點等進行討論,探討了短距光互聯的未來。來自中國信通院、京東、騰訊、快手、銳捷網絡、華為海思光電、華中科技大學和北京理工大學的行業專家及學術大咖進行了深度的分析與探討。
趙文玉 中國信息通信研究院技術與標準所副所長
中國信息通信研究院技術與標準研究所副所長趙文玉發表了主題為《AI時代短距光互聯發展態勢探討》的演講。AI催生了海量的算力需求,互聯的瓶頸問題也隨即突出。單一的計算設備已經無法滿足算力需求,分布式架構需要通過多個GPU節點并行訓練,但不同節點之間需頻繁同步模型參數,網絡通信性能成為制約系統性能的關健瓶頸。同時,Al與光互聯雙向賦能,短距光互聯也在持續加速演進。
趙文玉提到,隨著數據中心、AI大模型等創新業務與應用的蓬勃發展,驅動短距光互聯持續向高速率、低能耗、低時延、高集成等方向發展。在產業化方面,800G已批量部署,1.6T尚處于技術攻關和產業應用研究階段,而3.2T因其對低能耗方案需求更強,還處在探索階段。另外在低能耗/低時延方面,LPO成為關注熱點,1.6T LPO樣品已經出現。在高集成方面,硅光在材料體系中占比提升,薄膜鈮酸鋰熱度上升,III-V集成與異質集成技術持續發展。
趙文玉還提到IPEC也在持續推動高速光互聯技術及標準化工作,并取得了階段性成果。建議產學研各單位聚焦Al+算力基礎設施等高質量發展需求,持續推動高速光互聯技術產業創新,支撐我國新質生產力發展!
陳琤 京東網絡架構師
京東科技信息技術有限公司網絡架構師陳琤發表了主題為《高性能計算網絡中的光互連》的演講。
陳琤提到,智算網絡光互連正在往高可擴展性、大帶寬、低成本、低功耗、低延時方向發展。關于GPU內部連接,連接問題不突出,可實現超高帶寬;而GPU出口現有方案采用PCIe連接,是計算節點間互聯的帶寬瓶頸,并行多路光引擎OIO方案是未來的方向。GPU的時延來自兩個方面——協議時延+數據鏈路。同時還提到,現如今硅光有了很好的介入點,AI是硅光光模塊發展的黃金時期,LPO方案在兼容互通方面還有很長的路要走。
總結而言,相較于傳統數通網絡,智算網絡帶寬的增長更迅速。而低成本互聯非常有賴于新技術。不同的模型對延時的要求不一樣,優化的方向也有所區別。
胡勝磊 騰訊光系統架構師
騰訊控股有限公司光系統架構師胡勝磊發表了主題為《算力網絡中的光互聯技術趨勢探討》的演講。
胡勝磊提到,光互聯的“春風”正在吹來,由于AIGC業務的興起,光互聯已成為數據中心網絡硬件主角。現階段光模塊供不應求,光互聯技術送代加速,光互聯已站在“風口”。同時硅光的重要性也凸顯了,可插拔批量占比攀升,CPO上無可取代;112G/224G有源銅纜(ACC)可支持單柜算力規模擴展。LRO的革新則需要支持互聯可插拔持續演進到224G。此外,異構互通也不可避免,端口問題感知明顯,協同度需要提升。
最后,胡勝磊還提到一些發散思考:如光芯片考慮集成有利于診斷的功能;選擇弱FEC,提升BER性能,實現降低網絡延遲;相比傳統MZ,DFB-RING集成芯片可行性;可插拔形態演進到OSFP-XD的16lane后,更多lane通道的封裝“單排16,雙排32”如何考慮布局等。
曹世偉 北京快手光網絡架構師
北京快手科技有限公司光網絡架構師曹世偉發表了主題為《All in AI時代光互聯技術的應用探討》的演講。
曹世偉提到,大模型分布式訓練對網絡架構設計提出了更高的要求,傳統的電交換方案在成本、能耗、時延等方面存在諸多挑戰,基于OCS的光電混合組網方案成為業界關注的焦點。
曹世偉還提到,隨著大模型訓練對算力需求的增長,GPU集群也再朝著更大規模方向演進。由于單DC的規模受供電等諸多因素的限制,因此通過跨AZ、Region的多集群聯合訓練也將成為必然。IPoDWDM相比于傳統方案,其跨機房鏈路的轉換減少50%,同時節省了電層設備,在時延、功耗、成本方面收益明顯。
最后總結提到,AI訓練對網絡的訴求:超大規饃超高帶寬、超低時延、超高穩定性;而基于大矩陣OCS的混合光電組網可以擴大GPU集群規模、提升交付效率,小矩陣OCS可以實現交換機保護,實現網絡故障的快速自動恢復;單集群建設規模受限,未來會期待更多集群聯合訓練模式演進;距離更短、頻譜效率高、低成本的IPoDWDM方案更具優勢;城域全光網及全自研的管控平臺助力實現更高效、更穩定、更智能化的機房互聯。
蘇展 銳捷網絡光系統工程師
銳捷網絡股份有限公司光系統工程師蘇展發表了主題為 《AI場景短距和超短距光互連發展趨勢分析和展望》的演講。
蘇展開篇介紹了業內通用短/中/長距光互聯的情況,即隨波特率送代升級:單模相干方案下沉擠壓單模IMDD方案;單模IMDD方案下沉擠壓多模VCSEL短距互聯應用;多模VCSEL光方案下沉擠壓電纜超短距互聯應用;從而總結出光方案下沉的整體趨勢,并詳細分析了光電互聯邊界。
接下來,蘇展提到AI系統對光互聯提出低成本、低功耗、低延時、高可靠性和高密度幾大需求背景下,短距光互聯的幾大挑戰:多模產業鏈滯后效應、多模近封裝系統可靠性、單模共封裝方案面板密度;而且在光電聯合設計的章節中提到,LPO投入產出比隨速率演進下降問題和多模及單模WDM的LPO隨速率演進傳輸距離壓縮問題,最后得出線性架構未來向板內發展的趨勢性結論。
最后,蘇展介紹了224G VCSEL Linear 10m超短距傳輸提案和與硅光CPO配合的直通可插拔AOC提案。
侯康 華為海思光電資深產品規劃經理
華為海思光電資深產品規劃經理侯康發表了主題為《AI場景光互聯技術方案選擇與挑戰》的演講。
侯康提到,隨著AI蓬勃發展,算力網絡中的高速互聯成為提升算力的關鍵,而超大規模計算集群互聯即是AI算力提升的重要方向,也是提升系統集群算力的關鍵一環。同時還提到算力需求引領光互聯邁向Beyond 400G時代,國內以400G為主,800G主要需求來自海外;1.6T還只是在預熱。另外“更高更快更多通道”是光模塊實現大帶寬的關鍵技術路徑,在低功耗、低時延上,LPO具備相對優勢,但持續演進仍有待討論。
董建績 華中科技大學教授
華中科技大學教授董建績發表了主題為《光電計算芯片與人工智能應用》的演講。
董老師提到,隨著人工智能技術的飛速發展和廣泛應用,光計算和光子集成技術、人工智能技術相結合有望解決傳統電學計算無法解決的難題,產生顛覆性和變革性技術和應用。董老師從學術界角度聚焦討論可重構光子神經網絡芯片,可重構MZI光學矩陣運算、可重構片上衍射神經網絡、可重構微環陣列光學矩陣運算等三類典型的計算架構,及其在人工智能領域的應用。最后董老師提到光計算的核心是算力、能耗、精度、集成度、非線性等。
胡善亭 北京理工大學副研究員
北京理工大學副研究員胡善亭發表了主題為《面向算力網絡Tbit光互連技術的超高速直接調制VCSEL研究》的演講。
胡老師提到研究下一代Tbit光互連技術,對我國構筑高品質算力網絡全光底座、促進數字經濟和智能社會的持續發展具有重要意義。而超高速直接調制VCSEL技術,是實現低成本、高能效、大容量光互連的重要解決方案,既是國內外光電子領域的研究熱點,也是我國亟待攻克的關鍵卡脖子技術之一。胡老師主要分析了VCSEL因其固有的優勢,在數通領域大放光彩的過往。并介紹了課題組在VCSEL調制帶寬及能耗方面取得的研究結果。
觀眾提問
分論壇1現場
總 結
AI大規模集群帶來更多的光互連需求,面對下一代短距光互聯技術,高性能、低時延、大容量和高密度已成為行業關注的共識。此外,AI訓練和推理對集群存在差異化需求,催化新的基礎設施建設,光互聯將迎來長期增長機遇。