博通推出Tomahawk 6 CPO交換器與Thor Ultra網路卡 打造新一代AI基礎設施

在AI浪潮持續推動資料中心架構革新之際,博通近期宣佈推出第三代共封裝光學 (CPO)網路交換器Tomahawk 6 「Davisson」,以及業界首款800G乙太網路卡「Thor Ultra」,爲下一代AI運算集羣提供更高效能的網路解決方案。而博通光學系統部門行銷與營運副總裁Manish Mehta與軟體暨生態系主管Hasan Siraj在與臺灣媒體交流時,更強調以「開放」形式推動AI基礎設施發展。

第三代CPO技術:Tomahawk 6 Davisson

博通光學系統部門副總裁Manish Mehta在簡報中表示,Tomahawk 6 Davisson是業界首款100T CPO乙太網路交換器,具備包含傳輸速率提升至200G/lane,總頻寬達102.4T,相比可插拔光學模組降低70%功耗等特性。

同時,Tomahawk 6 Davisson是基於前代產品驗證的可靠平臺,並且在Meta實際測試百萬設備運行小時中達成零鏈路抖動,強調其網路傳輸運作時的數據交換穩定性。

Manish Mehta強調,CPO技術的可靠性已獲得實證,而在Meta公開的測試數據顯示,CPO技術在維護效率方面比可插拔光學模組改善5倍,在24K GPU集羣中更可提升90%訓練效率。

革命性網路卡:Thor Ultra

博通核心交換部門軟體產品負責人Hasan Siraj介紹,Thor Ultra是專爲AI後端訓練設計的800G乙太網路卡,不僅成爲業界首款單一可達800G流量的網路卡,整體運作功耗更僅控制在50W,並且完全符合Ultra Ethernet Consortium (UEC) 1.0規範,支援封包級多路徑傳輸與亂序封包處理,另外更提供OCP 3.0與PCIe兩種規格,更可相容下一代PCIe Gen 6設計,意味能銜接未來網路傳輸架構佈署應用。

而Hasan Siraj更指出:傳統RDMA協議在面對數十萬XPU的大型集羣時面臨挑戰,Thor Ultra則可透過現代化技術解決多路徑傳輸、亂序處理等關鍵問題,藉此改善當前AI等龐大資料透過伺服器傳輸運算時可能因網路造成延滯、緩慢運作等情況。

完整AI網路解決方案

博通展示的整體解決方案顯示,結合Tomahawk 6交換器與Thor Ultra網路卡,可在兩層網路架構下支援高達128000個GPU的大型集羣,相比傳統三層架構能減少40%以上的功耗、延遲與光學元件使用量。

技術路線圖與產業合作

在問答環節中,博通高層不僅說明第四代400G/lane規格的CPO產品已經在開發階段,同時也表示與臺積電在COUPE矽光子平臺製程有密切合作關係,同時也在臺灣與鴻騰精密、臺達電等業者在連接器、機殼與先進封裝等領域深度合作。

另外,對於Intel不久前在OCP Summit活動上展示以NVIDIA NVLink Fusion形式,將其Xeon 6伺服器處理器、Gaudi 3加速器與NVIDIA的B200 GPU整合,其中更採用博通的Tomahawk 5 51.2Tb/s網路交換器晶片,博通則看好這樣的配置應用,認爲在市場趨於「開放」情況下,將能進一步推動AI基礎設施發展。

而針對OpenAI等公司在規模化乙太網路 (Scale-up Ethernet)合作架構,是否會對臺灣伺服器與網路硬體制造商帶來強制性技術升級要求,博通方面則表示OpenAI只是規模化乙太網路合作的12家發起公司之一,其他公司還包括Meta、微軟、甲骨文、思科、Arista、Juniper、博通、NVIDIA、AMD等,甚至還會有更多公司加入,並且提供意見,因此規格制定不會由單一廠商主導,因此臺灣供應鏈無需過度擔心因應問題。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》