博通推首款102.4Tbps超級(jí)芯片Tomahawk 6！單芯驅(qū)動(dòng)10萬(wàn)張GPU

博通宣布推出最新一代數(shù)據(jù)中心交換機(jī)芯片Tomahawk 6，這也是全球首款單芯片交換容量達(dá)102.4Tbps的芯片。

這一芯片的性能較現(xiàn)有以太網(wǎng)交換機(jī)翻倍，專(zhuān)為AI時(shí)代設(shè)計(jì)，可支持超大規(guī)模GPU集群的互聯(lián)需求，單顆芯片即可驅(qū)動(dòng)10萬(wàn)張GPU協(xié)同工作。

Tomahawk 6的帶寬理論峰值達(dá)102Tbps，相當(dāng)于每秒處理2.5萬(wàn)部4K電影，較前代Tomahawk 5芯片實(shí)現(xiàn)6倍吞吐能力提升。

其架構(gòu)支持100G/200G SerDes接口及共封裝光學(xué)模塊（CPO），兼容超大規(guī)模AI網(wǎng)絡(luò)運(yùn)營(yíng)商的定制化需求。

博通核心交換業(yè)務(wù)高級(jí)副總裁Ram Velaga表示，當(dāng)前AI計(jì)算依賴(lài)GPU集群，但網(wǎng)絡(luò)傳輸效率不足導(dǎo)致GPU利用率普遍低于40%。

Tomahawk 6通過(guò)消除數(shù)據(jù)傳輸瓶頸，使GPU集群的實(shí)際算力釋放效率提升至90%以上，為萬(wàn)億參數(shù)大模型的訓(xùn)練與推理提供基礎(chǔ)支撐。

Tomahawk 6的推出不僅提升了AI計(jì)算效率，還降低了AI訓(xùn)練成本，盡管制造成本較前代翻倍，但博通計(jì)劃將芯片售價(jià)控制在2萬(wàn)美元以下，并提供批量采購(gòu)折扣。

分析機(jī)構(gòu)指出，Tomahawk 6的推出或使AI訓(xùn)練成本降低30%-40%，此外博通計(jì)劃于2025年下半年推出升級(jí)版Tomahawk 6 3nm芯片，進(jìn)一步優(yōu)化能效比。