《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 業界動態 > 騰訊發布高性能計算網絡星脈網絡2.0

騰訊發布高性能計算網絡星脈網絡2.0

大模型訓練效率相比上代提升20%
2024-07-02
來源:IT之家

7 月 2 日消息,騰訊昨日發布其自研星脈網絡 2.0 版本,升級后的星脈網絡支持單集群 10 萬卡組網,網絡通信效率比上一代提升 60%,大模型訓練效率提升 20%,故障定位從天級降低至分鐘級。

騰訊自研交換機從 25.6T 升級到 51.2T,容量提升一倍;自研硅光模塊從 200G 升級到 400G,速率提升一倍;搭載自研算力網卡;整機通信帶寬 3.2T,為業界最高。

騰訊自研全新通信協議 TiTa2.0 的部署位置從交換機轉移到了網卡上,擁塞算法也從被動擁塞算法升級為主動擁塞控制算法,將星脈網絡的通信效率提升 30%,讓大模型的訓練效率提升 10%。

騰訊全新高性能集合通信庫 TCCL2.0 采用 NVLINK+NET 異構并行通信,實現數據的并行傳輸。Auto-Tune Network Expert 自適應算法可以根據機型、網絡規模、模型算法等差異,自動調整數據包分割大小、匹配算法等參數。星脈網絡通信性能提升 30%,讓大模型的訓練效率再提升 10%。

0.jpg

▲ 數據的并行傳輸(騰訊云)

TiTa 與 TCCL 升級帶來的效果疊加,讓星脈網絡的通信效率共提升 60%,大模型訓練效率共提升 20%

Magazine.Subscription.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:[email protected]
主站蜘蛛池模板: 91精品福利手机国产在线 | 中文字幕在线观看一区二区 | 亚洲精品一二三 | 国产成人精品曰本亚洲78 | 亚洲永久中文字幕在线 | 亚洲成a人片在线看 | 日韩欧美一区二区三区不卡视频 | 国产精品女上位在线观看 | 日韩欧美一区二区在线 | 华人色 | 波多野结衣在线观看一区二区三区 | 久草欧美 | 国产丝袜不卡一区二区 | 亚洲精品中文字幕久久久久久 | 特级aaaaaaaaa毛片免费视频 | 日韩中文字幕视频在线 | 窝窝午夜看片七次郎青草视频 | 久久国产欧美日韩精品免费 | 在线视频亚洲一区 | 亚洲最大免费视频网 | 一级黄色香蕉视频 | 亚洲一区欧美一区 | 99精品一区二区免费视频 | 国产精品午夜波多野结衣性色 | 萌白酱喷水福利视频在线 | 夜色邦合成福利网站 | 欧美视频一区二区专区 | 欧美一级高清视频在线播放 | 亚洲乱码国产一区网址 | 国产成人夜间影院在线观看 | 久久久久久久久久久视频国内精品视频 | 国产一区二区在线不卡 | 日本欧美亚洲 | 99视频精品免视3 | 精品久久久久久综合日本 | 欧美一级精品 | 91无套极品外围在线播放 | 精品videosex性欧美 | 高清偷自拍第1页 | 亚洲精品天堂在线观看 | 高清在线精品一区二区 |