《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 業界動態 > 騰訊發布高性能計算網絡星脈網絡2.0

騰訊發布高性能計算網絡星脈網絡2.0

大模型訓練效率相比上代提升20%
2024-07-02
來源:IT之家

7 月 2 日消息,騰訊昨日發布其自研星脈網絡 2.0 版本,升級后的星脈網絡支持單集群 10 萬卡組網,網絡通信效率比上一代提升 60%,大模型訓練效率提升 20%,故障定位從天級降低至分鐘級。

騰訊自研交換機從 25.6T 升級到 51.2T,容量提升一倍;自研硅光模塊從 200G 升級到 400G,速率提升一倍;搭載自研算力網卡;整機通信帶寬 3.2T,為業界最高。

騰訊自研全新通信協議 TiTa2.0 的部署位置從交換機轉移到了網卡上,擁塞算法也從被動擁塞算法升級為主動擁塞控制算法,將星脈網絡的通信效率提升 30%,讓大模型的訓練效率提升 10%。

騰訊全新高性能集合通信庫 TCCL2.0 采用 NVLINK+NET 異構并行通信,實現數據的并行傳輸。Auto-Tune Network Expert 自適應算法可以根據機型、網絡規模、模型算法等差異,自動調整數據包分割大小、匹配算法等參數。星脈網絡通信性能提升 30%,讓大模型的訓練效率再提升 10%。

0.jpg

▲ 數據的并行傳輸(騰訊云)

TiTa 與 TCCL 升級帶來的效果疊加,讓星脈網絡的通信效率共提升 60%,大模型訓練效率共提升 20%

Magazine.Subscription.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:aet@chinaaet.com。
主站蜘蛛池模板: 中国国语毛片免费观看视频 | 精品在线播放视频 | 成人国产精品视频 | 最近中文字幕精彩视频 | 国产四区 | 国产孕妇孕交视频在线观看 | 国产日韩欧美 | 国产系列在线 | 亚洲国产欧洲综合997久久 | 中文在线视频 | 欧美日韩中文一区二区三区 | 黄色三级在线 | 精品一区二区三区视频 | 亚洲视频在线a视频 | 中文字幕在线日韩 | 国产情侣久久精品 | 欧美一级视频免费观看 | 亚洲作爱视频 | 中文字幕免费在线视频 | 免费播放美女一级毛片 | swag国产精品一区二区 | 国产黄网 | 成人欧美日韩高清不卡 | 欧美一级片在线观看 | 国产系列在线播放 | 久久久99精品免费观看 | 一 级 黄 色 片生活片 | 国产大臿蕉香蕉大视频女 | 特级生活片 | 韩国a级毛片 | 国产一区二区三区四区波多野结衣 | 欧美日本国产 | 国产精品99r8在线观看 | 91久久青青草原免费 | 国产成人精品999在线观看 | 女人毛片a毛片久久人人 | 欧美一级片网 | 91精品福利手机国产在线 | 久草免费福利 | 亚洲图片一区二区 | 国产肥老妇视频一 |