《電子技術應用》
您所在的位置:首頁 > 通信與網絡 > 業界動態 > 騰訊發布高性能計算網絡星脈網絡2.0

騰訊發布高性能計算網絡星脈網絡2.0

大模型訓練效率相比上代提升20%
2024-07-02
來源:IT之家

7 月 2 日消息,騰訊昨日發布其自研星脈網絡 2.0 版本,升級后的星脈網絡支持單集群 10 萬卡組網,網絡通信效率比上一代提升 60%,大模型訓練效率提升 20%,故障定位從天級降低至分鐘級。

騰訊自研交換機從 25.6T 升級到 51.2T,容量提升一倍;自研硅光模塊從 200G 升級到 400G,速率提升一倍;搭載自研算力網卡;整機通信帶寬 3.2T,為業界最高。

騰訊自研全新通信協議 TiTa2.0 的部署位置從交換機轉移到了網卡上,擁塞算法也從被動擁塞算法升級為主動擁塞控制算法,將星脈網絡的通信效率提升 30%,讓大模型的訓練效率提升 10%。

騰訊全新高性能集合通信庫 TCCL2.0 采用 NVLINK+NET 異構并行通信,實現數據的并行傳輸。Auto-Tune Network Expert 自適應算法可以根據機型、網絡規模、模型算法等差異,自動調整數據包分割大小、匹配算法等參數。星脈網絡通信性能提升 30%,讓大模型的訓練效率再提升 10%。

0.jpg

▲ 數據的并行傳輸(騰訊云)

TiTa 與 TCCL 升級帶來的效果疊加,讓星脈網絡的通信效率共提升 60%,大模型訓練效率共提升 20%

Magazine.Subscription.jpg

本站內容除特別聲明的原創文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯系電話:010-82306118;郵箱:[email protected]
主站蜘蛛池模板: 美国一级大黄香蕉片 | 99午夜高清在线视频在观看 | 亚洲福利精品一区二区三区 | 日韩专区欧美 | 精品国产亚洲一区二区三区 | 日本黄色毛片 | 精品一区二区三区免费毛片爱 | 草在线视频 | 五月桃花网婷婷亚洲综合 | 国产高清在线精品 | 女人张腿让男桶免费视频网站 | 亚洲国产精品久久卡一 | 日韩国产午夜一区二区三区 | 日韩欧美综合在线二区三区 | 国产成人综合欧美精品久久 | 国产成人精品免费视频大全可播放的 | 亚洲专区视频 | 日韩高清在线播放不卡 | 久久爱wwwww 久久爱www成人 | 国产人成亚洲第一网站在线播放 | 色婷婷久久综合中文久久蜜桃 | 曰本女人色黄网站 | 亚洲干综合 | 亚洲资源在线 | 欧美综合视频在线 | 亚洲精品国产精品国自产 | 日韩三级在线观看 | 欧美日韩在线视频不卡一区二区三区 | 在线观看国产一区二区三区 | 国内精品a| 亚洲一区二区三区久久久久 | 亚洲天堂网在线观看 | 在线欧美精品二区三区 | 大尺度福利视频在线观看网址 | 中文字幕一区二区在线观看 | 国产浮力第一页草草影院 | 美女在线看永久免费网址 | 欧美成人在线视频 | 精品毛片 | 乱淫毛片 | 国产在线精品成人一区二区三区 |