面向大模型訓練,騰訊釋出超強算力叢集!

首頁 > 科技

面向大模型訓練,騰訊釋出超強算力叢集!

來源:養生知多少 釋出時間:2023-04-14 15:02

請看標題。

這個海內超強算力叢集,就是騰訊雲新發布的面向大模型練習的新一代HCC(High-Performance Computing Cluster)高效能計算叢集,整體效能比過去晉升了3倍。

它搭載了NVIDIA H800 Tensor Core GPU,能夠提供高效能、高頻寬、低延遲的智算能力支撐。

當前大熱的人工智慧大模型練習,離不開高效能的算力叢集。我們很興奮第一時間跟你分享這個好訊息。

一般運算,由運算卡(晶片)來完成。

但碰到海量運算,單塊晶片無力支撐,就要將成千上萬臺伺服器,透過網路聯結,組成大型的算力叢集,同心合力,更高更強。

一個人工智慧大模型,通常得用數萬億個單詞練習,引數目也“飆升”到了上萬億。這個時候,只有高效能的計算叢集能hold住。

算力叢集的“強”,由單機算力、網路、儲存共同決定。就像一個牢固的木桶,缺一不可。

騰訊雲新一代叢集透過對單機算力網路架構儲存機能進行協同最佳化,能夠為大模型練習提供高效能、高頻寬、低延遲的智算能力支撐。

總體來說,有以下幾個特點:

計算方面,機能強——

在單點算力機能最大最佳化的基礎上,我們還將不同種類的晶片組合起來,GPU+CPU,讓每塊晶片去最恰當的地方,做最擅長的事情。

網路方面,頻寬足——

GPU擅長平行計算,一次可以做多個任務。我們的自研星脈高效能網路,讓成千上萬的GPU之間互相“通氣”,資訊傳遞又快又不堵車,打一場漂亮的配合戰,大模型叢集練習效率晉升了20%。

儲存方面,讀取快——

練習大模型時,幾千臺伺服器會同時讀取一批資料集,假如載入時間過長,也會成為木桶的短板。我們的最新自研儲存架構,將資料分類放進不同“容器”,用作不同的場景,讀取更快更高效。

跟著算力需求的陡增,自己採購GPU的價格昂貴,甚至有錢也買不到,給創業企業、中小企業帶來很大壓力。我們的新一代HCC叢集,能夠匡助在雲上練習大模型,但願緩解他們的壓力。

我們有練習框架AngelPTM,對內支援了騰訊混元大模型的練習,也已透過騰訊雲對外提供服務。它在去年10月,完成了首個萬億引數大模型練習,並將練習時間縮短80%。

我們的TI平臺(一站式機器學習平臺)擁有大模型能力和工具箱,能匡助企業根據詳細場景,進行精調練習,晉升出產效率,快速建立和部署 AI 應用。

我們的自研晶片已經量產,包括用於AI推理的紫霄晶片。它採用自研存算架構和自研加速模組,可以提供高達3倍的計算加速機能和超過45%的整體本錢節省。

總體而言,我們正以新一代HCC為標誌,基於自研晶片、自研伺服器等方式,軟硬一體,打造面向AIGC的高效能智算網路,持續加速全社會雲上立異。

未來你但願算力來做什麼?我們留言區見。

請看標題。

這個海內超強算力叢集,就是騰訊雲新發布的面向大模型練習的新一代HCC(High-Performance Computing Cluster)高效能計算叢集,整體效能比過去晉升了3倍。

它搭載了NVIDIA H800 Tensor Core GPU,能夠提供高效能、高頻寬、低延遲的智算能力支撐。

當前大熱的人工智慧大模型練習,離不開高效能的算力叢集。我們很興奮第一時間跟你分享這個好訊息。

上一篇:積體電路產業... 下一篇:交通銀行信用...
猜你喜歡
熱門閱讀
同類推薦