4月14日消息,今日,騰訊云發(fā)布面向大模型訓(xùn)練的新一代HCC(High-Performance Computing Cluster)高性能計(jì)算集群。實(shí)測(cè)顯示,該集群的算力性能較前代提升高達(dá)3倍,據(jù)稱是目前國(guó)內(nèi)性能最強(qiáng)的大模型計(jì)算集群。
該集群采用最新一代騰訊云星星海自研服務(wù)器,搭載英偉達(dá)最新代次H800 Tensor Core GPU,屬于國(guó)內(nèi)首發(fā)。服務(wù)器之間采用業(yè)界最高的3.2T超高互聯(lián)帶寬,可以為大模型訓(xùn)練、自動(dòng)駕駛、科學(xué)計(jì)算等提供高性能、高帶寬和低延遲的集群算力。
2022年10月,騰訊完成首個(gè)萬(wàn)億參數(shù)AI大模型訓(xùn)練,在同等數(shù)據(jù)集下將混元NLP大模型的訓(xùn)練時(shí)間由50天縮短到11天。如果基于新一代集群,訓(xùn)練時(shí)間將進(jìn)一步縮短至4天。
{{item.content}}