技術(shù)
導(dǎo)讀:中國(guó)電信中部智算中心在武漢東湖新技術(shù)開(kāi)發(fā)區(qū)(光谷)舉行正式投入運(yùn)營(yíng)。
1 月 27 日消息,中國(guó)電信中部智算中心在武漢東湖新技術(shù)開(kāi)發(fā)區(qū)(光谷)舉行正式投入運(yùn)營(yíng)。中國(guó)電信專家介紹,該智算中心的算力、安全、環(huán)保及擴(kuò)展性均達(dá)到一流水平,目前在中部地區(qū)屬于最高等級(jí)。
IT之家注意到,中國(guó)電信中部智算中心建設(shè)先進(jìn)自主液冷智算集群,首次采用基于國(guó)產(chǎn) AI 基礎(chǔ)軟硬件平臺(tái)的方案架構(gòu),實(shí)現(xiàn)算、存、網(wǎng)、電、熱整體設(shè)計(jì)。通過(guò)獨(dú)特的嵌入式液冷單元,盲插總線架構(gòu),實(shí)現(xiàn)液冷到芯片,液冷到服務(wù)器,液冷到機(jī)柜,全場(chǎng)景 PUE≤1.15,在達(dá)到業(yè)內(nèi)一流綠色節(jié)能環(huán)保水平的同時(shí),可支持部署萬(wàn)億參數(shù)大模型。
中國(guó)電信在全國(guó)構(gòu)建了多點(diǎn)智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云驍一體化算力平臺(tái),提供高性能、高顯存、高兼容性的主流大模型訓(xùn)練、訓(xùn)推一體算力和國(guó)產(chǎn)自研架構(gòu)的液冷高性能算力,可滿足多場(chǎng)景算力需求。
中部智算中心可提供千卡規(guī)模的訓(xùn)練推理能力,并支持主流框架及芯片,基于訓(xùn)練推理的混合調(diào)度能力,資源利用率可以提升 20%。基于高性能的基礎(chǔ)設(shè)施和一系列的優(yōu)化技術(shù),在千卡模型下并行計(jì)算效率可以達(dá)到 80%。