應用

技術

物聯(lián)網世界 >> 物聯(lián)網新聞 >> 物聯(lián)網熱點新聞
企業(yè)注冊個人注冊登錄

中國電信中部智算中心在武漢投運,支持部署萬億參數(shù)大模型

2024-01-29 09:20 IT之家

導讀:中國電信中部智算中心在武漢東湖新技術開發(fā)區(qū)(光谷)舉行正式投入運營。

  1 月 27 日消息,中國電信中部智算中心在武漢東湖新技術開發(fā)區(qū)(光谷)舉行正式投入運營。中國電信專家介紹,該智算中心的算力、安全、環(huán)保及擴展性均達到一流水平,目前在中部地區(qū)屬于最高等級。

image.png

  IT之家注意到,中國電信中部智算中心建設先進自主液冷智算集群,首次采用基于國產 AI 基礎軟硬件平臺的方案架構,實現(xiàn)算、存、網、電、熱整體設計。通過獨特的嵌入式液冷單元,盲插總線架構,實現(xiàn)液冷到芯片,液冷到服務器,液冷到機柜,全場景 PUE≤1.15,在達到業(yè)內一流綠色節(jié)能環(huán)保水平的同時,可支持部署萬億參數(shù)大模型。

  中國電信在全國構建了多點智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云驍一體化算力平臺,提供高性能、高顯存、高兼容性的主流大模型訓練、訓推一體算力和國產自研架構的液冷高性能算力,可滿足多場景算力需求。

  中部智算中心可提供千卡規(guī)模的訓練推理能力,并支持主流框架及芯片,基于訓練推理的混合調度能力,資源利用率可以提升 20%。基于高性能的基礎設施和一系列的優(yōu)化技術,在千卡模型下并行計算效率可以達到 80%。