技術(shù)
導(dǎo)讀:無(wú)問(wèn)芯穹在世界人工智能大會(huì) AI 基礎(chǔ)設(shè)施論壇上發(fā)布了無(wú)問(wèn)芯穹大規(guī)模模型的異構(gòu)分布式混合訓(xùn)練系統(tǒng),稱千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達(dá)到了 97.6%。
7 月 5 日消息,無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人兼 CEO 夏立雪在世界人工智能大會(huì) AI 基礎(chǔ)設(shè)施論壇上發(fā)布了無(wú)問(wèn)芯穹大規(guī)模模型的異構(gòu)分布式混合訓(xùn)練系統(tǒng),稱千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達(dá)到了 97.6%。
夏立雪還宣布無(wú)問(wèn)芯穹 Infini-AI 云平臺(tái)已集成大模型異構(gòu)千卡混訓(xùn)能力,是全球首個(gè)可進(jìn)行單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練的平臺(tái),具備萬(wàn)卡擴(kuò)展性,支持包括 AMD、華為昇騰、天數(shù)智芯、沐曦、摩爾線程、英偉達(dá)六種異構(gòu)芯片在內(nèi)的大模型混合訓(xùn)練。
無(wú)問(wèn)芯穹表示:打開(kāi)水龍頭前,我們不需要知道水是從哪條河里來(lái)的。同理,未來(lái)我們用各種 AI 應(yīng)用時(shí),也不會(huì)知道它調(diào)用了哪些基座模型,用到了哪種加速卡的算力 ——這就是最好的 AI Native 基礎(chǔ)設(shè)施。
據(jù)IT之家此前報(bào)道,無(wú)問(wèn)芯穹與摩爾線程在 5 月聯(lián)合宣布,雙方已經(jīng)正式完成基于國(guó)產(chǎn)全功能 GPU千卡集群的 3B 規(guī)模大模型“MT-infini-3B”實(shí)訓(xùn),性能在同規(guī)模模型中躋身前列。