應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

算力利用率達(dá) 97.6%,無(wú)問(wèn)芯穹發(fā)布全球首個(gè)單任務(wù)千卡異構(gòu)芯片混合訓(xùn)練平臺(tái)

2024-07-05 09:09 IT之家

導(dǎo)讀:無(wú)問(wèn)芯穹在世界人工智能大會(huì) AI 基礎(chǔ)設(shè)施論壇上發(fā)布了無(wú)問(wèn)芯穹大規(guī)模模型的異構(gòu)分布式混合訓(xùn)練系統(tǒng),稱(chēng)千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達(dá)到了 97.6%。

  7 月 5 日消息,無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人兼 CEO 夏立雪在世界人工智能大會(huì) AI 基礎(chǔ)設(shè)施論壇上發(fā)布了無(wú)問(wèn)芯穹大規(guī)模模型的異構(gòu)分布式混合訓(xùn)練系統(tǒng),稱(chēng)千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達(dá)到了 97.6%。

  夏立雪還宣布無(wú)問(wèn)芯穹 Infini-AI 云平臺(tái)已集成大模型異構(gòu)千卡混訓(xùn)能力,是全球首個(gè)可進(jìn)行單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練的平臺(tái),具備萬(wàn)卡擴(kuò)展性,支持包括 AMD、華為昇騰、天數(shù)智芯、沐曦、摩爾線程、英偉達(dá)六種異構(gòu)芯片在內(nèi)的大模型混合訓(xùn)練。

  無(wú)問(wèn)芯穹表示:打開(kāi)水龍頭前,我們不需要知道水是從哪條河里來(lái)的。同理,未來(lái)我們用各種 AI 應(yīng)用時(shí),也不會(huì)知道它調(diào)用了哪些基座模型,用到了哪種加速卡的算力 ——這就是最好的 AI Native 基礎(chǔ)設(shè)施。

  據(jù)IT之家此前報(bào)道,無(wú)問(wèn)芯穹與摩爾線程在 5 月聯(lián)合宣布,雙方已經(jīng)正式完成基于國(guó)產(chǎn)全功能 GPU千卡集群的 3B 規(guī)模大模型“MT-infini-3B”實(shí)訓(xùn),性能在同規(guī)模模型中躋身前列。