近日,紫光股份旗下新華三集團(tuán)以“算力×聯(lián)接”為技術(shù)基石,重磅發(fā)布全新H3C UniPoD系列超節(jié)點(diǎn)產(chǎn)品,基于領(lǐng)先的Scale-up南向互聯(lián)技術(shù),UniPoD可實(shí)現(xiàn)單機(jī)柜最高64卡GPU間的高速互聯(lián)互通,為萬(wàn)億級(jí)參數(shù)大模型訓(xùn)練及推理提供更強(qiáng)勁、更智能、更綠色的算力供給。超節(jié)點(diǎn)技術(shù)的商用化落地將帶來(lái)模型訓(xùn)推效率的又一次躍升,從而加速AI技術(shù)在百行百業(yè)的效能釋放。
南向互聯(lián)多技術(shù)路線 突破單卡計(jì)算性能瓶頸
以DeepSeek為代表的MoE大模型的持續(xù)火爆,加速了新一輪的“AI軍備競(jìng)賽”,大模型已經(jīng)進(jìn)入“萬(wàn)億級(jí)”時(shí)代。動(dòng)輒數(shù)百GB數(shù)據(jù)的并發(fā)互轉(zhuǎn)與傳輸,使得AI加速卡之間進(jìn)行數(shù)據(jù)交換的頻度已遠(yuǎn)超傳統(tǒng)需求。然而,在此背景下,傳統(tǒng)的計(jì)算架構(gòu)和“摩爾定律”已經(jīng)失靈,單卡計(jì)算性能已觸摸到天花板,單機(jī)的GPU互聯(lián)以及機(jī)間的Scale-out橫向擴(kuò)展也已經(jīng)無(wú)法實(shí)現(xiàn)高帶寬、低時(shí)延與高可靠的集群網(wǎng)絡(luò)聯(lián)接能力,因此依靠Scale-up網(wǎng)絡(luò)實(shí)現(xiàn)多卡南向互聯(lián),打造超節(jié)點(diǎn)產(chǎn)品,成為當(dāng)下避免GPU空閑、縮短任務(wù)完成時(shí)間的最佳選擇。面對(duì)當(dāng)前百花齊放的多元算力生態(tài),新華三基于自身在網(wǎng)絡(luò)聯(lián)接領(lǐng)域的深厚積累,結(jié)合不同品牌GPU的性能與架構(gòu)特點(diǎn),開(kāi)發(fā)了基于以太協(xié)議和PCIe協(xié)議的雙技術(shù)路線超節(jié)點(diǎn)產(chǎn)品,可實(shí)現(xiàn)單機(jī)柜最高64卡的全互聯(lián)互通,從而大幅提升單節(jié)點(diǎn)計(jì)算效能,打造萬(wàn)億級(jí)參數(shù)大模型訓(xùn)推的強(qiáng)勁算力引擎。
多元開(kāi)放 以超節(jié)點(diǎn)極致典范加速AI技術(shù)躍遷
本次發(fā)布的H3C UniPoD超節(jié)點(diǎn)產(chǎn)品以算力芯片多元化、互聯(lián)協(xié)議標(biāo)準(zhǔn)化、基礎(chǔ)設(shè)施集成化為核心設(shè)計(jì)理念,主要涵蓋H3C UniPoD S80000和H3C UniPoD F80000兩個(gè)子產(chǎn)品系列,基于不同協(xié)議路線,將為不同規(guī)模參數(shù)的模型訓(xùn)練、推理和精調(diào)提供有針對(duì)性地算力支撐。
作為面向萬(wàn)億級(jí)參數(shù)模型訓(xùn)推場(chǎng)景的超節(jié)點(diǎn)產(chǎn)品,H3C UniPoD S80000實(shí)現(xiàn)了更高性能、更高密度、更高效率的三重進(jìn)化。面對(duì)客戶(hù)追求極致性能的需求,H3C UniPoD S80000以網(wǎng)強(qiáng)算,全面釋放算力矩陣動(dòng)能,柜內(nèi)卡間全互聯(lián)通信,互聯(lián)帶寬提升8倍,單機(jī)柜訓(xùn)練性能相較于單節(jié)點(diǎn)最高可提升10倍,單卡推理效率提升13倍。密度方面,H3C UniPoD S80000單柜支持部署64卡,采用液冷方式散熱整柜功率可支持到120KW,同時(shí)兼容下一代高性能AI加速卡。此外,三總線全盲插、全面的漏液檢測(cè)等方面的設(shè)計(jì),也極大簡(jiǎn)化了運(yùn)維流程、提升能效產(chǎn)出。
H3C UniPoDS80000
依托全國(guó)產(chǎn)算力平臺(tái), H3C UniPoD F80000采用創(chuàng)新的PCIe光互聯(lián)技術(shù),突破單機(jī)板內(nèi)走線限制,實(shí)現(xiàn)了64張AI加速卡的高速互聯(lián),將卡間帶寬大幅提升至576GB/s,實(shí)現(xiàn)模型訓(xùn)練性能提升35%以上?;陟`活開(kāi)放的產(chǎn)品理念,H3C UniPoD F80000支持基于不同形態(tài)的AI服務(wù)器及AI加速卡靈活構(gòu)建超節(jié)點(diǎn)產(chǎn)品,支持按需定義產(chǎn)品拓?fù)?6/32/64卡,實(shí)現(xiàn)靈活按需交付。
H3C UniPoD F80000
在破解“AI算力焦慮”的同時(shí),新華三超節(jié)點(diǎn)UniPoD系列還以一體化的交付和一站式的服務(wù),提升用戶(hù)使用體驗(yàn)。通過(guò)與上層的AI業(yè)務(wù)平臺(tái)之間進(jìn)行軟硬協(xié)同優(yōu)化,以及數(shù)十種編排組件的高效搭載,實(shí)現(xiàn)訓(xùn)推效率提升20%和分鐘級(jí)的AI應(yīng)用構(gòu)建;以端到端的軟硬一體化交付能力,實(shí)現(xiàn)AI能力一站式落地。
從AIGC走向AGI,新華三將持續(xù)深化“算力×聯(lián)接”能力,實(shí)現(xiàn)關(guān)鍵技術(shù)突破和工程化創(chuàng)新。面向未來(lái),新華三將積極擁抱時(shí)代變革,全面構(gòu)建多元開(kāi)放、持續(xù)進(jìn)化、AI就緒、強(qiáng)勁穩(wěn)定的算力基礎(chǔ)設(shè)施,加速百行百業(yè)智慧躍遷。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )