IT之家7月28日消息,2025世界人工智能大會(huì)(WAIC)于7月26日在上海世博中心啟幕。本次WAIC,華為首次線下展出昇騰384超節(jié)點(diǎn)Atlas900A3SuperPoD,該產(chǎn)品基于超節(jié)點(diǎn)架構(gòu),通過總線技術(shù)實(shí)現(xiàn)384個(gè)NPU之間的大帶寬低時(shí)延互聯(lián),解決集群內(nèi)計(jì)算、存儲(chǔ)等各資源之間的通信瓶頸。
據(jù)華為中國官方消息,昇騰384超節(jié)點(diǎn)Atlas900SuperPoD被評(píng)選為本次WAIC2025鎮(zhèn)館之寶,其主要有以下3大優(yōu)勢(shì):
①超大帶寬超節(jié)點(diǎn)內(nèi)任意兩個(gè)AI處理器之間通信帶寬,相較于傳統(tǒng)架構(gòu)提升15倍,超節(jié)點(diǎn)內(nèi)單跳時(shí)延降低10倍。②超低時(shí)延昇騰超節(jié)點(diǎn)支持全局內(nèi)存統(tǒng)一編址,具備更高效的內(nèi)存語義通信能力。通過更低時(shí)延指令級(jí)內(nèi)存語義通信,可滿足大模型訓(xùn)練/推理中的小包通信需求,提升專家網(wǎng)絡(luò)小包數(shù)據(jù)傳輸及離散隨機(jī)訪存通信效率。昇騰384超節(jié)點(diǎn)Atlas900SuperPoD是業(yè)界唯一突破Decode時(shí)延15ms的方案,滿足實(shí)時(shí)深度思考下的用戶體驗(yàn)需求。③超強(qiáng)性能經(jīng)過實(shí)際測(cè)試,在昇騰超節(jié)點(diǎn)集群上,LLaMA3等千億稠密模型訓(xùn)練性能可達(dá)傳統(tǒng)集群的2.5倍以上。在通信占比更高的Qwen、DeepSeek等多模態(tài)、MoE模型上,可以達(dá)到3倍以上的提升。
據(jù)IT之家此前報(bào)道,在今年5月的鯤鵬昇騰開發(fā)者大會(huì)上,華為推出了昇騰超節(jié)點(diǎn),成功實(shí)現(xiàn)業(yè)界最大規(guī)模的384卡高速總線互聯(lián)。昇騰超節(jié)點(diǎn)具備超大帶寬、超低時(shí)延、超強(qiáng)性能的三大優(yōu)勢(shì),包括多款訓(xùn)練和推理產(chǎn)品,基于超節(jié)點(diǎn)創(chuàng)新架構(gòu),更好地滿足模型訓(xùn)練和推理對(duì)低時(shí)延,大帶寬,長(zhǎng)穩(wěn)可靠的要求。
華為官方透露,目前業(yè)界已基于昇騰適配和開發(fā)超過80個(gè)大模型,在基礎(chǔ)大模型方面多個(gè)技術(shù)方向均有積累,如訊飛星火認(rèn)知、DeepSeek、Qwen、鵬城、LLaMA等。同時(shí),昇騰聯(lián)合2700+行業(yè)合作伙伴,共同孵化了超過6000+個(gè)行業(yè)解決方案。
華為本次展區(qū)面積超過800平方米,IT之家注意到,除了展示昇騰軟硬件能力,訓(xùn)練、推理解決方案和開源開放的軟硬件生態(tài),華為還攜手伙伴共同展示互聯(lián)網(wǎng)、運(yùn)營商、金融、政務(wù)、醫(yī)療、油氣、交通等11大行業(yè)解決方案實(shí)踐。
免責(zé)聲明:本文內(nèi)容由開放的智能模型自動(dòng)生成,僅供參考。