首批GB300NVL72服務(wù)器機(jī)架將在美國組裝和部署。
美國CoreWeave公司在官網(wǎng)宣布,已經(jīng)收到了市場上首個(gè)基于最新高端芯片的人工智能服務(wù)器系統(tǒng)。該系統(tǒng)由戴爾科技制造,首批GB300NVL72服務(wù)器機(jī)架將在美國組裝和部署。戴爾發(fā)布聲明稱,CoreWeave獲得的GB300NVL72服務(wù)器機(jī)架代表了英偉達(dá)最新一代AI芯片技術(shù)。
CoreWeave成立于2017年,專注于通過云端提供大規(guī)模圖形處理單元(GPU)服務(wù)。隨著全球?qū)I算力需求的急劇上升,CoreWeave已成為初創(chuàng)企業(yè)及成熟機(jī)構(gòu)獲取高性能計(jì)算資源的關(guān)鍵通道。
本次部署的系統(tǒng)采用戴爾液冷服務(wù)器,內(nèi)建72個(gè)英偉達(dá)BlackwellUltraGPU和36個(gè)基于Arm架構(gòu)的英偉達(dá)GraceCPU。CoreWeave計(jì)劃在今年內(nèi)持續(xù)擴(kuò)大BlackwellUltra服務(wù)器的部署規(guī)模,以滿足客戶不斷增長的AI計(jì)算需求。
CoreWeave聯(lián)合創(chuàng)始人兼首席技術(shù)官PeterSalanki表示:“我們自豪能夠率先大規(guī)模運(yùn)營這一變革性平臺(tái),并將其交付到AI創(chuàng)新者手中,助力他們構(gòu)建下一代人工智能應(yīng)用?!?/p>
戴爾基礎(chǔ)設(shè)施解決方案集團(tuán)總裁ArthurLewis表示:“今天我們邁出企業(yè)AI發(fā)展的又一重要一步,成為首個(gè)交付英偉達(dá)GB300NVL72系統(tǒng)的廠商。這也彰顯了戴爾始終致力于為各行業(yè)提供尖端技術(shù),助力客戶快速擴(kuò)展創(chuàng)新能力的承諾?!?/p>
GB300NVL72的相關(guān)配置
據(jù)CoreWeave介紹,搭載BlackwellUltraGPU的GB300NVL72相比上一代Hopper架構(gòu),在AI推理工作負(fù)載方面實(shí)現(xiàn)了顯著突破。用戶的響應(yīng)時(shí)間可縮短至原來的十分之一,同時(shí)單位功耗下的吞吐量提升了5倍。這意味著AI模型在執(zhí)行復(fù)雜任務(wù)時(shí),不僅速度更快,還能實(shí)現(xiàn)更高的能源效率。
此外,新系統(tǒng)將支持更大規(guī)模、更復(fù)雜的AI模型部署,推理輸出能力可提升高達(dá)50倍,極大推動(dòng)了生成式AI、自然語言處理等領(lǐng)域的創(chuàng)新發(fā)展。
除了強(qiáng)大的計(jì)算能力,戴爾還為CoreWeave提供了液冷式集成機(jī)架擴(kuò)展系統(tǒng),搭載PowerEdgeXE9712服務(wù)器,配備72個(gè)BlackwellUltraGPU和36個(gè)基于Arm架構(gòu)的GraceCPU。這種高密度、低能耗的設(shè)計(jì),不僅提升了整體算力水平,也體現(xiàn)了未來數(shù)據(jù)中心向綠色高效方向發(fā)展的趨勢。
CoreWeave與英偉達(dá)的緊密合作
眾所周知,CoreWeave與英偉達(dá)的合作是十分緊密的,雙方通過投資、供應(yīng)和反向租賃等方式構(gòu)建了“親子關(guān)系”。
憑借緊密合作的關(guān)系,CoreWeave并且總是能率先獲得英偉達(dá)的先進(jìn)芯片。而合作的另一方面,英偉達(dá)會(huì)反向租用CoreWeave的服務(wù)器進(jìn)行內(nèi)部研發(fā),這些服務(wù)器支持英偉達(dá)的DGX云計(jì)算服務(wù)。最關(guān)鍵的是,英偉達(dá)擔(dān)心過度依賴AWS和微軟等正在開發(fā)自有AI芯片的大型云服務(wù)提供商,而CoreWeave這個(gè)合作伙伴恰好可以解決這個(gè)煩惱,并幫助其擴(kuò)大市場。
2023年,CoreWeave從英偉達(dá)采購了價(jià)值3.8億美元的芯片和硬件,預(yù)計(jì)今年這一數(shù)字將大幅增長。此前CoreWeave預(yù)計(jì)到2024年底將擁有約24萬顆英偉達(dá)芯片,還預(yù)測到今年年底這一數(shù)字將翻倍,包括更多H200芯片和10萬多顆最新的Blackwell芯片。
目前CoreWeave擁有33個(gè)數(shù)據(jù)中心,約420兆瓦的活躍電力和約1.6吉瓦的簽約電力。
*聲明:本文系原作者創(chuàng)作。文章內(nèi)容系其個(gè)人觀點(diǎn),我方轉(zhuǎn)載僅為分享與討論,不代表我方贊成或認(rèn)同,如有異議,請(qǐng)聯(lián)系后臺(tái)。
想要獲取半導(dǎo)體產(chǎn)業(yè)的前沿洞見、技術(shù)速遞、趨勢解析,關(guān)注我們!
《亮劍》中的名場面:一炮擊斃坂田聯(lián)隊(duì)長出自現(xiàn)實(shí)中哪一場戰(zhàn)役?
《亮劍》中李云龍的第一戰(zhàn),用這一招贏了坂田聯(lián)隊(duì)
面對(duì)日軍坂田聯(lián)隊(duì)猛攻,李云龍為什么一定要打反擊?