衡宇發(fā)自WAIC量子位|公眾號(hào)QbitAI
智能時(shí)代的尺度,在計(jì)算資源與智能效率的雙重牽引下正在極速壓縮、迅速蔓延。
兩年前,我們驚艷于幾千卡集群訓(xùn)練而成的GPT3.5;但今天,一部手機(jī)也可以裝下與它同等性能的小型AI了。
2025年WAIC上,無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪如此說道。
他還代表無問芯穹,帶來了AI落地這道難題的最新回答——
三個(gè)盒子,打通從十萬卡到一張卡的AI效能躍升路徑。
是的,僅僅是三個(gè)盒子。
在無問芯穹看來,這三個(gè)盒子背后,是一整套面向未來的智能基礎(chǔ)設(shè)施設(shè)計(jì)。
什么是三個(gè)盒子?
“三個(gè)盒子”其實(shí)是無問芯穹全規(guī)模AI效能躍升方案的三大核心產(chǎn)品:
大盒子:無穹AI云中盒子:無界智算平臺(tái)小盒子:無垠終端智能
這是一整套軟硬件協(xié)同系統(tǒng),專為未來智能基礎(chǔ)設(shè)施設(shè)計(jì),能覆蓋從云到端的各種規(guī)模場(chǎng)景,支持多種異構(gòu)算力,同時(shí)打通模型調(diào)度、性能優(yōu)化到應(yīng)用部署的全流程。
我們一個(gè)一個(gè)來看——
大盒子:無穹AI云
大盒子,即無問芯穹推出的無穹AI云,是面向萬卡至十萬卡級(jí)別的智算網(wǎng)絡(luò),為超大規(guī)模算力集群的利用提供了一個(gè)系統(tǒng)性的解決方案。
無穹AI云的底層是一張深度覆蓋全國(guó)的廣域算力網(wǎng),基于無問芯穹“一網(wǎng)三異”調(diào)度架構(gòu),目前已成功覆蓋“東數(shù)西算”國(guó)家戰(zhàn)略布局的關(guān)鍵節(jié)點(diǎn),匯聚了來自26個(gè)省市、53個(gè)核心數(shù)據(jù)中心的龐大算力資源,整合超15種主流芯片架構(gòu)的異構(gòu)算力池,總算力規(guī)模超25000P。
夏立雪表示:
無穹AI云不僅可以讓寶貴的算力資源實(shí)現(xiàn)最高效的流轉(zhuǎn)與利用,還能有效激活處于非理想狀態(tài)的算力資源,將其轉(zhuǎn)化為具備高穩(wěn)定性、高吞吐量與超低延遲的優(yōu)質(zhì)AI服務(wù)能力。
目前,無穹AI云提供高度標(biāo)準(zhǔn)化和開放化的接口,支持獨(dú)特的“平臺(tái)+自營(yíng)”運(yùn)營(yíng)模式——不僅向獨(dú)立智算中心敞開大門,實(shí)現(xiàn)無縫集成;也支持企業(yè)構(gòu)建自有運(yùn)營(yíng)平臺(tái)站點(diǎn),并融入底層算力供給網(wǎng)絡(luò)。
過去半年里,無穹AI已經(jīng)在上海市、杭州市、北京市等地接連落地。
此外,無問芯穹服務(wù)的全球最大人工智能孵化器上海模速空間,日均Token調(diào)用量已突破100億大關(guān)。
中盒子:無界智算平臺(tái)
中盒子,即無問芯穹推出的無界智算平臺(tái),專門面向百卡至千卡級(jí)的大型集群,解決高校、科研機(jī)構(gòu)、中小AIDC中心的模型訓(xùn)練與推理難題。
無界智算平臺(tái)的能力建立在無穹AI云的基礎(chǔ)之上。
夏立雪在現(xiàn)場(chǎng)透露,無界智算平臺(tái)已在超過100個(gè)大型研發(fā)場(chǎng)景中多次成功保障了大規(guī)模模型訓(xùn)練與推理任務(wù)的關(guān)鍵需求,并幫助國(guó)產(chǎn)計(jì)算集群實(shí)現(xiàn)了實(shí)實(shí)在在的正向收益。
從3000卡的沐曦GPU集群穩(wěn)定支撐百億模型600小時(shí)訓(xùn)練,到云南移動(dòng)依托2000張昇騰卡實(shí)現(xiàn)千億模型商用推理,無界平臺(tái)不僅能算優(yōu)算穩(wěn),還能真正帶來正向收益。
更重要的是,面向未來,夏立雪還宣布了無問芯穹在大盒子和中盒子協(xié)同的重要產(chǎn)品化進(jìn)展:
全球首個(gè)跨地域全分布式聯(lián)合強(qiáng)化學(xué)習(xí)服務(wù)。
這個(gè)服務(wù)支持將各地AIDC中零散的算力資源,與一個(gè)中等體量的算力集群結(jié)合起來,完成跨地域的聯(lián)合強(qiáng)化學(xué)習(xí)。
最小支持單張消費(fèi)級(jí)顯卡接入,哪怕只有一張消費(fèi)級(jí)GPU,也能參與大模型的聯(lián)合訓(xùn)練。
小盒子:無垠終端智能
小盒子,即無問芯穹推出的無垠終端智能,專門面向智能終端。
在小盒子里,無垠終端智能致力于以軟硬協(xié)同核心技術(shù)優(yōu)勢(shì),打造“端模型+端引擎+端硬件”智能終端一體化解決方案。
基于此,無問芯穹與上海創(chuàng)智院共同打造了全球首款端側(cè)本征模型無穹天權(quán)Infini-Megrez2.0,在實(shí)現(xiàn)云級(jí)21B參數(shù)智能水平的同時(shí),將內(nèi)存占用控制在7B規(guī)模、實(shí)際計(jì)算量控制在3B規(guī)模。
此外,Infini-Megrez2.0通過巧妙的工程設(shè)計(jì),賦予了終端設(shè)備更強(qiáng)的能動(dòng)性,即使在用戶無感知的“休眠時(shí)段”里,也能持續(xù)運(yùn)行大模型。
換句話說,哪怕AIPC在休眠狀態(tài)、完全離線的情況下,大模型依然能自主運(yùn)行,穩(wěn)定完成任務(wù)。
算下來,一臺(tái)設(shè)備在一年中,能多釋放出1000多個(gè)小時(shí)的有效工作時(shí)間。
為什么要做三個(gè)盒子?
為什么無問芯穹要發(fā)布這三個(gè)盒子?
其實(shí)答案只有一個(gè):智能時(shí)代的資源拐點(diǎn)已經(jīng)到了。
從傳統(tǒng)算法,到AI1.0、AI2.0階段,在ScalingLaw的推動(dòng)下,計(jì)算資源持續(xù)驅(qū)動(dòng)著智能邊界的拓展,逼近AGI的臨界點(diǎn)。
然而,資源的有限性,成為了“人類文明的終極邊界始終橫亙?cè)贏GI之路”上的天塹。
它橫臥在面前,成為人們真正觸碰到AGI之前可能會(huì)先觸碰到的紅線。
為了解決這個(gè)有限資源與無限需求之間的矛盾,無問芯穹提出加速抵達(dá)AGI臨界點(diǎn)的兩條進(jìn)路:
一條是提高智能效率,另一條是擴(kuò)充計(jì)算資源。
一方面突破從計(jì)算資源到智能性的轉(zhuǎn)化效率,用更少的計(jì)算資源獲取更強(qiáng)的智能;另一方面,不段挖掘和喚醒更多的可用計(jì)算資源。
夏立雪表示,這兩條路徑的交匯之處,即是新的AGI臨界點(diǎn)所在。
他繪制了一個(gè)AI應(yīng)用落地的價(jià)值空間:
人工智能應(yīng)用落地價(jià)值空間=場(chǎng)景尺度×計(jì)算資源×智能效率。
這套邏輯底層其實(shí)指向的是效能躍升這四個(gè)字。
不是更大的模型,而是更高的效率;不是無限擴(kuò)張的卡數(shù),而是有限資源下的最優(yōu)解法。
而三個(gè)盒子,正是這個(gè)效能躍升公式的具體化身。
延伸閱讀:與 以色列把{敘利亞國(guó)}防部炸出蘑菇云:敘領(lǐng)導(dǎo)人首度發(fā)聲團(tuán)結(jié)起來對(duì)抗,以色列 的相關(guān)文章