衡宇發(fā)自WAIC量子位|公眾號QbitAI
智能時代的尺度,在計算資源與智能效率的雙重牽引下正在極速壓縮、迅速蔓延。
兩年前,我們驚艷于幾千卡集群訓練而成的GPT3.5;但今天,一部手機也可以裝下與它同等性能的小型AI了。
2025年WAIC上,無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪如此說道。
他還代表無問芯穹,帶來了AI落地這道難題的最新回答——
三個盒子,打通從十萬卡到一張卡的AI效能躍升路徑。
是的,僅僅是三個盒子。
在無問芯穹看來,這三個盒子背后,是一整套面向未來的智能基礎(chǔ)設(shè)施設(shè)計。
什么是三個盒子?
“三個盒子”其實是無問芯穹全規(guī)模AI效能躍升方案的三大核心產(chǎn)品:
大盒子:無穹AI云中盒子:無界智算平臺小盒子:無垠終端智能
這是一整套軟硬件協(xié)同系統(tǒng),專為未來智能基礎(chǔ)設(shè)施設(shè)計,能覆蓋從云到端的各種規(guī)模場景,支持多種異構(gòu)算力,同時打通模型調(diào)度、性能優(yōu)化到應(yīng)用部署的全流程。
我們一個一個來看——
大盒子:無穹AI云
大盒子,即無問芯穹推出的無穹AI云,是面向萬卡至十萬卡級別的智算網(wǎng)絡(luò),為超大規(guī)模算力集群的利用提供了一個系統(tǒng)性的解決方案。
無穹AI云的底層是一張深度覆蓋全國的廣域算力網(wǎng),基于無問芯穹“一網(wǎng)三異”調(diào)度架構(gòu),目前已成功覆蓋“東數(shù)西算”國家戰(zhàn)略布局的關(guān)鍵節(jié)點,匯聚了來自26個省市、53個核心數(shù)據(jù)中心的龐大算力資源,整合超15種主流芯片架構(gòu)的異構(gòu)算力池,總算力規(guī)模超25000P。
夏立雪表示:
無穹AI云不僅可以讓寶貴的算力資源實現(xiàn)最高效的流轉(zhuǎn)與利用,還能有效激活處于非理想狀態(tài)的算力資源,將其轉(zhuǎn)化為具備高穩(wěn)定性、高吞吐量與超低延遲的優(yōu)質(zhì)AI服務(wù)能力。
目前,無穹AI云提供高度標準化和開放化的接口,支持獨特的“平臺+自營”運營模式——不僅向獨立智算中心敞開大門,實現(xiàn)無縫集成;也支持企業(yè)構(gòu)建自有運營平臺站點,并融入底層算力供給網(wǎng)絡(luò)。
過去半年里,無穹AI已經(jīng)在上海市、杭州市、北京市等地接連落地。
此外,無問芯穹服務(wù)的全球最大人工智能孵化器上海模速空間,日均Token調(diào)用量已突破100億大關(guān)。
中盒子:無界智算平臺
中盒子,即無問芯穹推出的無界智算平臺,專門面向百卡至千卡級的大型集群,解決高校、科研機構(gòu)、中小AIDC中心的模型訓練與推理難題。
無界智算平臺的能力建立在無穹AI云的基礎(chǔ)之上。
夏立雪在現(xiàn)場透露,無界智算平臺已在超過100個大型研發(fā)場景中多次成功保障了大規(guī)模模型訓練與推理任務(wù)的關(guān)鍵需求,并幫助國產(chǎn)計算集群實現(xiàn)了實實在在的正向收益。
從3000卡的沐曦GPU集群穩(wěn)定支撐百億模型600小時訓練,到云南移動依托2000張昇騰卡實現(xiàn)千億模型商用推理,無界平臺不僅能算優(yōu)算穩(wěn),還能真正帶來正向收益。
更重要的是,面向未來,夏立雪還宣布了無問芯穹在大盒子和中盒子協(xié)同的重要產(chǎn)品化進展:
全球首個跨地域全分布式聯(lián)合強化學習服務(wù)。
這個服務(wù)支持將各地AIDC中零散的算力資源,與一個中等體量的算力集群結(jié)合起來,完成跨地域的聯(lián)合強化學習。
最小支持單張消費級顯卡接入,哪怕只有一張消費級GPU,也能參與大模型的聯(lián)合訓練。
小盒子:無垠終端智能
小盒子,即無問芯穹推出的無垠終端智能,專門面向智能終端。
在小盒子里,無垠終端智能致力于以軟硬協(xié)同核心技術(shù)優(yōu)勢,打造“端模型+端引擎+端硬件”智能終端一體化解決方案。
基于此,無問芯穹與上海創(chuàng)智院共同打造了全球首款端側(cè)本征模型無穹天權(quán)Infini-Megrez2.0,在實現(xiàn)云級21B參數(shù)智能水平的同時,將內(nèi)存占用控制在7B規(guī)模、實際計算量控制在3B規(guī)模。
此外,Infini-Megrez2.0通過巧妙的工程設(shè)計,賦予了終端設(shè)備更強的能動性,即使在用戶無感知的“休眠時段”里,也能持續(xù)運行大模型。
換句話說,哪怕AIPC在休眠狀態(tài)、完全離線的情況下,大模型依然能自主運行,穩(wěn)定完成任務(wù)。
算下來,一臺設(shè)備在一年中,能多釋放出1000多個小時的有效工作時間。
為什么要做三個盒子?
為什么無問芯穹要發(fā)布這三個盒子?
其實答案只有一個:智能時代的資源拐點已經(jīng)到了。
從傳統(tǒng)算法,到AI1.0、AI2.0階段,在ScalingLaw的推動下,計算資源持續(xù)驅(qū)動著智能邊界的拓展,逼近AGI的臨界點。
然而,資源的有限性,成為了“人類文明的終極邊界始終橫亙在AGI之路”上的天塹。
它橫臥在面前,成為人們真正觸碰到AGI之前可能會先觸碰到的紅線。
為了解決這個有限資源與無限需求之間的矛盾,無問芯穹提出加速抵達AGI臨界點的兩條進路:
一條是提高智能效率,另一條是擴充計算資源。
一方面突破從計算資源到智能性的轉(zhuǎn)化效率,用更少的計算資源獲取更強的智能;另一方面,不段挖掘和喚醒更多的可用計算資源。
夏立雪表示,這兩條路徑的交匯之處,即是新的AGI臨界點所在。
他繪制了一個AI應(yīng)用落地的價值空間:
人工智能應(yīng)用落地價值空間=場景尺度×計算資源×智能效率。
這套邏輯底層其實指向的是效能躍升這四個字。
不是更大的模型,而是更高的效率;不是無限擴張的卡數(shù),而是有限資源下的最優(yōu)解法。
而三個盒子,正是這個效能躍升公式的具體化身。
71年林彪叛逃10小時前,毛主席意外返京調(diào)兵,周總理追查林彪專機
256號三叉戟飛行途中,不小心讓右側(cè)機翼蹭上了旁邊的油車,結(jié)果機翼上的燈被刮得傷痕累累。接著,在準備拐進跑道時,一個輪子突然偏離了路線,直沖著一堆施工留下的石頭堆而去。還好潘景寅眼疾手快,迅速作出了反應(yīng),不然這次飛行事故可能就得重寫歷史了_|。要是飛機真的撞上了那些石堆,機毀幾乎是可以肯定的,但機上 張波和前妻陳某的婚姻,只是出于合適,張波一直是個野心大和自私的人,哪怕在有了孩子后,內(nèi)心的心思也不斷涌動,想要過上更好的生活_。而葉誠塵便是這個時候出現(xiàn)的,兩人性格很合拍,關(guān)鍵是葉誠塵長得漂亮,家庭條件又很好,如果兩人在一起,對方的家庭能夠給他不少助力。兩人是在網(wǎng)上認識,一開始張波隱瞞了自己已婚說完了。3本精挑細選的劇情小說,評分都在9以上,書荒時的加油包