信勇銳
衡宇發(fā)自WAIC量子位|公眾號QbitAI
智能時代的尺度,在計算資源與智能效率的雙重牽引下正在極速壓縮、迅速蔓延。
兩年前,我們驚艷于幾千卡集群訓(xùn)練而成的GPT3.5;但今天,一部手機也可以裝下與它同等性能的小型AI了。
2025年WAIC上,無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪如此說道。
他還代表無問芯穹,帶來了AI落地這道難題的最新回答——
三個盒子,打通從十萬卡到一張卡的AI效能躍升路徑。
是的,僅僅是三個盒子。
在無問芯穹看來,這三個盒子背后,是一整套面向未來的智能基礎(chǔ)設(shè)施設(shè)計。
什么是三個盒子?
“三個盒子”其實是無問芯穹全規(guī)模AI效能躍升方案的三大核心產(chǎn)品:
大盒子:無穹AI云中盒子:無界智算平臺小盒子:無垠終端智能
這是一整套軟硬件協(xié)同系統(tǒng),專為未來智能基礎(chǔ)設(shè)施設(shè)計,能覆蓋從云到端的各種規(guī)模場景,支持多種異構(gòu)算力,同時打通模型調(diào)度、性能優(yōu)化到應(yīng)用部署的全流程。
我們一個一個來看——
大盒子:無穹AI云
大盒子,即無問芯穹推出的無穹AI云,是面向萬卡至十萬卡級別的智算網(wǎng)絡(luò),為超大規(guī)模算力集群的利用提供了一個系統(tǒng)性的解決方案。
無穹AI云的底層是一張深度覆蓋全國的廣域算力網(wǎng),基于無問芯穹“一網(wǎng)三異”調(diào)度架構(gòu),目前已成功覆蓋“東數(shù)西算”國家戰(zhàn)略布局的關(guān)鍵節(jié)點,匯聚了來自26個省市、53個核心數(shù)據(jù)中心的龐大算力資源,整合超15種主流芯片架構(gòu)的異構(gòu)算力池,總算力規(guī)模超25000P。
夏立雪表示:
無穹AI云不僅可以讓寶貴的算力資源實現(xiàn)最高效的流轉(zhuǎn)與利用,還能有效激活處于非理想狀態(tài)的算力資源,將其轉(zhuǎn)化為具備高穩(wěn)定性、高吞吐量與超低延遲的優(yōu)質(zhì)AI服務(wù)能力。
目前,無穹AI云提供高度標準化和開放化的接口,支持獨特的“平臺+自營”運營模式——不僅向獨立智算中心敞開大門,實現(xiàn)無縫集成;也支持企業(yè)構(gòu)建自有運營平臺站點,并融入底層算力供給網(wǎng)絡(luò)。
過去半年里,無穹AI已經(jīng)在上海市、杭州市、北京市等地接連落地。
此外,無問芯穹服務(wù)的全球最大人工智能孵化器上海模速空間,日均Token調(diào)用量已突破100億大關(guān)。
中盒子:無界智算平臺
中盒子,即無問芯穹推出的無界智算平臺,專門面向百卡至千卡級的大型集群,解決高校、科研機構(gòu)、中小AIDC中心的模型訓(xùn)練與推理難題。
無界智算平臺的能力建立在無穹AI云的基礎(chǔ)之上。
夏立雪在現(xiàn)場透露,無界智算平臺已在超過100個大型研發(fā)場景中多次成功保障了大規(guī)模模型訓(xùn)練與推理任務(wù)的關(guān)鍵需求,并幫助國產(chǎn)計算集群實現(xiàn)了實實在在的正向收益。
從3000卡的沐曦GPU集群穩(wěn)定支撐百億模型600小時訓(xùn)練,到云南移動依托2000張昇騰卡實現(xiàn)千億模型商用推理,無界平臺不僅能算優(yōu)算穩(wěn),還能真正帶來正向收益。
更重要的是,面向未來,夏立雪還宣布了無問芯穹在大盒子和中盒子協(xié)同的重要產(chǎn)品化進展:
全球首個跨地域全分布式聯(lián)合強化學習服務(wù)。
這個服務(wù)支持將各地AIDC中零散的算力資源,與一個中等體量的算力集群結(jié)合起來,完成跨地域的聯(lián)合強化學習。
最小支持單張消費級顯卡接入,哪怕只有一張消費級GPU,也能參與大模型的聯(lián)合訓(xùn)練。
小盒子:無垠終端智能
小盒子,即無問芯穹推出的無垠終端智能,專門面向智能終端。
在小盒子里,無垠終端智能致力于以軟硬協(xié)同核心技術(shù)優(yōu)勢,打造“端模型+端引擎+端硬件”智能終端一體化解決方案。
基于此,無問芯穹與上海創(chuàng)智院共同打造了全球首款端側(cè)本征模型無穹天權(quán)Infini-Megrez2.0,在實現(xiàn)云級21B參數(shù)智能水平的同時,將內(nèi)存占用控制在7B規(guī)模、實際計算量控制在3B規(guī)模。
此外,Infini-Megrez2.0通過巧妙的工程設(shè)計,賦予了終端設(shè)備更強的能動性,即使在用戶無感知的“休眠時段”里,也能持續(xù)運行大模型。
換句話說,哪怕AIPC在休眠狀態(tài)、完全離線的情況下,大模型依然能自主運行,穩(wěn)定完成任務(wù)。
算下來,一臺設(shè)備在一年中,能多釋放出1000多個小時的有效工作時間。
為什么要做三個盒子?
為什么無問芯穹要發(fā)布這三個盒子?
其實答案只有一個:智能時代的資源拐點已經(jīng)到了。
從傳統(tǒng)算法,到AI1.0、AI2.0階段,在ScalingLaw的推動下,計算資源持續(xù)驅(qū)動著智能邊界的拓展,逼近AGI的臨界點。
然而,資源的有限性,成為了“人類文明的終極邊界始終橫亙在AGI之路”上的天塹。
它橫臥在面前,成為人們真正觸碰到AGI之前可能會先觸碰到的紅線。
為了解決這個有限資源與無限需求之間的矛盾,無問芯穹提出加速抵達AGI臨界點的兩條進路:
一條是提高智能效率,另一條是擴充計算資源。
一方面突破從計算資源到智能性的轉(zhuǎn)化效率,用更少的計算資源獲取更強的智能;另一方面,不段挖掘和喚醒更多的可用計算資源。
夏立雪表示,這兩條路徑的交匯之處,即是新的AGI臨界點所在。
他繪制了一個AI應(yīng)用落地的價值空間:
人工智能應(yīng)用落地價值空間=場景尺度×計算資源×智能效率。
這套邏輯底層其實指向的是效能躍升這四個字。
不是更大的模型,而是更高的效率;不是無限擴張的卡數(shù),而是有限資源下的最優(yōu)解法。
而三個盒子,正是這個效能躍升公式的具體化身。
偷竊3400條內(nèi)褲的變態(tài)?三個孩子的父親?誰是殺害少女的兇手?
然而,她并沒有意識到,店內(nèi)的監(jiān)控攝像頭早已捕捉到了她的一舉一動。店主是一個中年男子,他憤怒地查看著監(jiān)控錄像,心中的怒火熊熊燃燒。他沒有選擇報警,也沒有通知小花的家長,而是決定親自教訓(xùn)這個膽敢偷竊的女孩-。他將小花帶到了店內(nèi)的監(jiān)控死角,那是一個陰暗而狹小的角落|-。店主的面容在昏暗的燈光下顯得愈發(fā)后面會介紹——。
17歲少女被小偷連捅38刀,直到?jīng)]力氣才停手,法庭上稱只想嚇嚇她
這部電影有兩個結(jié)局。一個是正式結(jié)局,另一個是導(dǎo)演剪輯版結(jié)局————。一定要看看導(dǎo)演剪輯版結(jié)局?!对创a》2011年豆瓣:8.5 柯爾特·史蒂文斯上尉在一列火車上醒來,占據(jù)著一個陌生人的身體。他結(jié)識了一個女孩,幾分鐘后火車爆炸_。主人公進入一個膠囊艙,一名女軍人向他解釋說,他是阻止襲擊實驗的一部分——_。他的任務(wù)是后面會介紹——。
偷竊少女的生存桃子移植版優(yōu)勢解析
花季少女失蹤案:一場引人深思的懸案2004年5月24日,19歲的布魯克·威爾伯格在姐姐的公寓打工,但當姐姐回到公寓卻沒有找到她的蹤跡,桌子上留下了她的錢包和手機。更令人不安的是,在路燈旁發(fā)現(xiàn)了她清潔使用的水桶和清潔劑,以及一只斷了帶子的人字拖。失蹤的布魯克嚴重地引起了家人和當?shù)孛癖姷年P(guān)注-。在黃金的救援還有呢?
來源:紅網(wǎng)
作者:許善云
編輯:婁冠宇
本文為紅辣椒評論 原創(chuàng)文章,僅系作者個人觀點,不代表紅網(wǎng)立場。轉(zhuǎn)載請附原文出處鏈接和本聲明。