丙月朗
衡宇發(fā)自WAIC量子位|公眾號QbitAI
智能時代的尺度,在計算資源與智能效率的雙重牽引下正在極速壓縮、迅速蔓延。
兩年前,我們驚艷于幾千卡集群訓(xùn)練而成的GPT3.5;但今天,一部手機(jī)也可以裝下與它同等性能的小型AI了。
2025年WAIC上,無問芯穹聯(lián)合創(chuàng)始人、CEO夏立雪如此說道。
他還代表無問芯穹,帶來了AI落地這道難題的最新回答——
三個盒子,打通從十萬卡到一張卡的AI效能躍升路徑。
是的,僅僅是三個盒子。
在無問芯穹看來,這三個盒子背后,是一整套面向未來的智能基礎(chǔ)設(shè)施設(shè)計。
什么是三個盒子?
“三個盒子”其實是無問芯穹全規(guī)模AI效能躍升方案的三大核心產(chǎn)品:
大盒子:無穹AI云中盒子:無界智算平臺小盒子:無垠終端智能
這是一整套軟硬件協(xié)同系統(tǒng),專為未來智能基礎(chǔ)設(shè)施設(shè)計,能覆蓋從云到端的各種規(guī)模場景,支持多種異構(gòu)算力,同時打通模型調(diào)度、性能優(yōu)化到應(yīng)用部署的全流程。
我們一個一個來看——
大盒子:無穹AI云
大盒子,即無問芯穹推出的無穹AI云,是面向萬卡至十萬卡級別的智算網(wǎng)絡(luò),為超大規(guī)模算力集群的利用提供了一個系統(tǒng)性的解決方案。
無穹AI云的底層是一張深度覆蓋全國的廣域算力網(wǎng),基于無問芯穹“一網(wǎng)三異”調(diào)度架構(gòu),目前已成功覆蓋“東數(shù)西算”國家戰(zhàn)略布局的關(guān)鍵節(jié)點,匯聚了來自26個省市、53個核心數(shù)據(jù)中心的龐大算力資源,整合超15種主流芯片架構(gòu)的異構(gòu)算力池,總算力規(guī)模超25000P。
夏立雪表示:
無穹AI云不僅可以讓寶貴的算力資源實現(xiàn)最高效的流轉(zhuǎn)與利用,還能有效激活處于非理想狀態(tài)的算力資源,將其轉(zhuǎn)化為具備高穩(wěn)定性、高吞吐量與超低延遲的優(yōu)質(zhì)AI服務(wù)能力。
目前,無穹AI云提供高度標(biāo)準(zhǔn)化和開放化的接口,支持獨特的“平臺+自營”運(yùn)營模式——不僅向獨立智算中心敞開大門,實現(xiàn)無縫集成;也支持企業(yè)構(gòu)建自有運(yùn)營平臺站點,并融入底層算力供給網(wǎng)絡(luò)。
過去半年里,無穹AI已經(jīng)在上海市、杭州市、北京市等地接連落地。
此外,無問芯穹服務(wù)的全球最大人工智能孵化器上海模速空間,日均Token調(diào)用量已突破100億大關(guān)。
中盒子:無界智算平臺
中盒子,即無問芯穹推出的無界智算平臺,專門面向百卡至千卡級的大型集群,解決高校、科研機(jī)構(gòu)、中小AIDC中心的模型訓(xùn)練與推理難題。
無界智算平臺的能力建立在無穹AI云的基礎(chǔ)之上。
夏立雪在現(xiàn)場透露,無界智算平臺已在超過100個大型研發(fā)場景中多次成功保障了大規(guī)模模型訓(xùn)練與推理任務(wù)的關(guān)鍵需求,并幫助國產(chǎn)計算集群實現(xiàn)了實實在在的正向收益。
從3000卡的沐曦GPU集群穩(wěn)定支撐百億模型600小時訓(xùn)練,到云南移動依托2000張昇騰卡實現(xiàn)千億模型商用推理,無界平臺不僅能算優(yōu)算穩(wěn),還能真正帶來正向收益。
更重要的是,面向未來,夏立雪還宣布了無問芯穹在大盒子和中盒子協(xié)同的重要產(chǎn)品化進(jìn)展:
全球首個跨地域全分布式聯(lián)合強(qiáng)化學(xué)習(xí)服務(wù)。
這個服務(wù)支持將各地AIDC中零散的算力資源,與一個中等體量的算力集群結(jié)合起來,完成跨地域的聯(lián)合強(qiáng)化學(xué)習(xí)。
最小支持單張消費(fèi)級顯卡接入,哪怕只有一張消費(fèi)級GPU,也能參與大模型的聯(lián)合訓(xùn)練。
小盒子:無垠終端智能
小盒子,即無問芯穹推出的無垠終端智能,專門面向智能終端。
在小盒子里,無垠終端智能致力于以軟硬協(xié)同核心技術(shù)優(yōu)勢,打造“端模型+端引擎+端硬件”智能終端一體化解決方案。
基于此,無問芯穹與上海創(chuàng)智院共同打造了全球首款端側(cè)本征模型無穹天權(quán)Infini-Megrez2.0,在實現(xiàn)云級21B參數(shù)智能水平的同時,將內(nèi)存占用控制在7B規(guī)模、實際計算量控制在3B規(guī)模。
此外,Infini-Megrez2.0通過巧妙的工程設(shè)計,賦予了終端設(shè)備更強(qiáng)的能動性,即使在用戶無感知的“休眠時段”里,也能持續(xù)運(yùn)行大模型。
換句話說,哪怕AIPC在休眠狀態(tài)、完全離線的情況下,大模型依然能自主運(yùn)行,穩(wěn)定完成任務(wù)。
算下來,一臺設(shè)備在一年中,能多釋放出1000多個小時的有效工作時間。
為什么要做三個盒子?
為什么無問芯穹要發(fā)布這三個盒子?
其實答案只有一個:智能時代的資源拐點已經(jīng)到了。
從傳統(tǒng)算法,到AI1.0、AI2.0階段,在ScalingLaw的推動下,計算資源持續(xù)驅(qū)動著智能邊界的拓展,逼近AGI的臨界點。
然而,資源的有限性,成為了“人類文明的終極邊界始終橫亙在AGI之路”上的天塹。
它橫臥在面前,成為人們真正觸碰到AGI之前可能會先觸碰到的紅線。
為了解決這個有限資源與無限需求之間的矛盾,無問芯穹提出加速抵達(dá)AGI臨界點的兩條進(jìn)路:
一條是提高智能效率,另一條是擴(kuò)充計算資源。
一方面突破從計算資源到智能性的轉(zhuǎn)化效率,用更少的計算資源獲取更強(qiáng)的智能;另一方面,不段挖掘和喚醒更多的可用計算資源。
夏立雪表示,這兩條路徑的交匯之處,即是新的AGI臨界點所在。
他繪制了一個AI應(yīng)用落地的價值空間:
人工智能應(yīng)用落地價值空間=場景尺度×計算資源×智能效率。
這套邏輯底層其實指向的是效能躍升這四個字。
不是更大的模型,而是更高的效率;不是無限擴(kuò)張的卡數(shù),而是有限資源下的最優(yōu)解法。
而三個盒子,正是這個效能躍升公式的具體化身。
口碑之作《星際之最強(qiáng)指揮官》,讓人眼前一亮的章節(jié),完美填補(bǔ)書荒...
小說:星際之最強(qiáng)指揮官,從地球到宇宙,逆襲成就霸主!今日推薦:《星際之最強(qiáng)指揮官》作者:麒SOFT。點擊文末超鏈接開始觀看吧~810不敗戰(zhàn)神拉瓦錫等我繼續(xù)說——。對于拉瓦錫,這些文明的高級將領(lǐng)還是十分信任以及認(rèn)同的,而這一點,也讓他多了那么一些信心|。“那好,下面我開始安排作戰(zhàn)任務(wù)!”“按照我們這些天重新分配好的等我繼續(xù)說。
獨家收藏《星際之最強(qiáng)指揮官》,告別廢柴的日子,真的不遠(yuǎn)了!
這次考核所使用的正是模擬戰(zhàn)大樓的雙人小型模擬室,內(nèi)部就兩臺模擬倉。觀摩的話則是在二樓的全息大廳,圓形的觀摩區(qū)圍繞著中間約600個平方米的全息投影區(qū)_——。當(dāng)林凡和梁星辰兩人進(jìn)入模擬指揮倉李福來帶著艾瑪來到了全息大廳,并打開了全息投影裝置。很快,觀摩區(qū)的中間便呈現(xiàn)出了一片星空,同時可以很明顯地看到,在這還有呢?
穿越指揮官林凡,攜手人類逆襲星際,共赴宇宙霸主之路!
穿越指揮官林凡,攜手聯(lián)邦艦隊,共赴星際逆襲之路!今日推薦:《星際之最強(qiáng)指揮官》作者:麒SOFT|。點擊文末超鏈接開始觀看吧~094各自的謀劃拉米羅考慮了一下,發(fā)現(xiàn)這里面還是有很多的問題-。比如皇家艦隊抵達(dá)拉米羅需要近2個小時,這段時間足夠人類將部隊全部撤回到戰(zhàn)艦上并離開了,自己多數(shù)會撲一個空!另一方面,..
來源:紅網(wǎng)
作者:速秀越
編輯:函樂容
本文為紅辣椒評論 原創(chuàng)文章,僅系作者個人觀點,不代表紅網(wǎng)立場。轉(zhuǎn)載請附原文出處鏈接和本聲明。