瞿莉莉
機(jī)器之心報(bào)道
沒(méi)等來(lái)DeepSeek官方的R2,卻迎來(lái)了一個(gè)速度更快、性能不弱于R1的「野生」變體!
這兩天,一個(gè)名為「DeepSeekR1T2」的模型火了!
這個(gè)模型的速度比R1-0528快200%,比R1快20%。除了速度上的顯著優(yōu)勢(shì),它在GPQADiamond(專家級(jí)推理能力問(wèn)答基準(zhǔn))和AIME24(數(shù)學(xué)推理基準(zhǔn))上的表現(xiàn)均優(yōu)于R1,但未達(dá)到R1-0528的水平。
在技術(shù)層面,采用了專家組合(AssemblyofExperts,AoE)技術(shù)開(kāi)發(fā),并融合了DeepSeek官方的V3、R1和R1-0528三大模型。
當(dāng)然,這個(gè)模型也是開(kāi)源的,遵循MIT協(xié)議,并在HuggingFace上開(kāi)放了權(quán)重。
HuggingFace地址:https://huggingface.co/tngtech/DeepSeek-TNG-R1T2-Chimera
經(jīng)過(guò)進(jìn)一步了解,我們發(fā)現(xiàn):DeepSeekR1T2是德國(guó)一家AI咨詢公司「TNG」推出的,模型全稱為「DeepSeek-TNGR1T2Chimera」(以下簡(jiǎn)稱R1T2)。
該模型除了前文提到的在智力水平和輸出效率之間實(shí)現(xiàn)完美平衡之外,相較于這家公司的初代模型「R1TChimera」,智力大幅躍升,并實(shí)現(xiàn)了突破性的think-token一致性。
不僅如此,即使在沒(méi)有任何系統(tǒng)提示的情況下,該模型也能表現(xiàn)穩(wěn)定,提供自然的對(duì)話交互體驗(yàn)。
在評(píng)論區(qū),有人誤以為這個(gè)模型出自DeepSeek官方,并且認(rèn)為他們是不是也在走相同的路線:給模型起各種名稱,就是不用主系列下一代版本號(hào)?
更多的人認(rèn)可該模型「找到了智能與輸出token長(zhǎng)度之間的最佳平衡點(diǎn),并且提升了速度」,并對(duì)該模型在現(xiàn)實(shí)世界的表現(xiàn)充滿了期待。
模型細(xì)節(jié)概覽
從HuggingFace主頁(yè)來(lái)看,R1T2是一個(gè)基于DeepSeekR1-0528、R1以及V3-0324模型構(gòu)建的AoEChimera模型。
該模型是一個(gè)采用DeepSeek-MoETransformer架構(gòu)的大語(yǔ)言模型,參數(shù)規(guī)模為671B。
R1T2是該公司4月26日發(fā)布的初代模型「R1TChimera」的首個(gè)迭代版本。相較于利用雙基模型(V3-0324+R1)的初代架構(gòu),本次升級(jí)到了三心智(Tri-Mind)融合架構(gòu),新增基模型R1-0528。
該模型采用AoE技術(shù)構(gòu)建,過(guò)程中利用較高精度的直接腦區(qū)編輯(directbrainedits)實(shí)現(xiàn)。這種精密融合不僅帶來(lái)全方位提升,更徹底解決了初代R1T的token一致性缺陷。
團(tuán)隊(duì)表示,R1T2對(duì)比其他模型具備如下優(yōu)劣:
與DeepSeekR1對(duì)比:R1T2有望成為R1的理想替代品,兩者幾乎可以通用,并且R1T2性能更佳,可直接替換。
與R1-0528對(duì)比:如果不需要達(dá)到0528級(jí)別的最高智能,R1T2相比之下更加經(jīng)濟(jì)。
與R1T對(duì)比:通常更建議使用R1T2,除非R1T的特定人格是最佳選擇、思考token問(wèn)題不重要,或者極度需求速度。
與DeepSeekV3-0324對(duì)比:V3速度更快,如果不太關(guān)注智能可以選擇V3;但是,如果需要推理能力,R1T2是首選。
此外,R1T2的幾點(diǎn)局限性表現(xiàn)在:
R1-0528雖推理耗時(shí)更長(zhǎng),但在高難度基準(zhǔn)測(cè)試中仍優(yōu)于R1T2;
經(jīng)SpeechMap.ai(由xlr8harder提供)測(cè)評(píng),R1T2應(yīng)答克制度(reserved)顯著高于R1T,但低于R1-0528;
暫不支持函數(shù)調(diào)用:受R1基模型影響,現(xiàn)階段不推薦函數(shù)調(diào)用密集型場(chǎng)景(后續(xù)版本可能修復(fù));
基準(zhǔn)測(cè)試變更說(shuō)明:開(kāi)發(fā)版由AIME24+MT-Bench變更為AIME24/25+GPQA-Diamond測(cè)評(píng)體系,新體系下R1與初代R1T的分差較早期公布數(shù)據(jù)更大。
最后,關(guān)于R1T2中重要的AoE技術(shù),可以參考以下論文。
論文標(biāo)題:AssemblyofExperts:Linear-timeconstructionoftheChimeraLLMvariantswithemergentandadaptablebehaviors
力薦!這三部姐弟戀言情:從小長(zhǎng)到大的感情,終是讓他愛(ài)上了她
小S更是陷入了巨大的痛苦與自責(zé)中。此次旅行是她組織的,她怎么也想不到,自己的安排會(huì)導(dǎo)致這樣的悲劇。姐姐不僅是親人,還是她進(jìn)入娛樂(lè)圈的領(lǐng)路人,兩人一起參加過(guò)很多節(jié)目,有過(guò)無(wú)數(shù)美好的回憶。如今,姐姐突然離去,小S取消了節(jié)目錄制,還隱藏了返臺(tái)時(shí)間,可見(jiàn)她的傷心與不舍_。大S的離世,讓整個(gè)娛樂(lè)圈都沉浸在悲等我繼續(xù)說(shuō)。
2023年新鮮出爐娛樂(lè)主播直播間喊麥順口溜
出軌就出軌,還給加個(gè)“真愛(ài)”的濾鏡。我呸??戳艘蝗ο聛?lái),編劇玩兒挺野啊,劇里男性角色價(jià)值觀集體魂穿大清。結(jié)果女同志這邊也沒(méi)示弱??煽傻弥侠钫鎸?shí)身份之后,準(zhǔn)備跟他攤牌-。閨蜜卻極力阻止,還說(shuō),純,就是可可的核心競(jìng)爭(zhēng)力。合著您還做鉆石王老五和傻白甜美少女的春秋大夢(mèng)呢?是乘風(fēng)破浪的姐姐們不好看?..
偏執(zhí)型男主超上頭!當(dāng)瘋批愛(ài)意刺破夜幕:六部暗黑系情欲短劇推薦
給有好感的姐姐寫(xiě)小作..給吧u來(lái)點(diǎn)小小的震撼沒(méi)人? 打個(gè)??先姐姐沒(méi)回應(yīng),??咯沒(méi)??,吧u別急給吧u來(lái)點(diǎn)小小的成功人士震撼byd????貼吧?
來(lái)源:紅網(wǎng)
作者:慎國(guó)安
編輯:雪建華
本文為紅辣椒評(píng)論 原創(chuàng)文章,僅系作者個(gè)人觀點(diǎn),不代表紅網(wǎng)立場(chǎng)。轉(zhuǎn)載請(qǐng)附原文出處鏈接和本聲明。