后月悅
智東西作者ZeR0編輯漠影
國(guó)產(chǎn)AI芯片正處于重要的歷史機(jī)遇窗口。
今年的模型創(chuàng)新仿佛踩上風(fēng)火輪,開(kāi)源模型密集發(fā)布更新,進(jìn)一步引爆推理需求增長(zhǎng)。AI推理芯片將在接下來(lái)的AI產(chǎn)業(yè)發(fā)展進(jìn)程中扮演更加重要的角色。
在世界人工智能大會(huì)期間,云天勵(lì)飛公布全面聚焦AI芯片的最新戰(zhàn)略,并披露最新AI芯片全產(chǎn)品矩陣及未來(lái)三年商用路線圖,計(jì)劃到2028年將單芯片算力最高擴(kuò)展至數(shù)千TOPS。
憑借創(chuàng)新的“算力積木”架構(gòu),云天勵(lì)飛AI芯片能實(shí)現(xiàn)7B、14B、130B、671B等不同參數(shù)量大模型的高效推理,適配DeepSeek-R1系列模型、阿里QwQ-32B模型及國(guó)產(chǎn)鴻蒙操作系統(tǒng)。云天勵(lì)飛CTO李愛(ài)軍告訴智東西,包括DeepSeek、Qwen模型在內(nèi),云天勵(lì)飛AI芯片與主流開(kāi)源模型均已完成適配。
特別的是,云天勵(lì)飛打造的是“純血版國(guó)產(chǎn)工藝AI芯片”,而且實(shí)現(xiàn)端邊云“三棲”落地,應(yīng)用場(chǎng)景小到嵌入式硬件,中到邊緣計(jì)算與具身智能,大到萬(wàn)億參數(shù)大模型。
在具身智能領(lǐng)域,云天勵(lì)飛已與十余家機(jī)器人廠商建立合作關(guān)系,邊緣芯片產(chǎn)品應(yīng)用于服務(wù)型機(jī)器人已進(jìn)入實(shí)際部署階段。該公司還作為創(chuàng)始股東之一,參與投資了深圳國(guó)創(chuàng)具身智能機(jī)器人有限公司,探索AI推理芯片在具身智能等未來(lái)前沿方向的應(yīng)用和落地。
值此時(shí)機(jī),云天勵(lì)飛為何全面聚焦AI芯片?又如何在日趨激烈的AI芯片競(jìng)賽突出重圍?云天勵(lì)飛董事長(zhǎng)兼CEO陳寧博士、云天勵(lì)飛CTO李愛(ài)軍與智東西進(jìn)行了深入交流。
一、風(fēng)起大模型,解讀AI推理風(fēng)向與歷史性機(jī)遇
云天勵(lì)飛董事長(zhǎng)兼CEO陳寧博士談道,2030年是全球公認(rèn)的AGI(通用人工智能)可能實(shí)現(xiàn)重大突破的一個(gè)轉(zhuǎn)折時(shí)間點(diǎn)。
2025年上半年,AI應(yīng)用落地提速,Agent成本的降低將帶來(lái)應(yīng)用普惠,隨著AI應(yīng)用無(wú)處不在,全球AI將從訓(xùn)練時(shí)代進(jìn)入以應(yīng)用驅(qū)動(dòng)為核心的推理時(shí)代。
過(guò)去十多年,AI領(lǐng)域經(jīng)歷了以訓(xùn)練為核心的GPU時(shí)代——通過(guò)訓(xùn)練大規(guī)模模型獲取基礎(chǔ)能力,類似于電力時(shí)代的“發(fā)電”,注重大規(guī)模生產(chǎn)算力。
而AI推理芯片的關(guān)鍵在于“用電”,即在終端及云邊端以低成本、高效率完成推理運(yùn)算,更關(guān)注成本效率及規(guī)?;瘧?yīng)用,不像訓(xùn)練芯片那樣依賴CUDA。
在此背景下,AI推理芯片的重要性逐漸上升,成為推動(dòng)AI技術(shù)應(yīng)用落地及與商業(yè)化的核心驅(qū)動(dòng)力。
陳寧認(rèn)為,AI推理芯片不僅在推理效率、能效方面具有重大優(yōu)勢(shì),它們還將作為智能硬件、機(jī)器人、智能設(shè)備等終端產(chǎn)品的“引擎”,成為AI產(chǎn)業(yè)大規(guī)模應(yīng)用的核心基礎(chǔ)。
AI推理芯片是中國(guó)搶占第四次工業(yè)革命的一張關(guān)鍵入場(chǎng)券。隨著2030年AGI(通用人工智能)突破的潛在臨近,AI推理芯片能否實(shí)現(xiàn)成本、性能和生態(tài)的突破,決定了中國(guó)能否在新一輪技術(shù)浪潮中占據(jù)主動(dòng)。
未來(lái)五年,從可穿戴設(shè)備、AI原生硬件、智能終端到算力設(shè)備,AI將重塑所有電子設(shè)備,推理算力網(wǎng)絡(luò)將無(wú)處不在,推動(dòng)推理芯片市場(chǎng)迎來(lái)爆發(fā)。
在國(guó)外先進(jìn)算力幾乎完全禁售的背景下,這將帶給國(guó)產(chǎn)全自主可控AI推理算力巨大市場(chǎng)機(jī)會(huì)。
經(jīng)過(guò)10年積累,云天勵(lì)飛在AI推理芯片技術(shù)研發(fā)和市場(chǎng)應(yīng)用上的布局逐漸成熟,選擇在2025年全面聚焦AI推理芯片,抓住這一歷史性機(jī)遇。
二、圍繞AI芯片沉淀四大業(yè)務(wù)板塊,端邊云支撐高性價(jià)比大模型推理
到2028年,云天勵(lì)飛計(jì)劃研發(fā)三代“算力積木”架構(gòu),布局三大商用計(jì)算平臺(tái)(深界、深擎、深穹),算力最高可擴(kuò)展至數(shù)千TOPS。下一代芯片將基于第二代“算力積木”架構(gòu),通過(guò)新型計(jì)算、近存計(jì)算、NB-Mesh新型互連、新型封裝、NB-Link通用擴(kuò)展性五大創(chuàng)新,打造新型大模型推理平臺(tái)。
·深穹:大模型推理一體機(jī)
·深界:邊緣網(wǎng)關(guān)、邊緣盒子
·深擎:機(jī)器人/無(wú)人機(jī)/無(wú)人車
基于國(guó)產(chǎn)工藝及自研“算力積木”架構(gòu),其深界DeepEdge10平臺(tái)已適配DeepSeek、QwQ-32B模型及鴻蒙操作系統(tǒng)。
云天勵(lì)飛的整體產(chǎn)品布局圍繞自研AI推理芯片展開(kāi),沉淀出4大業(yè)務(wù)板塊,布局端邊云,聯(lián)合生態(tài)合作伙伴推出覆蓋從模組、邊緣推理盒子、AI推理加速卡、大模型推理一體機(jī)、智算服務(wù)器等產(chǎn)品。
其產(chǎn)品已廣泛應(yīng)用于智算中心、智慧城市、具身智能機(jī)器人等領(lǐng)域。
2024年6月,云天勵(lì)飛簽署《AI算力運(yùn)營(yíng)合作框架協(xié)議》,拿到16億元的算力服務(wù)大單,提供總算力規(guī)模約4000PFLOPS的AI訓(xùn)練及推理異構(gòu)算力服務(wù)。
面向具身智能和機(jī)器人領(lǐng)域,云天勵(lì)飛戰(zhàn)略投資閃極科技、智慧互通、臻識(shí)科技、神州云海、國(guó)創(chuàng)具身機(jī)器人等,為AI推理芯片的應(yīng)用開(kāi)辟了更多元化的場(chǎng)景。
未來(lái)云天勵(lì)飛AI推理芯片計(jì)劃重點(diǎn)面向三大市場(chǎng):邊緣計(jì)算、云端大模型推理、智能機(jī)器。
在市場(chǎng)拓展方面,云天勵(lì)飛獲得16億元算力服務(wù)大單,顯示了其產(chǎn)品在部分關(guān)鍵領(lǐng)域的商業(yè)認(rèn)可度。
三、靠芯片拿到創(chuàng)業(yè)“第一桶金”,云天勵(lì)飛做AI芯片的基因與優(yōu)勢(shì)
身為一家AI公司,云天勵(lì)飛為什么要自研AI推理芯片?答案是通過(guò)深入匹配特定應(yīng)用場(chǎng)景,自研AI芯片一旦形成規(guī)?;?,就能帶來(lái)更好的成本效益。
據(jù)陳寧分享,云天勵(lì)飛核心創(chuàng)始團(tuán)隊(duì)具備深厚的NPU芯片設(shè)計(jì)經(jīng)驗(yàn),最早從2009年開(kāi)始參與神經(jīng)網(wǎng)絡(luò)處理器相關(guān)設(shè)計(jì)。
該公司的第一筆融資,也來(lái)源于芯片。
2014年,云天勵(lì)飛剛成立時(shí),初心是通過(guò)NPU降低AI計(jì)算成本,當(dāng)時(shí)還用NPU課題申報(bào)了政府的人才引進(jìn)項(xiàng)目,還拿下第一,得到研發(fā)資金支持。
可以說(shuō),芯片,正是云天勵(lì)飛初期獲得投資的關(guān)鍵。
云天勵(lì)飛在2015年啟動(dòng)第一代深度學(xué)習(xí)處理器的研發(fā),2018年-2019年第二代AI芯片DeepEye1000流片成功,并且在之后幾年中,云天勵(lì)飛AI芯片相繼并下國(guó)家發(fā)改委、科技部、工信部重大專項(xiàng)的“大滿貫”,
2020年5月,因被列入美國(guó)實(shí)體清單,云天勵(lì)飛不得做出戰(zhàn)略調(diào)整,堅(jiān)定轉(zhuǎn)向國(guó)產(chǎn)工藝路線。
面對(duì)國(guó)產(chǎn)工藝尚不成熟的挑戰(zhàn),它首創(chuàng)“算力積木”架構(gòu),并敲定國(guó)產(chǎn)先進(jìn)工藝的合作,成為首家采用國(guó)產(chǎn)Chiplet工藝的AI芯片,自此踏上用國(guó)產(chǎn)工藝設(shè)計(jì)商用AI芯片的新階段。“算力積木”架構(gòu)通過(guò)模塊化設(shè)計(jì)解決單芯片面積與良率的矛盾,以實(shí)現(xiàn)算力的可擴(kuò)展性和商業(yè)化應(yīng)用。
自2020年決定轉(zhuǎn)向國(guó)產(chǎn)工藝后,云天勵(lì)飛不僅克服了當(dāng)時(shí)國(guó)產(chǎn)工藝的不成熟問(wèn)題,還通過(guò)技術(shù)創(chuàng)新實(shí)現(xiàn)了算力積木架構(gòu)的突破。通過(guò)自主研發(fā)的算力架構(gòu)和互連技術(shù),云天勵(lì)飛在推理芯片領(lǐng)域取得了顯著的技術(shù)進(jìn)展,并將其成功轉(zhuǎn)化為實(shí)際的產(chǎn)品。
此后兩年多時(shí)間,云天勵(lì)飛斬獲第十屆吳文俊人工智能專項(xiàng)獎(jiǎng)芯片項(xiàng)目一等獎(jiǎng),發(fā)布大模型邊緣推理一體芯片深界DeepEdge10,全面入局大模型推理。
這兩年來(lái),云天勵(lì)飛相繼推出AI推理芯片深界DeepEdge200、大模型推理加速卡深穹6000及深穹X6000Mesh加速卡,其DeepSeek一體機(jī)解決方案在深圳龍崗、南山、湛江等城市落地。
結(jié)合算力架構(gòu)演進(jìn)趨勢(shì),云天勵(lì)飛在過(guò)去10年研發(fā)了5代NPU,技術(shù)路徑貫穿從小規(guī)模CNN算法到面向大規(guī)模預(yù)訓(xùn)練模型的異構(gòu)計(jì)算需求。這些在智能硬件、智算中心、智慧城市等領(lǐng)域積累的know-how和經(jīng)驗(yàn),為其芯片設(shè)計(jì)和持續(xù)迭代提供了明確指導(dǎo),形成了算法-芯片-應(yīng)用的“數(shù)據(jù)飛輪”閉環(huán),推動(dòng)AI和芯片技術(shù)持續(xù)迭代。
“算法芯片化”一直是云天勵(lì)飛的核心技術(shù)策略,將不斷進(jìn)化的AI算法映射至芯片架構(gòu),確保算法與硬件高度契合?;诩夹g(shù)與應(yīng)用雙輪驅(qū)動(dòng),云天勵(lì)飛旨在提升AI推理芯片在性能、成本、功耗及生態(tài)兼容等方面的綜合競(jìng)爭(zhēng)力,堅(jiān)持“算法芯片化”技術(shù)策略。
通過(guò)與生態(tài)伙伴緊密合作,云天勵(lì)飛進(jìn)一步加強(qiáng)了產(chǎn)品的市場(chǎng)適配,尤其是在具身智能和邊緣計(jì)算領(lǐng)域,確保其AI推理芯片能夠在不同應(yīng)用環(huán)境中發(fā)揮最佳性能。
結(jié)語(yǔ):AI推理芯片未來(lái),看中國(guó)
AI芯片是智能硬件和算力網(wǎng)絡(luò)的核心,AI推理芯片的需求已進(jìn)入加速期,國(guó)產(chǎn)AI芯片正面臨前所未有的機(jī)遇。而中國(guó)作為全球AI產(chǎn)業(yè)重要一環(huán),必須在這一浪潮中抓住核心技術(shù)機(jī)遇。
云天勵(lì)飛通過(guò)“算力積木”架構(gòu)和國(guó)產(chǎn)工藝的創(chuàng)新,以及持續(xù)的產(chǎn)業(yè)積累,提供高效、低成本的AI推理芯片產(chǎn)品,逐步打破技術(shù)和工程壁壘,滿足大模型推理的廣泛需求。
隨著AI推理需求的爆發(fā)和國(guó)產(chǎn)生態(tài)的不斷完善,AI推理芯片的全球競(jìng)爭(zhēng)預(yù)計(jì)將更加激烈。國(guó)產(chǎn)AI芯片的發(fā)展不僅依賴于技術(shù)突破,更需產(chǎn)業(yè)鏈上下游的協(xié)同配合。
面對(duì)技術(shù)突破及生態(tài)構(gòu)建挑戰(zhàn),云天勵(lì)飛的戰(zhàn)略聚焦將不僅限于技術(shù)創(chuàng)新,還要通過(guò)推動(dòng)推理芯片標(biāo)準(zhǔn)化,為國(guó)產(chǎn)芯片在全球市場(chǎng)的布局鋪平道路。
九界神帝葉休:一拳解決不了?那就再來(lái)一拳,天才也得低頭
《九界神帝》作者:神月第一章少年侯大梁,帝都,葉侯府!“少年侯葉休聽(tīng)旨——-?!崩咸O(jiān)扯著喉嚨,二三十個(gè)皇家衛(wèi)士站在太監(jiān)背后,擠滿了侯府院落|。前方,少年十五六歲,一襲白衣,臉色蒼白,氣息微弱飄忽,身旁一個(gè)美艷動(dòng)人的少女?dāng)v扶?!叭~休,跪下聽(tīng)旨。”太監(jiān)看向少年,滿臉傲然_。“本侯特權(quán),面圣都不跪等會(huì)說(shuō)。
小說(shuō):九界天才遍地,葉休一拳一個(gè),終成神帝傳奇!
葉休:一拳不夠就兩拳,九界神帝之路無(wú)人能擋今日推薦:《九界神帝》作者:神月。點(diǎn)擊文末超鏈接開(kāi)始觀看吧~第一百五十七章那可就由不得他們了“大哥,這件事情是因我而起,和二哥無(wú)關(guān),靈武家族要罰的話就罰我一個(gè)人吧,你可一定要救二哥啊__?!卞X(qián)多多也爬了起來(lái),他知道這件事情是因他而起,牧等會(huì)說(shuō)。
一拳兩拳闖九界,葉休終成九界神帝
葉休以絕世武力橫掃九界,成就一代神帝傳奇今日推薦:《九界神帝》作者:神月。點(diǎn)擊文末超鏈接開(kāi)始觀看吧~第一百七十一章不倒金剛倒了要知道,如今的他也不過(guò)十九歲而已。十九歲的凝元三重天高手,就算是放在總部之中,也是屈指可數(shù)的|。只要不出現(xiàn)意外,其將來(lái)是不可估量的?!斑€行?!毙N隨口說(shuō)了這么一句有幫助請(qǐng)點(diǎn)贊|。
來(lái)源:紅網(wǎng)
作者:柯凌波
編輯:閩雪柳
本文為紅辣椒評(píng)論 原創(chuàng)文章,僅系作者個(gè)人觀點(diǎn),不代表紅網(wǎng)立場(chǎng)。轉(zhuǎn)載請(qǐng)附原文出處鏈接和本聲明。