智東西作者ZeR0編輯漠影
國產(chǎn)AI芯片正處于重要的歷史機(jī)遇窗口。
今年的模型創(chuàng)新仿佛踩上風(fēng)火輪,開源模型密集發(fā)布更新,進(jìn)一步引爆推理需求增長。AI推理芯片將在接下來的AI產(chǎn)業(yè)發(fā)展進(jìn)程中扮演更加重要的角色。
在世界人工智能大會期間,云天勵(lì)飛公布全面聚焦AI芯片的最新戰(zhàn)略,并披露最新AI芯片全產(chǎn)品矩陣及未來三年商用路線圖,計(jì)劃到2028年將單芯片算力最高擴(kuò)展至數(shù)千TOPS。
憑借創(chuàng)新的“算力積木”架構(gòu),云天勵(lì)飛AI芯片能實(shí)現(xiàn)7B、14B、130B、671B等不同參數(shù)量大模型的高效推理,適配DeepSeek-R1系列模型、阿里QwQ-32B模型及國產(chǎn)鴻蒙操作系統(tǒng)。云天勵(lì)飛CTO李愛軍告訴智東西,包括DeepSeek、Qwen模型在內(nèi),云天勵(lì)飛AI芯片與主流開源模型均已完成適配。
特別的是,云天勵(lì)飛打造的是“純血版國產(chǎn)工藝AI芯片”,而且實(shí)現(xiàn)端邊云“三棲”落地,應(yīng)用場景小到嵌入式硬件,中到邊緣計(jì)算與具身智能,大到萬億參數(shù)大模型。
在具身智能領(lǐng)域,云天勵(lì)飛已與十余家機(jī)器人廠商建立合作關(guān)系,邊緣芯片產(chǎn)品應(yīng)用于服務(wù)型機(jī)器人已進(jìn)入實(shí)際部署階段。該公司還作為創(chuàng)始股東之一,參與投資了深圳國創(chuàng)具身智能機(jī)器人有限公司,探索AI推理芯片在具身智能等未來前沿方向的應(yīng)用和落地。
值此時(shí)機(jī),云天勵(lì)飛為何全面聚焦AI芯片?又如何在日趨激烈的AI芯片競賽突出重圍?云天勵(lì)飛董事長兼CEO陳寧博士、云天勵(lì)飛CTO李愛軍與智東西進(jìn)行了深入交流。
一、風(fēng)起大模型,解讀AI推理風(fēng)向與歷史性機(jī)遇
云天勵(lì)飛董事長兼CEO陳寧博士談道,2030年是全球公認(rèn)的AGI(通用人工智能)可能實(shí)現(xiàn)重大突破的一個(gè)轉(zhuǎn)折時(shí)間點(diǎn)。
2025年上半年,AI應(yīng)用落地提速,Agent成本的降低將帶來應(yīng)用普惠,隨著AI應(yīng)用無處不在,全球AI將從訓(xùn)練時(shí)代進(jìn)入以應(yīng)用驅(qū)動為核心的推理時(shí)代。
過去十多年,AI領(lǐng)域經(jīng)歷了以訓(xùn)練為核心的GPU時(shí)代——通過訓(xùn)練大規(guī)模模型獲取基礎(chǔ)能力,類似于電力時(shí)代的“發(fā)電”,注重大規(guī)模生產(chǎn)算力。
而AI推理芯片的關(guān)鍵在于“用電”,即在終端及云邊端以低成本、高效率完成推理運(yùn)算,更關(guān)注成本效率及規(guī)模化應(yīng)用,不像訓(xùn)練芯片那樣依賴CUDA。
在此背景下,AI推理芯片的重要性逐漸上升,成為推動AI技術(shù)應(yīng)用落地及與商業(yè)化的核心驅(qū)動力。
陳寧認(rèn)為,AI推理芯片不僅在推理效率、能效方面具有重大優(yōu)勢,它們還將作為智能硬件、機(jī)器人、智能設(shè)備等終端產(chǎn)品的“引擎”,成為AI產(chǎn)業(yè)大規(guī)模應(yīng)用的核心基礎(chǔ)。
AI推理芯片是中國搶占第四次工業(yè)革命的一張關(guān)鍵入場券。隨著2030年AGI(通用人工智能)突破的潛在臨近,AI推理芯片能否實(shí)現(xiàn)成本、性能和生態(tài)的突破,決定了中國能否在新一輪技術(shù)浪潮中占據(jù)主動。
未來五年,從可穿戴設(shè)備、AI原生硬件、智能終端到算力設(shè)備,AI將重塑所有電子設(shè)備,推理算力網(wǎng)絡(luò)將無處不在,推動推理芯片市場迎來爆發(fā)。
在國外先進(jìn)算力幾乎完全禁售的背景下,這將帶給國產(chǎn)全自主可控AI推理算力巨大市場機(jī)會。
經(jīng)過10年積累,云天勵(lì)飛在AI推理芯片技術(shù)研發(fā)和市場應(yīng)用上的布局逐漸成熟,選擇在2025年全面聚焦AI推理芯片,抓住這一歷史性機(jī)遇。
二、圍繞AI芯片沉淀四大業(yè)務(wù)板塊,端邊云支撐高性價(jià)比大模型推理
到2028年,云天勵(lì)飛計(jì)劃研發(fā)三代“算力積木”架構(gòu),布局三大商用計(jì)算平臺(深界、深擎、深穹),算力最高可擴(kuò)展至數(shù)千TOPS。下一代芯片將基于第二代“算力積木”架構(gòu),通過新型計(jì)算、近存計(jì)算、NB-Mesh新型互連、新型封裝、NB-Link通用擴(kuò)展性五大創(chuàng)新,打造新型大模型推理平臺。
·深穹:大模型推理一體機(jī)
·深界:邊緣網(wǎng)關(guān)、邊緣盒子
·深擎:機(jī)器人/無人機(jī)/無人車
基于國產(chǎn)工藝及自研“算力積木”架構(gòu),其深界DeepEdge10平臺已適配DeepSeek、QwQ-32B模型及鴻蒙操作系統(tǒng)。
云天勵(lì)飛的整體產(chǎn)品布局圍繞自研AI推理芯片展開,沉淀出4大業(yè)務(wù)板塊,布局端邊云,聯(lián)合生態(tài)合作伙伴推出覆蓋從模組、邊緣推理盒子、AI推理加速卡、大模型推理一體機(jī)、智算服務(wù)器等產(chǎn)品。
其產(chǎn)品已廣泛應(yīng)用于智算中心、智慧城市、具身智能機(jī)器人等領(lǐng)域。
2024年6月,云天勵(lì)飛簽署《AI算力運(yùn)營合作框架協(xié)議》,拿到16億元的算力服務(wù)大單,提供總算力規(guī)模約4000PFLOPS的AI訓(xùn)練及推理異構(gòu)算力服務(wù)。
面向具身智能和機(jī)器人領(lǐng)域,云天勵(lì)飛戰(zhàn)略投資閃極科技、智慧互通、臻識科技、神州云海、國創(chuàng)具身機(jī)器人等,為AI推理芯片的應(yīng)用開辟了更多元化的場景。
未來云天勵(lì)飛AI推理芯片計(jì)劃重點(diǎn)面向三大市場:邊緣計(jì)算、云端大模型推理、智能機(jī)器。
在市場拓展方面,云天勵(lì)飛獲得16億元算力服務(wù)大單,顯示了其產(chǎn)品在部分關(guān)鍵領(lǐng)域的商業(yè)認(rèn)可度。
三、靠芯片拿到創(chuàng)業(yè)“第一桶金”,云天勵(lì)飛做AI芯片的基因與優(yōu)勢
身為一家AI公司,云天勵(lì)飛為什么要自研AI推理芯片?答案是通過深入匹配特定應(yīng)用場景,自研AI芯片一旦形成規(guī)模化,就能帶來更好的成本效益。
據(jù)陳寧分享,云天勵(lì)飛核心創(chuàng)始團(tuán)隊(duì)具備深厚的NPU芯片設(shè)計(jì)經(jīng)驗(yàn),最早從2009年開始參與神經(jīng)網(wǎng)絡(luò)處理器相關(guān)設(shè)計(jì)。
該公司的第一筆融資,也來源于芯片。
2014年,云天勵(lì)飛剛成立時(shí),初心是通過NPU降低AI計(jì)算成本,當(dāng)時(shí)還用NPU課題申報(bào)了政府的人才引進(jìn)項(xiàng)目,還拿下第一,得到研發(fā)資金支持。
可以說,芯片,正是云天勵(lì)飛初期獲得投資的關(guān)鍵。
云天勵(lì)飛在2015年啟動第一代深度學(xué)習(xí)處理器的研發(fā),2018年-2019年第二代AI芯片DeepEye1000流片成功,并且在之后幾年中,云天勵(lì)飛AI芯片相繼并下國家發(fā)改委、科技部、工信部重大專項(xiàng)的“大滿貫”,
2020年5月,因被列入美國實(shí)體清單,云天勵(lì)飛不得做出戰(zhàn)略調(diào)整,堅(jiān)定轉(zhuǎn)向國產(chǎn)工藝路線。
面對國產(chǎn)工藝尚不成熟的挑戰(zhàn),它首創(chuàng)“算力積木”架構(gòu),并敲定國產(chǎn)先進(jìn)工藝的合作,成為首家采用國產(chǎn)Chiplet工藝的AI芯片,自此踏上用國產(chǎn)工藝設(shè)計(jì)商用AI芯片的新階段?!八懔Ψe木”架構(gòu)通過模塊化設(shè)計(jì)解決單芯片面積與良率的矛盾,以實(shí)現(xiàn)算力的可擴(kuò)展性和商業(yè)化應(yīng)用。
自2020年決定轉(zhuǎn)向國產(chǎn)工藝后,云天勵(lì)飛不僅克服了當(dāng)時(shí)國產(chǎn)工藝的不成熟問題,還通過技術(shù)創(chuàng)新實(shí)現(xiàn)了算力積木架構(gòu)的突破。通過自主研發(fā)的算力架構(gòu)和互連技術(shù),云天勵(lì)飛在推理芯片領(lǐng)域取得了顯著的技術(shù)進(jìn)展,并將其成功轉(zhuǎn)化為實(shí)際的產(chǎn)品。
此后兩年多時(shí)間,云天勵(lì)飛斬獲第十屆吳文俊人工智能專項(xiàng)獎芯片項(xiàng)目一等獎,發(fā)布大模型邊緣推理一體芯片深界DeepEdge10,全面入局大模型推理。
這兩年來,云天勵(lì)飛相繼推出AI推理芯片深界DeepEdge200、大模型推理加速卡深穹6000及深穹X6000Mesh加速卡,其DeepSeek一體機(jī)解決方案在深圳龍崗、南山、湛江等城市落地。
結(jié)合算力架構(gòu)演進(jìn)趨勢,云天勵(lì)飛在過去10年研發(fā)了5代NPU,技術(shù)路徑貫穿從小規(guī)模CNN算法到面向大規(guī)模預(yù)訓(xùn)練模型的異構(gòu)計(jì)算需求。這些在智能硬件、智算中心、智慧城市等領(lǐng)域積累的know-how和經(jīng)驗(yàn),為其芯片設(shè)計(jì)和持續(xù)迭代提供了明確指導(dǎo),形成了算法-芯片-應(yīng)用的“數(shù)據(jù)飛輪”閉環(huán),推動AI和芯片技術(shù)持續(xù)迭代。
“算法芯片化”一直是云天勵(lì)飛的核心技術(shù)策略,將不斷進(jìn)化的AI算法映射至芯片架構(gòu),確保算法與硬件高度契合?;诩夹g(shù)與應(yīng)用雙輪驅(qū)動,云天勵(lì)飛旨在提升AI推理芯片在性能、成本、功耗及生態(tài)兼容等方面的綜合競爭力,堅(jiān)持“算法芯片化”技術(shù)策略。
通過與生態(tài)伙伴緊密合作,云天勵(lì)飛進(jìn)一步加強(qiáng)了產(chǎn)品的市場適配,尤其是在具身智能和邊緣計(jì)算領(lǐng)域,確保其AI推理芯片能夠在不同應(yīng)用環(huán)境中發(fā)揮最佳性能。
結(jié)語:AI推理芯片未來,看中國
AI芯片是智能硬件和算力網(wǎng)絡(luò)的核心,AI推理芯片的需求已進(jìn)入加速期,國產(chǎn)AI芯片正面臨前所未有的機(jī)遇。而中國作為全球AI產(chǎn)業(yè)重要一環(huán),必須在這一浪潮中抓住核心技術(shù)機(jī)遇。
云天勵(lì)飛通過“算力積木”架構(gòu)和國產(chǎn)工藝的創(chuàng)新,以及持續(xù)的產(chǎn)業(yè)積累,提供高效、低成本的AI推理芯片產(chǎn)品,逐步打破技術(shù)和工程壁壘,滿足大模型推理的廣泛需求。
隨著AI推理需求的爆發(fā)和國產(chǎn)生態(tài)的不斷完善,AI推理芯片的全球競爭預(yù)計(jì)將更加激烈。國產(chǎn)AI芯片的發(fā)展不僅依賴于技術(shù)突破,更需產(chǎn)業(yè)鏈上下游的協(xié)同配合。
面對技術(shù)突破及生態(tài)構(gòu)建挑戰(zhàn),云天勵(lì)飛的戰(zhàn)略聚焦將不僅限于技術(shù)創(chuàng)新,還要通過推動推理芯片標(biāo)準(zhǔn)化,為國產(chǎn)芯片在全球市場的布局鋪平道路。
4本男主腹黑霸道小說:《當(dāng)總裁戀愛時(shí)》全程高甜,別喊牙疼哦!
第一本《當(dāng)總裁戀愛時(shí)》——沈滄眉精彩劇情:同事又問:“黎特助,你到底是怎么說服她的?”其他同事也過來湊熱鬧,嚷嚷著要她請客,黎晏書自然是滿口答應(yīng)————。這時(shí),她的手機(jī)鈴聲突然響了起來,她一看,是海蓮娜的經(jīng)紀(jì)人楊小姐來電,連忙出去接電話-。楊小姐先和她確認(rèn)合同有無收到,緊接著要和她確實(shí)合作細(xì)節(jié)、日程安排等,來調(diào)配海蓮娜 經(jīng)典溫馨獨(dú)寵現(xiàn)代言情文,豆瓣評分達(dá)9.8,媲美《當(dāng)總裁戀愛時(shí)》1.《紈绔小拽妻:霍爺寵上天》——作者:凹凸蠻精彩內(nèi)容:齊帕越想越不對勁,虧得她自持聰明絕頂,當(dāng)真沒有想到有朝一日被一個(gè)小妮子給牽著鼻子走-。怎么就偏偏信了她的話了?齊帕回過頭,面目可憎的瞪著兩兩并肩而來的兩人,一時(shí)壓抑的怒火瞬間后面會介紹。虐戀情深,四本越看越吸引的言情小說,比《當(dāng)總裁戀愛時(shí)》還精彩