智東西作者ZeR0編輯漠影
國產(chǎn)AI芯片正處于重要的歷史機遇窗口。
今年的模型創(chuàng)新仿佛踩上風火輪,開源模型密集發(fā)布更新,進一步引爆推理需求增長。AI推理芯片將在接下來的AI產(chǎn)業(yè)發(fā)展進程中扮演更加重要的角色。
在世界人工智能大會期間,云天勵飛公布全面聚焦AI芯片的最新戰(zhàn)略,并披露最新AI芯片全產(chǎn)品矩陣及未來三年商用路線圖,計劃到2028年將單芯片算力最高擴展至數(shù)千TOPS。
憑借創(chuàng)新的“算力積木”架構(gòu),云天勵飛AI芯片能實現(xiàn)7B、14B、130B、671B等不同參數(shù)量大模型的高效推理,適配DeepSeek-R1系列模型、阿里QwQ-32B模型及國產(chǎn)鴻蒙操作系統(tǒng)。云天勵飛CTO李愛軍告訴智東西,包括DeepSeek、Qwen模型在內(nèi),云天勵飛AI芯片與主流開源模型均已完成適配。
特別的是,云天勵飛打造的是“純血版國產(chǎn)工藝AI芯片”,而且實現(xiàn)端邊云“三棲”落地,應用場景小到嵌入式硬件,中到邊緣計算與具身智能,大到萬億參數(shù)大模型。
在具身智能領(lǐng)域,云天勵飛已與十余家機器人廠商建立合作關(guān)系,邊緣芯片產(chǎn)品應用于服務型機器人已進入實際部署階段。該公司還作為創(chuàng)始股東之一,參與投資了深圳國創(chuàng)具身智能機器人有限公司,探索AI推理芯片在具身智能等未來前沿方向的應用和落地。
值此時機,云天勵飛為何全面聚焦AI芯片?又如何在日趨激烈的AI芯片競賽突出重圍?云天勵飛董事長兼CEO陳寧博士、云天勵飛CTO李愛軍與智東西進行了深入交流。
一、風起大模型,解讀AI推理風向與歷史性機遇
云天勵飛董事長兼CEO陳寧博士談道,2030年是全球公認的AGI(通用人工智能)可能實現(xiàn)重大突破的一個轉(zhuǎn)折時間點。
2025年上半年,AI應用落地提速,Agent成本的降低將帶來應用普惠,隨著AI應用無處不在,全球AI將從訓練時代進入以應用驅(qū)動為核心的推理時代。
過去十多年,AI領(lǐng)域經(jīng)歷了以訓練為核心的GPU時代——通過訓練大規(guī)模模型獲取基礎(chǔ)能力,類似于電力時代的“發(fā)電”,注重大規(guī)模生產(chǎn)算力。
而AI推理芯片的關(guān)鍵在于“用電”,即在終端及云邊端以低成本、高效率完成推理運算,更關(guān)注成本效率及規(guī)?;瘧?,不像訓練芯片那樣依賴CUDA。
在此背景下,AI推理芯片的重要性逐漸上升,成為推動AI技術(shù)應用落地及與商業(yè)化的核心驅(qū)動力。
陳寧認為,AI推理芯片不僅在推理效率、能效方面具有重大優(yōu)勢,它們還將作為智能硬件、機器人、智能設(shè)備等終端產(chǎn)品的“引擎”,成為AI產(chǎn)業(yè)大規(guī)模應用的核心基礎(chǔ)。
AI推理芯片是中國搶占第四次工業(yè)革命的一張關(guān)鍵入場券。隨著2030年AGI(通用人工智能)突破的潛在臨近,AI推理芯片能否實現(xiàn)成本、性能和生態(tài)的突破,決定了中國能否在新一輪技術(shù)浪潮中占據(jù)主動。
未來五年,從可穿戴設(shè)備、AI原生硬件、智能終端到算力設(shè)備,AI將重塑所有電子設(shè)備,推理算力網(wǎng)絡(luò)將無處不在,推動推理芯片市場迎來爆發(fā)。
在國外先進算力幾乎完全禁售的背景下,這將帶給國產(chǎn)全自主可控AI推理算力巨大市場機會。
經(jīng)過10年積累,云天勵飛在AI推理芯片技術(shù)研發(fā)和市場應用上的布局逐漸成熟,選擇在2025年全面聚焦AI推理芯片,抓住這一歷史性機遇。
二、圍繞AI芯片沉淀四大業(yè)務板塊,端邊云支撐高性價比大模型推理
到2028年,云天勵飛計劃研發(fā)三代“算力積木”架構(gòu),布局三大商用計算平臺(深界、深擎、深穹),算力最高可擴展至數(shù)千TOPS。下一代芯片將基于第二代“算力積木”架構(gòu),通過新型計算、近存計算、NB-Mesh新型互連、新型封裝、NB-Link通用擴展性五大創(chuàng)新,打造新型大模型推理平臺。
·深穹:大模型推理一體機
·深界:邊緣網(wǎng)關(guān)、邊緣盒子
·深擎:機器人/無人機/無人車
基于國產(chǎn)工藝及自研“算力積木”架構(gòu),其深界DeepEdge10平臺已適配DeepSeek、QwQ-32B模型及鴻蒙操作系統(tǒng)。
云天勵飛的整體產(chǎn)品布局圍繞自研AI推理芯片展開,沉淀出4大業(yè)務板塊,布局端邊云,聯(lián)合生態(tài)合作伙伴推出覆蓋從模組、邊緣推理盒子、AI推理加速卡、大模型推理一體機、智算服務器等產(chǎn)品。
其產(chǎn)品已廣泛應用于智算中心、智慧城市、具身智能機器人等領(lǐng)域。
2024年6月,云天勵飛簽署《AI算力運營合作框架協(xié)議》,拿到16億元的算力服務大單,提供總算力規(guī)模約4000PFLOPS的AI訓練及推理異構(gòu)算力服務。
面向具身智能和機器人領(lǐng)域,云天勵飛戰(zhàn)略投資閃極科技、智慧互通、臻識科技、神州云海、國創(chuàng)具身機器人等,為AI推理芯片的應用開辟了更多元化的場景。
未來云天勵飛AI推理芯片計劃重點面向三大市場:邊緣計算、云端大模型推理、智能機器。
在市場拓展方面,云天勵飛獲得16億元算力服務大單,顯示了其產(chǎn)品在部分關(guān)鍵領(lǐng)域的商業(yè)認可度。
三、靠芯片拿到創(chuàng)業(yè)“第一桶金”,云天勵飛做AI芯片的基因與優(yōu)勢
身為一家AI公司,云天勵飛為什么要自研AI推理芯片?答案是通過深入匹配特定應用場景,自研AI芯片一旦形成規(guī)?;?,就能帶來更好的成本效益。
據(jù)陳寧分享,云天勵飛核心創(chuàng)始團隊具備深厚的NPU芯片設(shè)計經(jīng)驗,最早從2009年開始參與神經(jīng)網(wǎng)絡(luò)處理器相關(guān)設(shè)計。
該公司的第一筆融資,也來源于芯片。
2014年,云天勵飛剛成立時,初心是通過NPU降低AI計算成本,當時還用NPU課題申報了政府的人才引進項目,還拿下第一,得到研發(fā)資金支持。
可以說,芯片,正是云天勵飛初期獲得投資的關(guān)鍵。
云天勵飛在2015年啟動第一代深度學習處理器的研發(fā),2018年-2019年第二代AI芯片DeepEye1000流片成功,并且在之后幾年中,云天勵飛AI芯片相繼并下國家發(fā)改委、科技部、工信部重大專項的“大滿貫”,
2020年5月,因被列入美國實體清單,云天勵飛不得做出戰(zhàn)略調(diào)整,堅定轉(zhuǎn)向國產(chǎn)工藝路線。
面對國產(chǎn)工藝尚不成熟的挑戰(zhàn),它首創(chuàng)“算力積木”架構(gòu),并敲定國產(chǎn)先進工藝的合作,成為首家采用國產(chǎn)Chiplet工藝的AI芯片,自此踏上用國產(chǎn)工藝設(shè)計商用AI芯片的新階段?!八懔Ψe木”架構(gòu)通過模塊化設(shè)計解決單芯片面積與良率的矛盾,以實現(xiàn)算力的可擴展性和商業(yè)化應用。
自2020年決定轉(zhuǎn)向國產(chǎn)工藝后,云天勵飛不僅克服了當時國產(chǎn)工藝的不成熟問題,還通過技術(shù)創(chuàng)新實現(xiàn)了算力積木架構(gòu)的突破。通過自主研發(fā)的算力架構(gòu)和互連技術(shù),云天勵飛在推理芯片領(lǐng)域取得了顯著的技術(shù)進展,并將其成功轉(zhuǎn)化為實際的產(chǎn)品。
此后兩年多時間,云天勵飛斬獲第十屆吳文俊人工智能專項獎芯片項目一等獎,發(fā)布大模型邊緣推理一體芯片深界DeepEdge10,全面入局大模型推理。
這兩年來,云天勵飛相繼推出AI推理芯片深界DeepEdge200、大模型推理加速卡深穹6000及深穹X6000Mesh加速卡,其DeepSeek一體機解決方案在深圳龍崗、南山、湛江等城市落地。
結(jié)合算力架構(gòu)演進趨勢,云天勵飛在過去10年研發(fā)了5代NPU,技術(shù)路徑貫穿從小規(guī)模CNN算法到面向大規(guī)模預訓練模型的異構(gòu)計算需求。這些在智能硬件、智算中心、智慧城市等領(lǐng)域積累的know-how和經(jīng)驗,為其芯片設(shè)計和持續(xù)迭代提供了明確指導,形成了算法-芯片-應用的“數(shù)據(jù)飛輪”閉環(huán),推動AI和芯片技術(shù)持續(xù)迭代。
“算法芯片化”一直是云天勵飛的核心技術(shù)策略,將不斷進化的AI算法映射至芯片架構(gòu),確保算法與硬件高度契合?;诩夹g(shù)與應用雙輪驅(qū)動,云天勵飛旨在提升AI推理芯片在性能、成本、功耗及生態(tài)兼容等方面的綜合競爭力,堅持“算法芯片化”技術(shù)策略。
通過與生態(tài)伙伴緊密合作,云天勵飛進一步加強了產(chǎn)品的市場適配,尤其是在具身智能和邊緣計算領(lǐng)域,確保其AI推理芯片能夠在不同應用環(huán)境中發(fā)揮最佳性能。
結(jié)語:AI推理芯片未來,看中國
AI芯片是智能硬件和算力網(wǎng)絡(luò)的核心,AI推理芯片的需求已進入加速期,國產(chǎn)AI芯片正面臨前所未有的機遇。而中國作為全球AI產(chǎn)業(yè)重要一環(huán),必須在這一浪潮中抓住核心技術(shù)機遇。
云天勵飛通過“算力積木”架構(gòu)和國產(chǎn)工藝的創(chuàng)新,以及持續(xù)的產(chǎn)業(yè)積累,提供高效、低成本的AI推理芯片產(chǎn)品,逐步打破技術(shù)和工程壁壘,滿足大模型推理的廣泛需求。
隨著AI推理需求的爆發(fā)和國產(chǎn)生態(tài)的不斷完善,AI推理芯片的全球競爭預計將更加激烈。國產(chǎn)AI芯片的發(fā)展不僅依賴于技術(shù)突破,更需產(chǎn)業(yè)鏈上下游的協(xié)同配合。
面對技術(shù)突破及生態(tài)構(gòu)建挑戰(zhàn),云天勵飛的戰(zhàn)略聚焦將不僅限于技術(shù)創(chuàng)新,還要通過推動推理芯片標準化,為國產(chǎn)芯片在全球市場的布局鋪平道路。
言情小說《重生之最強棄少》如何能撩到常年單身的你
口碑之作《重生之最強棄少》,最出其不意的章節(jié),一作封神,承包你的...
獨家收藏《重生之最強棄少》,不做炮灰,要做命運的主宰者!
免責聲明:本文內(nèi)容由開放的智能模型自動生成,僅供參考。