傾聽別人的傾訴(倒苦水抱怨等),并且迎合回應表示理解同情,這是不是對人的一種善意尊重?
內(nèi)蒙牧民都能用 GPS 放牧了,拼多多西部包郵以后還有哪些稀罕事?
智東西作者ZeR0編輯漠影
國產(chǎn)AI芯片正處于重要的歷史機遇窗口。
今年的模型創(chuàng)新仿佛踩上風火輪,開源模型密集發(fā)布更新,進一步引爆推理需求增長。AI推理芯片將在接下來的AI產(chǎn)業(yè)發(fā)展進程中扮演更加重要的角色。
在世界人工智能大會期間,云天勵飛公布全面聚焦AI芯片的最新戰(zhàn)略,并披露最新AI芯片全產(chǎn)品矩陣及未來三年商用路線圖,計劃到2028年將單芯片算力最高擴展至數(shù)千TOPS。
憑借創(chuàng)新的“算力積木”架構,云天勵飛AI芯片能實現(xiàn)7B、14B、130B、671B等不同參數(shù)量大模型的高效推理,適配DeepSeek-R1系列模型、阿里QwQ-32B模型及國產(chǎn)鴻蒙操作系統(tǒng)。云天勵飛CTO李愛軍告訴智東西,包括DeepSeek、Qwen模型在內(nèi),云天勵飛AI芯片與主流開源模型均已完成適配。
特別的是,云天勵飛打造的是“純血版國產(chǎn)工藝AI芯片”,而且實現(xiàn)端邊云“三棲”落地,應用場景小到嵌入式硬件,中到邊緣計算與具身智能,大到萬億參數(shù)大模型。
在具身智能領域,云天勵飛已與十余家機器人廠商建立合作關系,邊緣芯片產(chǎn)品應用于服務型機器人已進入實際部署階段。該公司還作為創(chuàng)始股東之一,參與投資了深圳國創(chuàng)具身智能機器人有限公司,探索AI推理芯片在具身智能等未來前沿方向的應用和落地。
值此時機,云天勵飛為何全面聚焦AI芯片?又如何在日趨激烈的AI芯片競賽突出重圍?云天勵飛董事長兼CEO陳寧博士、云天勵飛CTO李愛軍與智東西進行了深入交流。
一、風起大模型,解讀AI推理風向與歷史性機遇
云天勵飛董事長兼CEO陳寧博士談道,2030年是全球公認的AGI(通用人工智能)可能實現(xiàn)重大突破的一個轉折時間點。
2025年上半年,AI應用落地提速,Agent成本的降低將帶來應用普惠,隨著AI應用無處不在,全球AI將從訓練時代進入以應用驅動為核心的推理時代。
過去十多年,AI領域經(jīng)歷了以訓練為核心的GPU時代——通過訓練大規(guī)模模型獲取基礎能力,類似于電力時代的“發(fā)電”,注重大規(guī)模生產(chǎn)算力。
而AI推理芯片的關鍵在于“用電”,即在終端及云邊端以低成本、高效率完成推理運算,更關注成本效率及規(guī)模化應用,不像訓練芯片那樣依賴CUDA。
在此背景下,AI推理芯片的重要性逐漸上升,成為推動AI技術應用落地及與商業(yè)化的核心驅動力。
陳寧認為,AI推理芯片不僅在推理效率、能效方面具有重大優(yōu)勢,它們還將作為智能硬件、機器人、智能設備等終端產(chǎn)品的“引擎”,成為AI產(chǎn)業(yè)大規(guī)模應用的核心基礎。
AI推理芯片是中國搶占第四次工業(yè)革命的一張關鍵入場券。隨著2030年AGI(通用人工智能)突破的潛在臨近,AI推理芯片能否實現(xiàn)成本、性能和生態(tài)的突破,決定了中國能否在新一輪技術浪潮中占據(jù)主動。
未來五年,從可穿戴設備、AI原生硬件、智能終端到算力設備,AI將重塑所有電子設備,推理算力網(wǎng)絡將無處不在,推動推理芯片市場迎來爆發(fā)。
在國外先進算力幾乎完全禁售的背景下,這將帶給國產(chǎn)全自主可控AI推理算力巨大市場機會。
經(jīng)過10年積累,云天勵飛在AI推理芯片技術研發(fā)和市場應用上的布局逐漸成熟,選擇在2025年全面聚焦AI推理芯片,抓住這一歷史性機遇。
二、圍繞AI芯片沉淀四大業(yè)務板塊,端邊云支撐高性價比大模型推理
到2028年,云天勵飛計劃研發(fā)三代“算力積木”架構,布局三大商用計算平臺(深界、深擎、深穹),算力最高可擴展至數(shù)千TOPS。下一代芯片將基于第二代“算力積木”架構,通過新型計算、近存計算、NB-Mesh新型互連、新型封裝、NB-Link通用擴展性五大創(chuàng)新,打造新型大模型推理平臺。
·深穹:大模型推理一體機
·深界:邊緣網(wǎng)關、邊緣盒子
·深擎:機器人/無人機/無人車
基于國產(chǎn)工藝及自研“算力積木”架構,其深界DeepEdge10平臺已適配DeepSeek、QwQ-32B模型及鴻蒙操作系統(tǒng)。
云天勵飛的整體產(chǎn)品布局圍繞自研AI推理芯片展開,沉淀出4大業(yè)務板塊,布局端邊云,聯(lián)合生態(tài)合作伙伴推出覆蓋從模組、邊緣推理盒子、AI推理加速卡、大模型推理一體機、智算服務器等產(chǎn)品。
其產(chǎn)品已廣泛應用于智算中心、智慧城市、具身智能機器人等領域。
2024年6月,云天勵飛簽署《AI算力運營合作框架協(xié)議》,拿到16億元的算力服務大單,提供總算力規(guī)模約4000PFLOPS的AI訓練及推理異構算力服務。
面向具身智能和機器人領域,云天勵飛戰(zhàn)略投資閃極科技、智慧互通、臻識科技、神州云海、國創(chuàng)具身機器人等,為AI推理芯片的應用開辟了更多元化的場景。
未來云天勵飛AI推理芯片計劃重點面向三大市場:邊緣計算、云端大模型推理、智能機器。
在市場拓展方面,云天勵飛獲得16億元算力服務大單,顯示了其產(chǎn)品在部分關鍵領域的商業(yè)認可度。
三、靠芯片拿到創(chuàng)業(yè)“第一桶金”,云天勵飛做AI芯片的基因與優(yōu)勢
身為一家AI公司,云天勵飛為什么要自研AI推理芯片?答案是通過深入匹配特定應用場景,自研AI芯片一旦形成規(guī)模化,就能帶來更好的成本效益。
據(jù)陳寧分享,云天勵飛核心創(chuàng)始團隊具備深厚的NPU芯片設計經(jīng)驗,最早從2009年開始參與神經(jīng)網(wǎng)絡處理器相關設計。
該公司的第一筆融資,也來源于芯片。
2014年,云天勵飛剛成立時,初心是通過NPU降低AI計算成本,當時還用NPU課題申報了政府的人才引進項目,還拿下第一,得到研發(fā)資金支持。
可以說,芯片,正是云天勵飛初期獲得投資的關鍵。
云天勵飛在2015年啟動第一代深度學習處理器的研發(fā),2018年-2019年第二代AI芯片DeepEye1000流片成功,并且在之后幾年中,云天勵飛AI芯片相繼并下國家發(fā)改委、科技部、工信部重大專項的“大滿貫”,
2020年5月,因被列入美國實體清單,云天勵飛不得做出戰(zhàn)略調(diào)整,堅定轉向國產(chǎn)工藝路線。
面對國產(chǎn)工藝尚不成熟的挑戰(zhàn),它首創(chuàng)“算力積木”架構,并敲定國產(chǎn)先進工藝的合作,成為首家采用國產(chǎn)Chiplet工藝的AI芯片,自此踏上用國產(chǎn)工藝設計商用AI芯片的新階段?!八懔Ψe木”架構通過模塊化設計解決單芯片面積與良率的矛盾,以實現(xiàn)算力的可擴展性和商業(yè)化應用。
自2020年決定轉向國產(chǎn)工藝后,云天勵飛不僅克服了當時國產(chǎn)工藝的不成熟問題,還通過技術創(chuàng)新實現(xiàn)了算力積木架構的突破。通過自主研發(fā)的算力架構和互連技術,云天勵飛在推理芯片領域取得了顯著的技術進展,并將其成功轉化為實際的產(chǎn)品。
此后兩年多時間,云天勵飛斬獲第十屆吳文俊人工智能專項獎芯片項目一等獎,發(fā)布大模型邊緣推理一體芯片深界DeepEdge10,全面入局大模型推理。
這兩年來,云天勵飛相繼推出AI推理芯片深界DeepEdge200、大模型推理加速卡深穹6000及深穹X6000Mesh加速卡,其DeepSeek一體機解決方案在深圳龍崗、南山、湛江等城市落地。
結合算力架構演進趨勢,云天勵飛在過去10年研發(fā)了5代NPU,技術路徑貫穿從小規(guī)模CNN算法到面向大規(guī)模預訓練模型的異構計算需求。這些在智能硬件、智算中心、智慧城市等領域積累的know-how和經(jīng)驗,為其芯片設計和持續(xù)迭代提供了明確指導,形成了算法-芯片-應用的“數(shù)據(jù)飛輪”閉環(huán),推動AI和芯片技術持續(xù)迭代。
“算法芯片化”一直是云天勵飛的核心技術策略,將不斷進化的AI算法映射至芯片架構,確保算法與硬件高度契合?;诩夹g與應用雙輪驅動,云天勵飛旨在提升AI推理芯片在性能、成本、功耗及生態(tài)兼容等方面的綜合競爭力,堅持“算法芯片化”技術策略。
通過與生態(tài)伙伴緊密合作,云天勵飛進一步加強了產(chǎn)品的市場適配,尤其是在具身智能和邊緣計算領域,確保其AI推理芯片能夠在不同應用環(huán)境中發(fā)揮最佳性能。
結語:AI推理芯片未來,看中國
AI芯片是智能硬件和算力網(wǎng)絡的核心,AI推理芯片的需求已進入加速期,國產(chǎn)AI芯片正面臨前所未有的機遇。而中國作為全球AI產(chǎn)業(yè)重要一環(huán),必須在這一浪潮中抓住核心技術機遇。
云天勵飛通過“算力積木”架構和國產(chǎn)工藝的創(chuàng)新,以及持續(xù)的產(chǎn)業(yè)積累,提供高效、低成本的AI推理芯片產(chǎn)品,逐步打破技術和工程壁壘,滿足大模型推理的廣泛需求。
隨著AI推理需求的爆發(fā)和國產(chǎn)生態(tài)的不斷完善,AI推理芯片的全球競爭預計將更加激烈。國產(chǎn)AI芯片的發(fā)展不僅依賴于技術突破,更需產(chǎn)業(yè)鏈上下游的協(xié)同配合。
面對技術突破及生態(tài)構建挑戰(zhàn),云天勵飛的戰(zhàn)略聚焦將不僅限于技術創(chuàng)新,還要通過推動推理芯片標準化,為國產(chǎn)芯片在全球市場的布局鋪平道路。
她是丞相長女 為助夫君登上皇位, 容貌盡毀, 忍辱負重 豈料, 渣男早已與心機庶妹暗中茍合, 借口將她打入冷宮, 再聯(lián)手庶妹逼她剖腹取子, 逼她唯一的弟弟淪落成乞丐, 殺她全家, 將她做成人彘, 囚禁于牲口棚, 與豬狗同眠, 受盡人世間最慘痛的折磨。 一朝重生, 她脫胎換骨, 浴血歸來, 仇恨加身 頂著一張美艷的 冷血臉 , 奪重權, 斗姨娘, 殺庶妹, 杖奴婢, 遇神殺神, 遇鬼殺鬼, 渣男隔三差五登門拜訪, 變著花樣提親, 她只給他一個字 “ 滾! ”