在2025世界人工智能大會開幕之際,四位國產(chǎn)AI芯片大佬出現(xiàn)在階躍星辰Step3模型發(fā)布會的圓桌論壇上,沐曦創(chuàng)始人、董事長兼總經(jīng)理陳維良,天數(shù)智芯董事長兼CEO蓋魯江,燧原科技創(chuàng)始人、董事長兼CEO趙立東和壁仞科技創(chuàng)始人、董事長兼CEO張文首度罕見同臺,圍繞“大模型與芯片的協(xié)同創(chuàng)新和應用落地”展開了對話,就國產(chǎn)大模型與AI芯片的協(xié)同痛點,以及如何讓中國的開源模型和AI芯片在推理大場景下有更好的爆發(fā)進行了深層分析和前瞻研判。
大模型協(xié)同創(chuàng)新尚存重要痛點
盡管國內(nèi)大模型和AI芯片行業(yè)發(fā)展如火如荼,其中大模型已逐步推進至應用于各大領域,而AI芯片則取得不斷突破提升,但兩者之間的真正協(xié)同有待提高,尚存在一些痛點待解決。
上海天數(shù)智芯半導體股份有限公司董事長兼CEO蓋魯首先對國內(nèi)大模型產(chǎn)業(yè)的發(fā)展給予充分肯定。他表示,從芯片廠商來看,2025年從年初到現(xiàn)在,確實芯片在大模型應用中的實際出貨量在快速增長。尤其是在一體機市場,從年初到現(xiàn)在已是快速發(fā)展和擴張的過程,其中核心原因是應用開始快速發(fā)展,真正做到了芯片、模型助力場景應用,而場景反饋回來的數(shù)據(jù)和信息又推動了大模型與芯片的進一步迭代,從而形成了良性的正向循環(huán)。
“未來在大模型應用過程中,芯片需要對場景針對性提升,以及根據(jù)應用情況進行具體迭代和改進。這是一個非常確定性的方向。”他說。
對于大模型應用的痛點,上海壁仞科技股份有限公司創(chuàng)始人、董事長劍CEO張文稱,“從芯片端來看,首先是成本。伴隨著使用成本大幅上升,工程上迫切需要高性價比的方案降低大模型的推理成本,這可能需要與產(chǎn)業(yè)鏈合作伙伴共同努力。其次是供應鏈。對國產(chǎn)AI芯片廠商而言,要想更好地服務于國產(chǎn)大模型,要確保充足的算力供應。未來先進AI芯片的產(chǎn)能對于國內(nèi)AI持續(xù)健康發(fā)展非常關鍵。而國內(nèi)芯片企業(yè)都有同樣的痛點,需要解決掉?!?/p>
他還指出,AI的三個要素,第一個數(shù)據(jù)、第二算法,第三算力。中國在數(shù)據(jù)、算法方面并不落后,但算力需要一些時間追趕,相信國產(chǎn)芯片有能力通過時間實現(xiàn)逐步追趕。
在上海燧原科技股份有限公司創(chuàng)始人、董事長CEO趙立東看來,大模型的真正落地是從今年春節(jié)開始,接下來會有另外一波更大規(guī)模的大模型推理落地,原因是基于開源的大模型進行二次、三次開發(fā)的時候,將會有更多針對行業(yè)和應用場景的蒸餾版出現(xiàn)。
至于這一進程中的痛點,趙立東表示,“這牽扯到復雜的國際背景,但降低成本非常重要。無論是大模型還是AI芯片企業(yè),如果想長期、可持續(xù)性發(fā)展就要實現(xiàn)從技術產(chǎn)品到商業(yè)化閉環(huán),也就是既降低成本又能爭取盈利,同時需要加強協(xié)作來實現(xiàn)更高性價比,以更好的效率或者商業(yè)利益。而這也是我們未來的目標?!?/p>
對此,沐曦集成電路(上海)股份有限公司創(chuàng)始人、董事長兼總經(jīng)理陳維良持有類似觀點。他表示,大模型的創(chuàng)新應用和爆發(fā)有兩方面比較重要。首先是大模型的能力。如果大模型有很多事情做不了,就會被用戶放棄使用。其次就是使用成本。目前,很多先進的技術既降低了成本又保持了能力,包括提升對多模態(tài)的處理能力。這對企業(yè)而言,能夠真正做到降本增效和解決相關問題。
“通過算力網(wǎng)上模型應用,形成一個集團產(chǎn)業(yè)鏈,真正形成對行業(yè)、企業(yè)有價值的解決方法,或者整體解決方案,這樣能夠為企業(yè)帶來降本增效的價值,一定會形成比較爆發(fā)式的應用?!标惥S良說。
多重路徑支撐行業(yè)應用爆發(fā)
近年來,整個大模型算力正從訓練端往推理端快速轉移,而未來無論在C端還是B端或?qū)⒊霈F(xiàn)各自非常重要的爆發(fā)時期,其中國內(nèi)的開源模型和AI芯片將發(fā)揮舉足輕重的作用。
張文表示,“國產(chǎn)大模型對國產(chǎn)芯片的發(fā)展特別重要,因為階躍、千問、Deepseek等國產(chǎn)大模型的水平和國外差不多,但國產(chǎn)芯片與國外的距離還比較大。而設計芯片是挺痛苦的事情,從開始設計到做出來需要兩年以后,所以一定要有前瞻性才能把芯片設計好。對此,適配國產(chǎn)大模型公司,對我們的產(chǎn)品定義有非常大的幫助,其中包括針對大模型的超長文本、MOE架構、多模態(tài)、大規(guī)模推理等特性需求進行調(diào)整。”
他還稱,國內(nèi)大模型的發(fā)展,從某種意義上是牽動國內(nèi)芯片的設計發(fā)展。
陳維良則指出,現(xiàn)在國產(chǎn)芯片受到供應鏈影響,芯片發(fā)展路線圖或產(chǎn)品特點與國際芯片并不一樣。基于此,階躍星辰打造了step3,對存算尤其存算比等一些芯片特性進行了模型優(yōu)化,這一舉措非常具有代表性,也指出了很好的方向,即芯片和模型之間要有更緊密的合作。
“但還要往前走一步的是,芯片企業(yè)和模型企業(yè)在更深度的算子優(yōu)化上做更多事情以及更開放,由此形成更高效的模型,同時再跟應用層以同樣的方式進行深度合作,尤其是利用中國的產(chǎn)業(yè)鏈和數(shù)據(jù)優(yōu)勢,真真正正打造立足本土,具有中國特色的自主自強解決方案?!?/p>
對于如何讓模型和芯片配合得更好,蓋魯江認為,這需要國產(chǎn)芯片實現(xiàn)兩大突破。
首先是體量。體量一定要上去,只有數(shù)量的積累才能獲取更多的經(jīng)驗。
其次是降本。第一,通過軟件實現(xiàn)模型優(yōu)化和推理應用上的降本;提升芯片的使用效率。對芯片廠商而言,這兩方面需要加強突破,包括如何把芯片的使用效率做得更高,功耗做得更低,良率做得更高,把真正推理場景中token的成本等降低,最終讓利給最終用戶。第二,深入到應用場景里面去,因為不同的應用場景對模型和芯片要求不太一樣,需要提出一攬子的解決方案。第三,通過組建行業(yè)聯(lián)盟,例如本次大會上成立的“模芯生態(tài)創(chuàng)新聯(lián)盟”,打通芯片到整機廠商,再到模型廠商,再到最終應用場景的整個鏈條,建立一套統(tǒng)一的規(guī)范和標準,這樣可以省去大量的前期投入和適配成本。
“通過三方面實現(xiàn)降本增效,就能達到真正把模型用起來的最終目的?!彼麖娬{(diào)。
在趙立東看來,國產(chǎn)AI芯片的面前一直有兩座大山,一個是高端芯片制造,另外一個就是生態(tài)。而大模型和芯片的合作一定會涉及生態(tài),這需要雙向奔赴。大模型特別是高性能推理,現(xiàn)在爆發(fā)時間點的機遇是大模型和芯片如何深度優(yōu)化。而基于燧原科技的經(jīng)驗,以及與戰(zhàn)略合作伙伴經(jīng)過幾年磨合,其產(chǎn)品對標英偉達的芯片,性價比可以做到兩倍到三倍。
“此外,我們一直強調(diào)算力普惠。但現(xiàn)在既不普也不惠,這恰恰是國產(chǎn)模型跟國產(chǎn)芯片合作的重要契機。我們期待未來國產(chǎn)大模型與AI芯片企業(yè)非常深入的加強合作,實現(xiàn)低成本、高性能等特性,從而用國產(chǎn)算力支撐大模型的長遠發(fā)展目標?!壁w立東表示。
余承東意外站臺!百度網(wǎng)盤這個功能點了備考黨的窩
除此之外,AI視頻筆記還支持多端同步、PDF 導出、微信分享帶視頻鏈接,甚至可以直接發(fā)布到百度文庫進行變現(xiàn)--。一款出色的AI應用應該是怎么樣?從能力上來看,百度?盤做存儲起家,在AI創(chuàng)作這?塊按理說并沒有太多的儲備,但為何這次應變?nèi)绱搜杆伲總€人猜測,這樣的變化與百度早在去年9月份,就將網(wǎng)盤C 端業(yè)務并入文庫B 9. Huddle特色亮點超強協(xié)作功能:適合大型機構之間的項目協(xié)同管理,文件版本一目了然。安全細節(jié)在線:企業(yè)用戶對共享和審批流程有嚴苛需求,Huddle通過嚴格的審計跟蹤滿足這一需求——。高效分享文檔:高隱私保護技術,保證在管理同步文件時絕對放心。10. 百度企業(yè)云盤亮點:國內(nèi)訪問速度快,超低延遲;支持中文界面、微信直接分有幫助請點贊-。什么是數(shù)字化辦公?