在2025世界人工智能大會開幕之際,四位國產(chǎn)AI芯片大佬出現(xiàn)在階躍星辰Step3模型發(fā)布會的圓桌論壇上,沐曦創(chuàng)始人、董事長兼總經(jīng)理陳維良,天數(shù)智芯董事長兼CEO蓋魯江,燧原科技創(chuàng)始人、董事長兼CEO趙立東和壁仞科技創(chuàng)始人、董事長兼CEO張文首度罕見同臺,圍繞“大模型與芯片的協(xié)同創(chuàng)新和應用落地”展開了對話,就國產(chǎn)大模型與AI芯片的協(xié)同痛點,以及如何讓中國的開源模型和AI芯片在推理大場景下有更好的爆發(fā)進行了深層分析和前瞻研判。
大模型協(xié)同創(chuàng)新尚存重要痛點
盡管國內(nèi)大模型和AI芯片行業(yè)發(fā)展如火如荼,其中大模型已逐步推進至應用于各大領域,而AI芯片則取得不斷突破提升,但兩者之間的真正協(xié)同有待提高,尚存在一些痛點待解決。
上海天數(shù)智芯半導體股份有限公司董事長兼CEO蓋魯首先對國內(nèi)大模型產(chǎn)業(yè)的發(fā)展給予充分肯定。他表示,從芯片廠商來看,2025年從年初到現(xiàn)在,確實芯片在大模型應用中的實際出貨量在快速增長。尤其是在一體機市場,從年初到現(xiàn)在已是快速發(fā)展和擴張的過程,其中核心原因是應用開始快速發(fā)展,真正做到了芯片、模型助力場景應用,而場景反饋回來的數(shù)據(jù)和信息又推動了大模型與芯片的進一步迭代,從而形成了良性的正向循環(huán)。
“未來在大模型應用過程中,芯片需要對場景針對性提升,以及根據(jù)應用情況進行具體迭代和改進。這是一個非常確定性的方向。”他說。
對于大模型應用的痛點,上海壁仞科技股份有限公司創(chuàng)始人、董事長劍CEO張文稱,“從芯片端來看,首先是成本。伴隨著使用成本大幅上升,工程上迫切需要高性價比的方案降低大模型的推理成本,這可能需要與產(chǎn)業(yè)鏈合作伙伴共同努力。其次是供應鏈。對國產(chǎn)AI芯片廠商而言,要想更好地服務于國產(chǎn)大模型,要確保充足的算力供應。未來先進AI芯片的產(chǎn)能對于國內(nèi)AI持續(xù)健康發(fā)展非常關鍵。而國內(nèi)芯片企業(yè)都有同樣的痛點,需要解決掉?!?/p>
他還指出,AI的三個要素,第一個數(shù)據(jù)、第二算法,第三算力。中國在數(shù)據(jù)、算法方面并不落后,但算力需要一些時間追趕,相信國產(chǎn)芯片有能力通過時間實現(xiàn)逐步追趕。
在上海燧原科技股份有限公司創(chuàng)始人、董事長CEO趙立東看來,大模型的真正落地是從今年春節(jié)開始,接下來會有另外一波更大規(guī)模的大模型推理落地,原因是基于開源的大模型進行二次、三次開發(fā)的時候,將會有更多針對行業(yè)和應用場景的蒸餾版出現(xiàn)。
至于這一進程中的痛點,趙立東表示,“這牽扯到復雜的國際背景,但降低成本非常重要。無論是大模型還是AI芯片企業(yè),如果想長期、可持續(xù)性發(fā)展就要實現(xiàn)從技術產(chǎn)品到商業(yè)化閉環(huán),也就是既降低成本又能爭取盈利,同時需要加強協(xié)作來實現(xiàn)更高性價比,以更好的效率或者商業(yè)利益。而這也是我們未來的目標。”
對此,沐曦集成電路(上海)股份有限公司創(chuàng)始人、董事長兼總經(jīng)理陳維良持有類似觀點。他表示,大模型的創(chuàng)新應用和爆發(fā)有兩方面比較重要。首先是大模型的能力。如果大模型有很多事情做不了,就會被用戶放棄使用。其次就是使用成本。目前,很多先進的技術既降低了成本又保持了能力,包括提升對多模態(tài)的處理能力。這對企業(yè)而言,能夠真正做到降本增效和解決相關問題。
“通過算力網(wǎng)上模型應用,形成一個集團產(chǎn)業(yè)鏈,真正形成對行業(yè)、企業(yè)有價值的解決方法,或者整體解決方案,這樣能夠為企業(yè)帶來降本增效的價值,一定會形成比較爆發(fā)式的應用?!标惥S良說。
多重路徑支撐行業(yè)應用爆發(fā)
近年來,整個大模型算力正從訓練端往推理端快速轉(zhuǎn)移,而未來無論在C端還是B端或?qū)⒊霈F(xiàn)各自非常重要的爆發(fā)時期,其中國內(nèi)的開源模型和AI芯片將發(fā)揮舉足輕重的作用。
張文表示,“國產(chǎn)大模型對國產(chǎn)芯片的發(fā)展特別重要,因為階躍、千問、Deepseek等國產(chǎn)大模型的水平和國外差不多,但國產(chǎn)芯片與國外的距離還比較大。而設計芯片是挺痛苦的事情,從開始設計到做出來需要兩年以后,所以一定要有前瞻性才能把芯片設計好。對此,適配國產(chǎn)大模型公司,對我們的產(chǎn)品定義有非常大的幫助,其中包括針對大模型的超長文本、MOE架構、多模態(tài)、大規(guī)模推理等特性需求進行調(diào)整?!?/p>
他還稱,國內(nèi)大模型的發(fā)展,從某種意義上是牽動國內(nèi)芯片的設計發(fā)展。
陳維良則指出,現(xiàn)在國產(chǎn)芯片受到供應鏈影響,芯片發(fā)展路線圖或產(chǎn)品特點與國際芯片并不一樣?;诖耍A躍星辰打造了step3,對存算尤其存算比等一些芯片特性進行了模型優(yōu)化,這一舉措非常具有代表性,也指出了很好的方向,即芯片和模型之間要有更緊密的合作。
“但還要往前走一步的是,芯片企業(yè)和模型企業(yè)在更深度的算子優(yōu)化上做更多事情以及更開放,由此形成更高效的模型,同時再跟應用層以同樣的方式進行深度合作,尤其是利用中國的產(chǎn)業(yè)鏈和數(shù)據(jù)優(yōu)勢,真真正正打造立足本土,具有中國特色的自主自強解決方案?!?/p>
對于如何讓模型和芯片配合得更好,蓋魯江認為,這需要國產(chǎn)芯片實現(xiàn)兩大突破。
首先是體量。體量一定要上去,只有數(shù)量的積累才能獲取更多的經(jīng)驗。
其次是降本。第一,通過軟件實現(xiàn)模型優(yōu)化和推理應用上的降本;提升芯片的使用效率。對芯片廠商而言,這兩方面需要加強突破,包括如何把芯片的使用效率做得更高,功耗做得更低,良率做得更高,把真正推理場景中token的成本等降低,最終讓利給最終用戶。第二,深入到應用場景里面去,因為不同的應用場景對模型和芯片要求不太一樣,需要提出一攬子的解決方案。第三,通過組建行業(yè)聯(lián)盟,例如本次大會上成立的“模芯生態(tài)創(chuàng)新聯(lián)盟”,打通芯片到整機廠商,再到模型廠商,再到最終應用場景的整個鏈條,建立一套統(tǒng)一的規(guī)范和標準,這樣可以省去大量的前期投入和適配成本。
“通過三方面實現(xiàn)降本增效,就能達到真正把模型用起來的最終目的。”他強調(diào)。
在趙立東看來,國產(chǎn)AI芯片的面前一直有兩座大山,一個是高端芯片制造,另外一個就是生態(tài)。而大模型和芯片的合作一定會涉及生態(tài),這需要雙向奔赴。大模型特別是高性能推理,現(xiàn)在爆發(fā)時間點的機遇是大模型和芯片如何深度優(yōu)化。而基于燧原科技的經(jīng)驗,以及與戰(zhàn)略合作伙伴經(jīng)過幾年磨合,其產(chǎn)品對標英偉達的芯片,性價比可以做到兩倍到三倍。
“此外,我們一直強調(diào)算力普惠。但現(xiàn)在既不普也不惠,這恰恰是國產(chǎn)模型跟國產(chǎn)芯片合作的重要契機。我們期待未來國產(chǎn)大模型與AI芯片企業(yè)非常深入的加強合作,實現(xiàn)低成本、高性能等特性,從而用國產(chǎn)算力支撐大模型的長遠發(fā)展目標?!壁w立東表示。
舊人不曾入夢
在那個人生地不熟的地方,她根本不知道該怎么去處理這件事,急得哭紅了眼_。 也就是在那個時候顧傾洲出現(xiàn)了,他告訴她哭不能解決問題,帶著她去調(diào)監(jiān)控,終于成功抓到小偷拿回東西|_。 分別前,顧傾洲打趣她:“我可是幫了你大忙,你連一句謝謝都不說一聲嗎?” 沈言心聞言臉刷的一下就紅了,隨后別扭的給 她的冰冷與算計,讓梅長蘇十分惱火,很多觀眾看到這里也覺得她很冷血。但這就是無法泯滅的人性:在能力有限的情況下,選擇保全自己最親近的人。并非故人不曾入夢,這就是她目前僅有的選擇而已。我覺得《瑯琊榜》好看也是好看在這里,真誠地尊重觀眾作為一個人的基本感情和普遍人性,而且盡可能地還原和展現(xiàn)這其中的迂回說完了-。《唐詩三百首》卷一、五言古詩