對話嘉賓
吳雄昂新加坡CoreLabTech公司董事長(CoreLabTech)
AniketSaha美國Tenstorrent公司副總裁(Tenstorrent)
梅迪廣州希姆半導體科技有限公司首席執(zhí)行官(希姆計算)
第五代精簡指令集(RISC-V)自2010年問世以來,在全球學術界和產業(yè)界共同努力推動下,逐步迎來爆發(fā)式增長,目前已與x86、ARM成為全球最重要的三種計算指令集。作為賦能產業(yè)創(chuàng)新的強大引擎,RISC-V為中國科技創(chuàng)新開辟了新的賽道。2024年中國貢獻了RISC-V芯片一半以上的出貨量,業(yè)界預測未來幾年中國將在全球RISC-V市場占據主導地位,不過當前RISC-V在產業(yè)發(fā)展過程中也面臨諸多困難和挑戰(zhàn)。
第五屆RISC-V中國峰會期間,全球RISC-V領域三家專業(yè)廠商Tenstorrent、CorelabTech與希姆計算三方合作打造“CPU+生態(tài)平臺+NPU”一體化平臺,被認為是填補行業(yè)空白的關鍵舉措。三方合作對突破RISC-VAI發(fā)展瓶頸能夠帶來哪些價值?如何更好推動RISC-VAI開源生態(tài)建設?RISC-VAI技術的發(fā)展如何更好地展開國際協(xié)同?
AI時代需要架構革新開放架構為創(chuàng)新提供土壤
吳雄昂:我們選擇用RISC-V打造創(chuàng)新平臺,原因主要有幾方面。一是之前在ARM公司的多年從業(yè)經歷讓我深刻認識到,行業(yè)核心趨勢是越開放越利于創(chuàng)新、越能加快創(chuàng)新速度。二是AI作為當下最大的技術革命,必然需要新的架構,以適應不同場景下數(shù)據、計算需求和負載的變化。而ARM的優(yōu)先目標是快速增加收入和鞏固其壟斷性優(yōu)勢地位,難以滿足新興應用需求,開放的架構才能為創(chuàng)新提供土壤。
回顧過往,我們曾在ARM公司助力眾多開拓者從小企業(yè)成長為行業(yè)巨頭,在此次AI浪潮下,我們期望借助更開放的RISC-V平臺賦能創(chuàng)新者。同時,在當前AI發(fā)展過程中,算力問題亟待解決,開源的RISC-V架構正是突破算力困境的最佳路徑。我們希望通過更開放的架構,能讓新的創(chuàng)新者和開拓者有更好的機會取得成功。
AniketSaha:我在CPU的IP領域已經工作了很長時間,RISC-V為最終用戶提供了比任何傳統(tǒng)架構更多的控制權,用戶可以根據需求進行定制、添加擴展和配置。比如我們的Tensix內核有五個嵌入式RISC-V處理器,如果用其他傳統(tǒng)架構來實現(xiàn)這一點,就必須先要獲得架構許可證,自己構建內核,并花費大量資金。而RISC-V讓我們獲得了創(chuàng)新的自由和能力。
人工智能模型每年都在快速變化,企業(yè)需要完全控制從算法到設備的整個人工智能堆棧,市場上有各種定制化需求,而傳統(tǒng)架構無法支持,因為它們支持通用架構。RISC-V使我們能夠了解和分析工作負載,并設計最適合的處理器。
梅迪:希姆計算選擇RISC-V,最核心一點就是在靈活性、擴展性、可編程性的平衡方面,RISC-V是最好的架構。AI技術發(fā)展到今天,“摩爾定律”逐步失效,伴隨著大模型的收斂和當前大芯片制程工藝的限制,芯片的設計目標在于壓榨每一分算力,尤其對于推理任務更是如此,從這個維度上來看,使用相同的工藝面積,顯存帶寬,盡可能的減少開銷損耗,提升效率,必須要在軟硬件協(xié)同直至系統(tǒng)層面進行極致優(yōu)化。
在這個領域里,RISC-V提供給我們的除了靈活性之外,還能夠助力我們實現(xiàn)從CPU到NPU再到DPU整個體系的優(yōu)化。當我們在追求極致優(yōu)化時,我們把系統(tǒng)所有的組成構件,包括不同芯片和整個計算體系結構進行優(yōu)化,從而給到市場一個最好的解決方案。比如希姆計算的NPU卡通過與Tenstorrent的CPU深度適配,結合CorelabTech的系統(tǒng)級優(yōu)化,將協(xié)同效率提升至90%以上,從而達到一個系統(tǒng)級別的計算效率提升。
開源生態(tài)的繁榮需要“共建共享”
吳雄昂:開源生態(tài)需要“硬件錨點”,我們將發(fā)布平臺的硬件設計規(guī)范,允許下游廠商基于規(guī)范進行二次開發(fā),既保證兼容性,又保留靈活性。同時,我們還將聯(lián)合建立“RISC-VAI測試認證中心”,開源測試工具與基準數(shù)據集,避免“重復造輪子”。
制作AI計算芯片需要多個計算環(huán)節(jié),二是需要優(yōu)化定制化的計算平臺。RISC-V因為是一個新生事物,只有大家共同努力才能解決這個問題。目前RISC-V在中低端應用較多,然而在高性能計算方面真正能夠做好的仍比較少。我們通過三方合作,打造出一個通用型平臺,在這個平臺上可以對接各種各樣的計算卡,通過這種方式最終實現(xiàn)一體化。
AniketSaha:開源不是“免費共享”,而是“標準化協(xié)同”,我們計劃將CPU與NPU的協(xié)同接口、并行計算協(xié)議開源,供社區(qū)參考優(yōu)化,同時聯(lián)合高校與研究機構發(fā)起“RISC-VAI算力競賽”,吸引開發(fā)者基于平臺開發(fā)模型。與閉源架構相比,RISC-V的開源特性讓AI加速算法可直接基于指令集優(yōu)化,而三方合作將輸出“開源加速庫”(如適配大模型推理的算子庫),降低開發(fā)者遷移成本。
我們正在試圖消除進入RISC-V的障礙,我們已經向開源社區(qū)捐贈了大量的驗證抵押品,另外,我們還計劃開源已經經過驗證了的內核。RISC-V要想在未來取得成功,業(yè)界需要高質量的開源內核。
梅迪:這是一個非常好的問題,在開源生態(tài)“共建共享”方面,希姆計算主要做了三件事,一是主導和倡導技術標準制定與開源項目推進,特別是在RISC-VMatrix擴展標準化工作中發(fā)揮主導作用,提案制定高效矩陣運算指令集,并通過GitHub發(fā)布開源項目,為全球開發(fā)者提供可參考和參與的技術框架。二是打造全棧開源解決方案:推出基于RISC-V架構的“芯片+AI”全棧閉環(huán)方案,涵蓋芯片、算力服務、模型適配及智能體應用等方面。方便開發(fā)者基于其方案進行二次開發(fā)和應用落地,推動開源生態(tài)的技術實踐與成果共享。
而第三件事就是參與國際開源社區(qū)協(xié)作,我們在RISC-V國際基金會相關工作中積極貢獻,推動RISC-V開源生態(tài)的全球化共建。而這次的合作,希姆計算將會開源NPU與RISC-VCPU的適配驅動代碼,并貢獻大模型部署案例,讓開發(fā)者快速上手。我們還將推動“RISC-VAI生態(tài)聯(lián)盟”,聯(lián)合云廠商、算法公司共建模型適配社區(qū),實現(xiàn)“一家優(yōu)化、全生態(tài)復用”,加速開源模型在RISC-V平臺的落地。
RISC-V技術發(fā)展需要國際協(xié)同
吳雄昂:在全球化背景下,RISC-V其實也是一座國際合作的橋梁,RISC-V技術的發(fā)展需要國際協(xié)同。為推動RISC-V技術的全球化應用,首先需要有一個統(tǒng)一標準,通過統(tǒng)一標準來共享資源;然后要吸引不同國家的參與,也需要人才共享。另外,要根據各個國家各個地區(qū)的不同需求進行不同的技術開發(fā)。
在這方面,我們的全球化路徑是“本地化產品+全球化標準”,在亞太、歐美推出區(qū)域定制版平臺(如適配當?shù)仉娏藴?、?shù)據合規(guī)要求),但核心技術標準保持統(tǒng)一。我們的定位是做“RISC-VAI產品的全球橋梁”,幫助不同區(qū)域的技術創(chuàng)新轉化為標準化產品,實現(xiàn)“技術-產品-市場”的全球化流動。
展望未來,我認為RISC-V目前已經進入往上走的階段,預計明年這個時間段會有許多新的基于RISC-V的高性能計算芯片出現(xiàn),今后5年RISC-V將走到高速發(fā)展的拐點。
梅迪:在推進國際協(xié)同發(fā)展方面,我們的定位是成為“RISC-VAI加速的全球推動者”,向國際社區(qū)貢獻NPU與RISC-V協(xié)同的技術專利,推動形成全球統(tǒng)一的加速接口標準。全球化關鍵是“生態(tài)互聯(lián)”,我們將與云服務商和上下游廠家合作,使NPU卡可以更便捷地接入國際云平臺和各種邊緣計算系統(tǒng),讓全球用戶可通過“算力即服務”體驗RISC-VAI能力。
通過我們這種三方合作,很快可以讓大家看到與以前不同的地方,因為RISC-V提供了新的發(fā)展路徑,大家的想象空間未來會非常大。(采寫:半月談記者高少華)
良心大作《末世吞噬者》,讓我仰望的人,原來是這樣神一般的存在!
傳奇大作《末世吞噬者》,少年,你不按套路出牌的樣子真的很靚仔
末世吞噬者要吃我!一個人的統(tǒng)治之路從這里開始