今年的世界人工智能大會(WAIC2025),國產(chǎn)算力芯片的發(fā)展仍然備受關(guān)注。
在后摩智能展臺,后摩智能M50系列產(chǎn)品首次亮相,后摩智能M50芯片與力謀?BX50計算盒子、力擎LQ50DuoM.2卡等旗下核心產(chǎn)品一同位于展臺的核心位置。
作為主打端邊大模型和存算一體的芯片企業(yè),后摩智能這次帶來的M50芯片專為大模型推理設(shè)計,主要面向AIPC(人工智能個人電腦)、智能終端等場景。
“未來大模型有兩個重要發(fā)展趨勢:一是大模型的重心逐漸從訓(xùn)練向推理遷移。二是逐漸從云端智能逐漸向邊端或者端邊智能遷移?!?月25日,后摩智能CEO(首席執(zhí)行官)吳強(qiáng)對觀察者網(wǎng)等表示。
他認(rèn)為,未來的計算格局有可能是端、邊、云的混合體,但是90%的數(shù)據(jù)處理可能會在端和邊,只有10%的訓(xùn)練算到云端做更昂貴或者更復(fù)雜的任務(wù)在云端做。
圖源:觀察者網(wǎng)
后摩智能創(chuàng)立于2020年,創(chuàng)立早期定位為基于存算一體技術(shù)的大算力AI(人工智能)芯片研發(fā)企業(yè)。創(chuàng)始人吳強(qiáng)擁有美國普林斯頓大學(xué)博士學(xué)位,曾任地平線CTO(首席技術(shù)官)。
M50芯片被視為后摩智能過去兩年交出的一份答卷。
據(jù)介紹,M50芯片實(shí)現(xiàn)了160TOPSINT8、100TFLOPSbFP16的物理算力,搭配最大48GB內(nèi)存與153.6GB/s的超高帶寬,典型功耗僅10W,相當(dāng)于手機(jī)快充的功率,能讓PC、智能語音設(shè)備、機(jī)器人等智能移動終端高效運(yùn)行1.5B到70B參數(shù)的本地大模型,實(shí)現(xiàn)了“高算力、低功耗、即插即用”。
除了M50芯片,后摩智能此次發(fā)布的產(chǎn)品矩陣形成了覆蓋端側(cè)到邊緣的多元算力方案。力擎LQ50DuoM.2卡以口香糖大小的標(biāo)準(zhǔn)M.2規(guī)格,為AIPC、陪伴機(jī)器人等移動終端提供“即插即用”的端側(cè)AI能力。
吳強(qiáng)曾表示,國產(chǎn)替代的企業(yè)可以對標(biāo)海外的某類產(chǎn)品,但絕不能用同樣的技術(shù)路徑進(jìn)行照搬,如英偉達(dá)、AMD等國際巨頭的研發(fā)、工程、供應(yīng)鏈能力遠(yuǎn)超過初創(chuàng)企業(yè),硬碰硬難以取得成功,創(chuàng)業(yè)公司需要另辟蹊徑,以一種差異化的技術(shù)路線來應(yīng)對和巨頭們之間的競爭。
當(dāng)前,后摩智能通過存算一體技術(shù)與大模型的深度融合,推動AI大模型在端邊側(cè)實(shí)現(xiàn)“離線可用、數(shù)據(jù)留痕不外露”。
吳強(qiáng)稱,M50芯片的發(fā)布是后摩智能現(xiàn)階段邁出的重要的一步,后面會推出更多的芯片去解決端邊大模型的算力和功耗問題以及帶寬問題。“長期來說,后摩希望定位在端邊AI計算。”
在他看來,M50的發(fā)布只是一個開始,“我們的目標(biāo)是讓大模型算力像電力一樣隨處可得、隨取隨用?!?/p>
圖源:觀察者網(wǎng)
“無論是商業(yè)還是個人,端邊的AI都有可能成為更懂你的AI。因?yàn)樗旧硎怯泻芏嗵焐膬?yōu)勢,盡管剛剛開始,大模型剛剛開始,端邊剛剛開始,但是它本身有更好的實(shí)時響應(yīng),更低的使用成本,更安全的數(shù)據(jù)隱私,以及更好的個人的用戶體驗(yàn)。未來這會成為一個趨勢?!眳菑?qiáng)說。
2024年初,后摩智能把第一代芯片調(diào)整了一版,推出了M30,針對大模型做了一些調(diào)整和優(yōu)化。
本次推出的M50產(chǎn)品可廣泛應(yīng)用于消費(fèi)終端、智能辦公、智能工業(yè)等多元領(lǐng)域,且均能在離線狀態(tài)下實(shí)現(xiàn)全流程本地處理,從源頭杜絕數(shù)據(jù)聯(lián)網(wǎng)傳輸風(fēng)險。
吳強(qiáng)還披露了當(dāng)下后摩智能的意向客戶,包括聯(lián)想的下一代AIPC產(chǎn)品、訊飛聽見的下一代智能語音設(shè)備以及中國移動的全新一代的5G+AI邊緣計算設(shè)備等。
“目前我們看重幾個領(lǐng)域,一是平板和電腦這種消費(fèi)終端類,大模型是生產(chǎn)力工具。二是智能語音系統(tǒng),大模型語音會議也是我們重點(diǎn)布局的方面。三是運(yùn)營商的邊緣計算,5G+AI是一個趨勢?!彼f道。
吳強(qiáng)還提到,機(jī)器人包括具身智能機(jī)器人(特指陪伴機(jī)器人),更像是十年前的智能駕駛,是一個新興的垂直賽道,格局還未定,“大家還有機(jī)會”。
“只要是端邊,只要對大模型有需要,對功耗敏感,都有可能是我們的客戶,需要我們逐步地拓展。目前大方向是消費(fèi)終端、智能辦公、智能工業(yè),機(jī)器人也算其中,這是我們重點(diǎn)在布局的幾個領(lǐng)域。”他表示。
面向未來,后摩智能已啟動下一代DRAM-PIM技術(shù)研發(fā),通過將計算單元直接嵌入DRAM陣列,使計算與存儲的協(xié)同更加緊密高效。該技術(shù)將突破1TB/s片內(nèi)帶寬,能效較現(xiàn)有水平再提升三倍,推動百億參數(shù)大模型在終端設(shè)備實(shí)現(xiàn)普及,讓更強(qiáng)大的AI算力能夠融入PC、平板等日常設(shè)備。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
11本已完結(jié)異世召喚流小說,主角召喚名臣猛將、漫天神魔建立仙朝
免責(zé)聲明:本文內(nèi)容由開放的智能模型自動生成,僅供參考。