肖耘濤
人工智能大模型的能力持續(xù)在升級,應(yīng)用場景也越來越多。對應(yīng)的算力、算法、數(shù)據(jù)都成為產(chǎn)業(yè)發(fā)展的關(guān)鍵環(huán)節(jié)。記者在世界人工智能大會現(xiàn)場了解到,當(dāng)前相關(guān)市場需求持續(xù)高速增長,國內(nèi)的產(chǎn)業(yè)鏈也在加速成熟。
總臺央視記者寧坤:現(xiàn)在的人工智能大模型已經(jīng)可以裝到智能眼鏡里,它背后的訓(xùn)練要用大規(guī)模的算力去支撐。現(xiàn)場展出的一組機(jī)柜就是現(xiàn)在算力中心里會用到的一種超節(jié)點(diǎn),它可以讓數(shù)百張算力卡像一臺計算機(jī)一樣,實(shí)現(xiàn)高效的內(nèi)部連接和運(yùn)算,進(jìn)一步突破了當(dāng)前行業(yè)訓(xùn)練大模型所面臨的算力瓶頸。
近年來,全國多地都在持續(xù)投入建設(shè)大型數(shù)據(jù)中心,為人工智能大模型訓(xùn)練提供更充足的算力保障。工信部數(shù)據(jù)顯示,截至2025年3月底,我國在用算力標(biāo)準(zhǔn)機(jī)架已達(dá)到1043萬架,智能算力規(guī)模達(dá)到748每秒百億億次浮點(diǎn)運(yùn)算,為海量數(shù)據(jù)計算提供了智能底座。
華鯤振宇副總裁宋璇:現(xiàn)在的算力訓(xùn)練需要的是萬卡,甚至十萬卡(算力卡的)集群。對通信的保障和算力的調(diào)度,以及硬件的高可靠性和穩(wěn)定性提出了更高的要求。
算力需求增長也帶動硬件設(shè)備的更新。今年世界人工智能大會現(xiàn)場,不少國內(nèi)算力產(chǎn)業(yè)鏈上的企業(yè)就集中展出了自己的最新技術(shù)。產(chǎn)業(yè)鏈各環(huán)節(jié)進(jìn)步的疊加也為大模型技術(shù)演進(jìn)提供了更多支撐。
業(yè)內(nèi)人士告訴記者,大模型的訓(xùn)練環(huán)節(jié)類似于讓人工智能“學(xué)知識”,而推理環(huán)節(jié)則是讓人工智能“做任務(wù)”。隨著大模型應(yīng)用量增多、AI智能體出現(xiàn),現(xiàn)在業(yè)界除了要建更多的算力基礎(chǔ)設(shè)施外,也在通過算法優(yōu)化來提升算力的使用效率。
稀宇極智開發(fā)者社區(qū)負(fù)責(zé)人蔡佳人:有越來越多需求是來自越來越長的上下文文本長度,有越來越多的智能體需要從一開始整體的任務(wù)規(guī)劃,到后面自己把一步一步任務(wù)做完,整體推理的相關(guān)需求就越來越多。我們做了一些算法優(yōu)化能讓算力成本下降。
(央視財經(jīng))
來源:紅網(wǎng)
作者:蔡依潔
編輯:張夢蘭
本文為紅辣椒評論 原創(chuàng)文章,僅系作者個人觀點(diǎn),不代表紅網(wǎng)立場。轉(zhuǎn)載請附原文出處鏈接和本聲明。