國產(chǎn)大模型,已進入百花齊放時代。昨天(7月28日),文匯報記者從由上海財經(jīng)大學與中國互聯(lián)網(wǎng)絡信息中心(CNNIC)聯(lián)合主辦的“大模型治理和有序發(fā)展生態(tài)論壇”上獲悉:當前,我國已發(fā)布1509個大模型,在全球已發(fā)布的3755個大模型中數(shù)量居首位;截至目前,我國已經(jīng)有439款生成式人工智能服務在國家網(wǎng)信辦完成備案,233款生成式人工智能應用或功能在地方網(wǎng)信辦完成登記;在上海,垂類模型正加速落地,累計82款大模型通過備案,數(shù)量全國居前。
論壇上,與數(shù)量激增的大模型同樣備受關(guān)注的,還有“災難性遺忘”、“幻覺”、可信度以及AI如何改變教育等問題。與會專家普遍認為,越是在這個“千模大戰(zhàn)”的快增長時期,對“慢收獲”的基礎(chǔ)創(chuàng)新、AI治理的提前布局和關(guān)注就愈發(fā)重要。
AI賦能百業(yè)的過程并非一馬平川
論壇上,上海財經(jīng)大學校長劉元春一席話引發(fā)學界、業(yè)界關(guān)注:“2024年諾貝爾經(jīng)濟學獎達龍·阿西莫格魯曾撰文談到,AI進步所帶來的生產(chǎn)力提升可能并不大,預估今后十年AI對全要素生產(chǎn)率(TFP)的增長上限不超過1%。技術(shù)進步對于經(jīng)濟社會的進步推動,仍存在一定滯后性??梢韵胍姡磥鞟I賦能百業(yè)的過程中,尤其是對金融經(jīng)濟的支撐過程并非一馬平川,如何讓技術(shù)創(chuàng)新與產(chǎn)業(yè)發(fā)展之間形成有序的良性生態(tài)仍是學界、業(yè)界亟待解決的課題?!?/p>
“當前的人工智能技術(shù)雖然在有限組合優(yōu)化領(lǐng)域展現(xiàn)了強大的能力,但新一代人工智能的發(fā)展重點是決策能力,即需要人工智能大模型具備處理顆粒度較細系統(tǒng)的能力?!敝袊茖W院院士、北京航空航天大學人工智能研究院院長鄭志明認為,當前,大模型在垂直領(lǐng)域的應用存在決策能力不足問題。例如,大模型缺乏直觀解釋和嚴格驗證,難以應用在軍事國防、國家廣電等高精領(lǐng)域。
在他看來,新一代行業(yè)大模型應當是內(nèi)嵌數(shù)理機制的可解釋高精度行業(yè)大模型。“是在大模型井噴發(fā)展的快時代,越是要沉下心來做好基礎(chǔ)性的研究工作?!编嵵久髡f,在后大模型時代人工智能,精準智能理論研究至關(guān)重要。目前,美國已經(jīng)在這方面加大投資力度。“如果美國在這方面布局成功,而我們沒有跟上,這之間的差距將不是落后幾年的問題,而是落后一代人的距離?!睋?jù)悉,在北京航空航天大學人工智能研究院,精準智能理論正是研究院的研究焦點之一。目前北航自主研發(fā)的智能數(shù)控軟件LMIB-CAX已經(jīng)能夠與西門子等國際一流軟件產(chǎn)品全線對標。
中共上海市委網(wǎng)絡安全和信息化委員會辦公室副主任楊海軍同樣談到,從監(jiān)管部門的角度來說,自然樂于看到大模型的快速發(fā)展,但與此同時,一些基礎(chǔ)性的慢工作也不能省去。例如,上海市委網(wǎng)信辦正在抓緊落實強化AIGC標識工作,有效抵御深度偽造和惡意生成。
劉元春建議,既要從技術(shù)、政策、法律等角度強化智能向善的導向,創(chuàng)立大模型治理的良好環(huán)境;也要加快制定大模型的科技規(guī)范標準,加強相關(guān)的立法創(chuàng)新。此外,還要打造“產(chǎn)學研用”相互開放、相互欣賞、相互借鑒的平臺,促進理論創(chuàng)新和產(chǎn)業(yè)實踐以及政策的協(xié)調(diào)發(fā)展。
教育大模型井噴,但很多仍處低階
眼下,不只是業(yè)界在拼命卷大模型,高校同樣正在“AllinAI”。
上海財經(jīng)大學數(shù)字經(jīng)濟研究院院長高紅冰分享,其團隊針對目前國內(nèi)雙一流高校推出的AI教育大模型進行系統(tǒng)分析,總結(jié)出五個階段:第一階段是指高校增設AI通識課程學習AI工具應用;第二階段則是設立智能相關(guān)院系與研究院,第三階段是打造智能教育技術(shù)能力底座,第四階段是調(diào)整傳統(tǒng)專業(yè)重塑學科體系,第五階段是創(chuàng)新未來教育,探索全新教育形態(tài)。統(tǒng)計結(jié)果表明,大部分高校仍處在第一至第二階段。
高紅冰直言,AI大模型給教育變革帶來全新機會。但核心點在于,AI大模型應當助力創(chuàng)造AI教育新物種,而不是改造老物種?!熬拖裣灎T和燈泡都可以拿來照明,但如果教育工作者僅僅局限在改進蠟燭、提高效率,是不可能制造出燈泡的?!备呒t冰說,大模型帶來的教育挑戰(zhàn)是巨大的。先進教育大模型的出現(xiàn)打破了高校教師對知識的壟斷?!敖裉?,如果一位教師完全不懂產(chǎn)業(yè),幾乎沒法教學生了。”因此,他認為,高校的教育制度、治理方式都需要革新,否則無法出現(xiàn)燈泡式的創(chuàng)新型產(chǎn)業(yè)。
不過,教育大模型同樣存在算法偏見、數(shù)據(jù)安全、系統(tǒng)安全、學術(shù)誠信和隱私保護等方面的風險。對此,高紅冰建議,完善教育大模型的治理,需要上下游協(xié)作、系統(tǒng)設計,需要在安全與發(fā)展、創(chuàng)新與合規(guī)之間尋求動態(tài)平衡?!袄纾_發(fā)建設大模型教育系統(tǒng),將安全能力植入模型底座,而非事后補救?!?/p>
論壇現(xiàn)場還同步發(fā)布《十問智能向善》《上海人工智能安全治理白皮書(2025)》《生成式人工智能服務數(shù)據(jù)安全合規(guī)指引》以及“人工智能治理科技語料”“人工智能多元共治決策支持大模型”等多項重磅成果。