中新網(wǎng)上海7月29日電(張素賈君玉)人工智能技術(shù)快速演進(jìn),帶來(lái)復(fù)雜的新挑戰(zhàn)與新課題。注重共同治理,已成為人工智能有序發(fā)展的重要行業(yè)共識(shí)。
“開展人工智能安全治理應(yīng)及時(shí)開展人工智能風(fēng)險(xiǎn)研判,提出針對(duì)性防范應(yīng)對(duì)措施,構(gòu)建具有廣泛共識(shí)的安全治理框架。”上海浦東新區(qū)數(shù)字化轉(zhuǎn)型專家委員會(huì)委員、上海財(cái)經(jīng)大學(xué)數(shù)字經(jīng)濟(jì)學(xué)院院長(zhǎng)趙琳在受訪時(shí)說,對(duì)此,該學(xué)院與東壁科技數(shù)據(jù)開展合作,致力于構(gòu)建人工智能治理領(lǐng)域關(guān)鍵科技基礎(chǔ)設(shè)施以響應(yīng)國(guó)家號(hào)召并應(yīng)對(duì)人工智能治理挑戰(zhàn)。
2025世界人工智能大會(huì)舉辦期間,7月28日,東壁科技數(shù)據(jù)聯(lián)合上海財(cái)經(jīng)大學(xué)數(shù)字經(jīng)濟(jì)學(xué)院共同構(gòu)建的高質(zhì)量人工智能治理科技語(yǔ)料與人工智能多元共治決策支持大模型正式發(fā)布。
7月28日,2025世界人工智能大會(huì)舉辦期間,高質(zhì)量人工智能治理科技語(yǔ)料正式發(fā)布。東壁科技數(shù)據(jù)供圖“我們聚焦人工智能治理的核心挑戰(zhàn),圍繞后門攻擊、數(shù)據(jù)投毒、隱私泄露、信息繭房等14類人工智能治理風(fēng)險(xiǎn),構(gòu)建了國(guó)內(nèi)首個(gè)高質(zhì)量人工智能治理科技語(yǔ)料庫(kù)?!睎|壁科技數(shù)據(jù)創(chuàng)始人、深圳大學(xué)特聘教授吳登生說,這一覆蓋學(xué)術(shù)前沿與政策實(shí)踐的多維科技語(yǔ)料,將為推進(jìn)中國(guó)人工智能協(xié)同治理工具的研發(fā)提供關(guān)鍵數(shù)據(jù)支撐。
“在人工智能治理科技語(yǔ)料的基礎(chǔ)上,我們聯(lián)合開發(fā)了全國(guó)首個(gè)人工智能多元共治決策支持大模型,為人工智能協(xié)同治理提供關(guān)鍵工具支撐。”上海金融科技產(chǎn)業(yè)聯(lián)盟智慧金融專業(yè)委員會(huì)委員、上海財(cái)經(jīng)大學(xué)數(shù)字經(jīng)濟(jì)學(xué)院副院長(zhǎng)肖升生說。
據(jù)介紹,該模型專注于人工智能治理領(lǐng)域知識(shí)問答、案例查詢與分析、技術(shù)方案咨詢、治理方案生成、資源查找五大核心任務(wù),在國(guó)產(chǎn)開源大語(yǔ)言模型基礎(chǔ)上,利用構(gòu)建的2000多條高質(zhì)量人工智能治理領(lǐng)域問答對(duì)語(yǔ)料進(jìn)行精細(xì)化的微調(diào),使其回答能夠嚴(yán)格遵循人工智能治理領(lǐng)域回答范式。該模型還接入了基于前述人工智能治理科技語(yǔ)料庫(kù)構(gòu)建的可持續(xù)動(dòng)態(tài)更新數(shù)據(jù)庫(kù),通過檢索增強(qiáng)生成(RAG)技術(shù),模型能夠有效引用權(quán)威語(yǔ)料庫(kù)內(nèi)容,大幅提升了專業(yè)回答的準(zhǔn)確性和可靠性,顯著緩解了通用模型在此領(lǐng)域易產(chǎn)生“幻覺”的風(fēng)險(xiǎn)。
研發(fā)代表稱,將持續(xù)更新人工智能治理科技語(yǔ)料庫(kù),并計(jì)劃將人工智能多元共治決策支持大模型面向有需求的企業(yè)和政府部門逐步開放使用,助力各方提升人工智能治理能力,共同推動(dòng)中國(guó)人工智能產(chǎn)業(yè)健康、安全、有序發(fā)展。(完)
蓋九幽:從青帝到黑暗動(dòng)亂的不朽傳奇
青帝:遮天世界中的傳奇大帝,無(wú)限接近紅塵仙的神秘起源
《遮天》:書中三個(gè)見過荒的人,都有什么下場(chǎng)