中新網上海7月29日電(張素賈君玉)人工智能技術快速演進，帶來復雜的新挑戰(zhàn)與新課題。注重共同治理，已成為人工智能有序發(fā)展的重要行業(yè)共識。
“開展人工智能安全治理應及時開展人工智能風險研判，提出針對性防范應對措施，構建具有廣泛共識的安全治理框架?！鄙虾Ｆ謻|新區(qū)數字化轉型專家委員會委員、上海財經大學數字經濟學院院長趙琳在受訪時說，對此，該學院與東壁科技數據開展合作，致力于構建人工智能治理領域關鍵科技基礎設施以響應國家號召并應對人工智能治理挑戰(zhàn)。
2025世界人工智能大會舉辦期間，7月28日，東壁科技數據聯合上海財經大學數字經濟學院共同構建的高質量人工智能治理科技語料與人工智能多元共治決策支持大模型正式發(fā)布。
7月28日，2025世界人工智能大會舉辦期間，高質量人工智能治理科技語料正式發(fā)布。東壁科技數據供圖“我們聚焦人工智能治理的核心挑戰(zhàn)，圍繞后門攻擊、數據投毒、隱私泄露、信息繭房等14類人工智能治理風險，構建了國內首個高質量人工智能治理科技語料庫。”東壁科技數據創(chuàng)始人、深圳大學特聘教授吳登生說，這一覆蓋學術前沿與政策實踐的多維科技語料，將為推進中國人工智能協同治理工具的研發(fā)提供關鍵數據支撐。
“在人工智能治理科技語料的基礎上，我們聯合開發(fā)了全國首個人工智能多元共治決策支持大模型，為人工智能協同治理提供關鍵工具支撐?！鄙虾＝鹑诳萍籍a業(yè)聯盟智慧金融專業(yè)委員會委員、上海財經大學數字經濟學院副院長肖升生說。
據介紹，該模型專注于人工智能治理領域知識問答、案例查詢與分析、技術方案咨詢、治理方案生成、資源查找五大核心任務，在國產開源大語言模型基礎上，利用構建的2000多條高質量人工智能治理領域問答對語料進行精細化的微調，使其回答能夠嚴格遵循人工智能治理領域回答范式。該模型還接入了基于前述人工智能治理科技語料庫構建的可持續(xù)動態(tài)更新數據庫，通過檢索增強生成(RAG)技術，模型能夠有效引用權威語料庫內容，大幅提升了專業(yè)回答的準確性和可靠性，顯著緩解了通用模型在此領域易產生“幻覺”的風險。
研發(fā)代表稱，將持續(xù)更新人工智能治理科技語料庫，并計劃將人工智能多元共治決策支持大模型面向有需求的企業(yè)和政府部門逐步開放使用，助力各方提升人工智能治理能力，共同推動中國人工智能產業(yè)健康、安全、有序發(fā)展。(完)
數學精靈希里克的冒險挑戰(zhàn)與成長之旅
精華!《數學精靈希里克9》值得一生反復讀!
強推!《數學精靈希里克8》讓人百看不厭,忍不住珍藏!
