數(shù)據(jù)語料被惡意行為者篡改，人工智能大模型輸出的結(jié)果就帶有特殊目的性，違背了現(xiàn)實真實情況；人工智能多模態(tài)大模型自動生成的圖片、視頻具有欺騙性和誤導(dǎo)性，且其操作門檻極低，導(dǎo)致他人合法權(quán)益被侵害……在2025世界人工智能大會暨人工智能全球治理高級別會議主論壇上，“AI教父”辛頓將人工智能比喻為可愛的小老虎，但同時也警示人們防止“養(yǎng)虎為患”。
人工智能時代，安全對于高質(zhì)量發(fā)展的基石作用更加凸顯。在這樣的背景下，連日來，作為通信基礎(chǔ)設(shè)施建設(shè)“國家隊”、5G新基建“主力軍”的三大運營商，在大會現(xiàn)場競相展示他們在人工智能安全領(lǐng)域的前沿探索與創(chuàng)新成果。
針對人工智能應(yīng)用帶來的算法、數(shù)據(jù)及倫理風(fēng)險，2025世界人工智能大會暨人工智能全球治理高級別會議期間，中國電信宣布：打造大模型基礎(chǔ)護欄，并在國內(nèi)首次開源；提升中文提示詞注入攻擊防護、敏感信息泄露防護、生成內(nèi)容合規(guī)檢查等能力；針對應(yīng)用安全，打造大模型安全掃描器，形成輸入可防、推理過程可檢測、輸入可控的模型及智能體應(yīng)用防護體系等。
中國電信相關(guān)負(fù)責(zé)人表示：“以我們前期發(fā)布的見微安全大模型為例，它能夠?qū)崟r洞察高級威脅，精準(zhǔn)預(yù)測攻擊路徑，自動閉環(huán)處置漏洞，顛覆傳統(tǒng)的碎片化分析模式，告警識別準(zhǔn)確率98%，提升整體安全響應(yīng)效率60%以上，讓安全防御從‘被動應(yīng)對’邁向‘主動免疫’，實現(xiàn)‘以模治?！??！?/p>
7月27日，中國移動“人工智能安全評測平臺”正式亮相，平臺基于覆蓋模型算法安全、數(shù)據(jù)安全、環(huán)境安全、倫理合規(guī)的4維37項評測指標(biāo)體系，可面向智能體、模型算法、訓(xùn)練數(shù)據(jù)等多類型AI資產(chǎn)，提供多維度全方位的安全評測服務(wù)。
展臺上，正在進行現(xiàn)場路演，只見工作人員輕點鼠標(biāo)，將基于《生成式人工智能服務(wù)安全基本要求》（國標(biāo)TC260-003）構(gòu)建的安全評測數(shù)據(jù)集快速發(fā)送至被測模型，隨即，被測模型返回的一問一答在屏幕上有序呈現(xiàn)。平臺迅速對這些問答對展開合規(guī)評判，最終輸出的安全評測結(jié)果精準(zhǔn)覆蓋各項合規(guī)維度，同時，還清晰標(biāo)注出潛在風(fēng)險點。
中國移動相關(guān)負(fù)責(zé)人介紹：“該平臺基于15萬余組安全評測數(shù)據(jù)集，能夠提供內(nèi)容合規(guī)安全檢測、模型對抗攻擊、數(shù)據(jù)質(zhì)量評估等評測服務(wù)，基于量化指標(biāo)，實現(xiàn)AI安全風(fēng)險的精準(zhǔn)畫像與量化評估?！?/p>
此外，平臺還支持自動化評測，能夠根據(jù)不同場景需求快速調(diào)整評測方案，以高度靈活性適配多樣化AI安全評測需求。
2025世界人工智能大會暨人工智能全球治理高級別會議召開前夕，中國聯(lián)通“元景·智盾”數(shù)智安全治理平臺正式發(fā)布?！霸啊ぶ嵌堋逼脚_由三大核心板塊組成：AI數(shù)據(jù)安全、AI模型與應(yīng)用服務(wù)安全、AI治理與合規(guī)服務(wù)，全方位構(gòu)建覆蓋模型、數(shù)據(jù)及算法應(yīng)用的全棧式AI安全防護體系。
“‘元景·智盾’平臺基于龐大的內(nèi)容數(shù)據(jù)庫和算法庫，能夠提供圖像、視頻、音頻偽造檢測以及人工智能合成文本檢測服務(wù)，支持對檢測內(nèi)容進行溯源與可解釋性分析?！敝袊?lián)通相關(guān)負(fù)責(zé)人表示，“這使得我們能夠有效對數(shù)據(jù)偽造內(nèi)容進行取證，廣泛應(yīng)用于偵查取證、業(yè)務(wù)數(shù)據(jù)精細化檢測等場景，有力保障業(yè)務(wù)數(shù)據(jù)的安全?！?/p>
據(jù)悉，目前，該平臺在政務(wù)、醫(yī)療、運營商等領(lǐng)域的多個場景中均已實現(xiàn)落地應(yīng)用。
原標(biāo)題：《“國家隊”出手，齊筑人工智能安全防線，以模治模，防止“養(yǎng)虎為患”》
來源：作者：解放日報吳衛(wèi)群高晨輝
霸氣玄幻文:我掌乾坤八卦,大金剛輪印!你速度無雙?縮地成寸
落魄少年偶得斬仙飛刀崛起，斬強敵敗天驕，龍吟九霄成就武道之神往期小說書單推薦： 大學(xué)生攜玉鼎穿越異界，憑鼎中無盡丹方，步步崛起踏上巔峰！ 少年攜靈獸闖進紛紜世界，大千世界萬道爭鋒，主宰之路誰主沉浮？ 家族棄少臨死覺醒絕世武魄，一路滅殺天驕邂逅紅顏，成太古戰(zhàn)神！ 廢物少年得菩提認(rèn)主，憑逆天悟性自創(chuàng)功法，斬盡等我繼續(xù)說。
延伸閱讀：與 選礦廠格柵板一側(cè)固定角鋼焊縫有陳舊性裂紋 ：【整塊格柵、】板翻轉(zhuǎn)脫落 的相關(guān)文章
北京市民稱多輛車被洪水沖走
居然智家董事長汪林朋墜樓身亡？公司：已向交易所報備，會盡快公告
朝雪錄太子被偷走的人生
【速凌】這是鼠鼠有史以來吃的最飽的一次！
00后男生老了 VS 女生老了
省廳鄧妍
程序員是不是只要有理解需求的能力，然后寫好代碼就行了？溝通表達能力重要嗎？
單位年會，領(lǐng)導(dǎo)讓你采購水果，并暗示你去他指定的一家去采購，但那家水果店水果經(jīng)常積壓不新鮮，你怎么辦？
特朗普再次表示：對普京非常失望
夢之女巫-大黑塔
