在今年的上海世界人工智能大會(WAIC)上,終端智能體加速落地應(yīng)用引發(fā)行業(yè)關(guān)注。然而,廣泛的連接性和復(fù)雜架構(gòu)為終端智能體安全帶來新的挑戰(zhàn)與問題。加快終端智能體安全研究并構(gòu)建全方位防護(hù)體系,成為保障大模型產(chǎn)業(yè)與智能體應(yīng)用健康發(fā)展的迫切需求。
7月28日,由上海人工智能實(shí)驗(yàn)室、中國信通院、螞蟻集團(tuán)、IIFAA互聯(lián)網(wǎng)可信認(rèn)證聯(lián)盟四家單位聯(lián)合撰寫的《終端智能體安全(2025)》報告在WAIC的“大模型智塑全球產(chǎn)業(yè)新秩序論壇”上發(fā)布,呼吁加強(qiáng)終端智能體安全研究,構(gòu)建全方位、多層次的安全防護(hù)體系。
報告指出,智能體正在向更多終端延伸。智能體在各類應(yīng)用中展現(xiàn)出更強(qiáng)的泛化與適應(yīng)能力,從功能方面來看,呈現(xiàn)出從單一任務(wù)逐步拓展至編程輔助、社會互動、經(jīng)濟(jì)治理等復(fù)雜場景;并由集中式、依賴云端算力的大模型階段,向更靈活高效的輕量化階段演進(jìn),本地終端部署正成為主流趨勢,尤其在ToC(面向消費(fèi)者)端,用戶對隱私保護(hù)、響應(yīng)速度與個性化體驗(yàn)的關(guān)注不斷增強(qiáng)。
輕量型終端智能體可在手機(jī)、穿戴設(shè)備等日常終端直接運(yùn)行,具備自主推理、快速交互能力,增強(qiáng)了貼近性與個性化服務(wù)。目前,谷歌助手、Siri、Alexa、Cortana等產(chǎn)品已廣泛應(yīng)用,ChatGPT、Copilot等新一代大語言模型智能體也正向端側(cè)遷移與輕量化適配。
報告認(rèn)為,當(dāng)輕量型終端智能體由原本功能簡單的智能模塊演化為具備感知、決策與執(zhí)行能力的本地“自主實(shí)體”,其安全邊界已突破傳統(tǒng)信息安全范疇,延伸至數(shù)字與物理世界的邊緣交互接口,在資源受限、場景多樣的環(huán)境中,其安全邊界正被重新定義。
在處理復(fù)雜任務(wù)方面,智能體正在由單一智能體向多智能體發(fā)展。這些場景所涉及的任務(wù)往往具有數(shù)據(jù)海量異構(gòu)、環(huán)境動態(tài)多變、決策維度多元等特點(diǎn),遠(yuǎn)超單一智能體獨(dú)立運(yùn)作的能力范疇。
北京中數(shù)睿智科技有限公司董事長韓涵對第一財經(jīng)記者表示,今年是智能體邁向終端的“元年”,多智能體可信互連成為行業(yè)發(fā)展趨勢。她解釋稱,所謂的“多智能體”是指通過多個智能體的協(xié)同交互來完成復(fù)雜任務(wù);多智能體本質(zhì)上是構(gòu)建多個智能體間高效通信、深度協(xié)作與動態(tài)交互的系統(tǒng)性生態(tài)架構(gòu)。
這一架構(gòu)中,各個智能體既保持自身獨(dú)特的功能屬性,又通過標(biāo)準(zhǔn)化的通信、協(xié)作機(jī)制緊密連接,形成有機(jī)協(xié)同的整體。通過實(shí)時信息共享,智能體得以打破信息孤島,獲取更全面的任務(wù)信息;借助科學(xué)的任務(wù)分配機(jī)制,系統(tǒng)能夠根據(jù)各智能體的能力特長,實(shí)現(xiàn)資源的最優(yōu)配置;在共同目標(biāo)的驅(qū)動下,智能體間相互配合、協(xié)同決策,完成單個智能體無法獨(dú)立承擔(dān)的復(fù)雜任務(wù)。
復(fù)雜任務(wù)場景對智能體系統(tǒng)提出了更高維度的要求。在多智能體的發(fā)展過程中,也面臨數(shù)據(jù)泄露、越權(quán)操作、隱私侵犯、算法偏見等諸多維度的安全威脅。
針對這些挑戰(zhàn),報告提出,終端智能體應(yīng)用場景加速泛在化、復(fù)雜化的背景下,單一主體的安全能力構(gòu)建已難以應(yīng)對跨域協(xié)同、攻防升級的系統(tǒng)性安全挑戰(zhàn),亟待構(gòu)建“數(shù)據(jù)共享、能力協(xié)同、標(biāo)準(zhǔn)互認(rèn)”的安全生態(tài)共建體系,通過多方參與、資源整合與技術(shù)協(xié)同為終端智能體安全可持續(xù)發(fā)展筑牢根基,并通過數(shù)據(jù)、技術(shù)、應(yīng)用的三方聯(lián)動構(gòu)建終端智能體的安全共同體。
此外,構(gòu)建高精度、高質(zhì)量的安全評測數(shù)據(jù)集對于終端智能體安全風(fēng)險探測也是安全生態(tài)共建的核心驅(qū)動力。
8本女主重生文,高嶺之花皇叔,深情帝王,蓄謀已久,破鏡重圓
只聽沈約聲音喑啞道:“若是如此,那我必會奪人所好,做一回真正的土匪?!彼撬男∑兴_,此生渡他,也只能渡他——|。生殺予奪淡漠?dāng)z政王×溫柔堅(jiān)韌清秀美人#7《嬌貴美人》作者:彌蘿清艷溫柔美人vs偏執(zhí)難馴帝王,女主重生,兩世深情,宮廷甜寵文清艷溫柔x偏執(zhí)難馴帝后恩愛兩不疑/不虐女主/女鵝最美重活一世,初夏對前世最深的記憶是一身黑色衣后面會介紹——。 上一世,謝君似乎與西南王是老死不相往來的關(guān)系,而西南是連天子都管不著的蠻荒之地,惜命的荀況自然不會去——。因而,重生后,當(dāng)王思語叮囑她帶著信物前往上京城尋父認(rèn)親時,她陽奉陰違,果斷地帶著玄素往西南方向走。走了半月有余,她便尋得如今的容身之所_——。思來想去,她還是不愿卷入前世那些人與事,這一世,是什么。《我是刑警》清江兩案:5人被殺、18年才破案,兇手是城管局長