黎朝祥

在今年的上海世界人工智能大會（WAIC）上，終端智能體加速落地應用引發(fā)行業(yè)關注。然而，廣泛的連接性和復雜架構為終端智能體安全帶來新的挑戰(zhàn)與問題。加快終端智能體安全研究并構建全方位防護體系，成為保障大模型產(chǎn)業(yè)與智能體應用健康發(fā)展的迫切需求。

7月28日，由上海人工智能實驗室、中國信通院、螞蟻集團、IIFAA互聯(lián)網(wǎng)可信認證聯(lián)盟四家單位聯(lián)合撰寫的《終端智能體安全（2025）》報告在WAIC的“大模型智塑全球產(chǎn)業(yè)新秩序論壇”上發(fā)布，呼吁加強終端智能體安全研究，構建全方位、多層次的安全防護體系。

報告指出，智能體正在向更多終端延伸。智能體在各類應用中展現(xiàn)出更強的泛化與適應能力，從功能方面來看，呈現(xiàn)出從單一任務逐步拓展至編程輔助、社會互動、經(jīng)濟治理等復雜場景；并由集中式、依賴云端算力的大模型階段，向更靈活高效的輕量化階段演進，本地終端部署正成為主流趨勢，尤其在ToC（面向消費者）端，用戶對隱私保護、響應速度與個性化體驗的關注不斷增強。

輕量型終端智能體可在手機、穿戴設備等日常終端直接運行，具備自主推理、快速交互能力，增強了貼近性與個性化服務。目前，谷歌助手、Siri、Alexa、Cortana等產(chǎn)品已廣泛應用，ChatGPT、Copilot等新一代大語言模型智能體也正向端側遷移與輕量化適配。

報告認為，當輕量型終端智能體由原本功能簡單的智能模塊演化為具備感知、決策與執(zhí)行能力的本地“自主實體”，其安全邊界已突破傳統(tǒng)信息安全范疇，延伸至數(shù)字與物理世界的邊緣交互接口，在資源受限、場景多樣的環(huán)境中，其安全邊界正被重新定義。

在處理復雜任務方面，智能體正在由單一智能體向多智能體發(fā)展。這些場景所涉及的任務往往具有數(shù)據(jù)海量異構、環(huán)境動態(tài)多變、決策維度多元等特點，遠超單一智能體獨立運作的能力范疇。

北京中數(shù)睿智科技有限公司董事長韓涵對第一財經(jīng)記者表示，今年是智能體邁向終端的“元年”，多智能體可信互連成為行業(yè)發(fā)展趨勢。她解釋稱，所謂的“多智能體”是指通過多個智能體的協(xié)同交互來完成復雜任務；多智能體本質上是構建多個智能體間高效通信、深度協(xié)作與動態(tài)交互的系統(tǒng)性生態(tài)架構。

這一架構中，各個智能體既保持自身獨特的功能屬性，又通過標準化的通信、協(xié)作機制緊密連接，形成有機協(xié)同的整體。通過實時信息共享，智能體得以打破信息孤島，獲取更全面的任務信息；借助科學的任務分配機制，系統(tǒng)能夠根據(jù)各智能體的能力特長，實現(xiàn)資源的最優(yōu)配置；在共同目標的驅動下，智能體間相互配合、協(xié)同決策，完成單個智能體無法獨立承擔的復雜任務。

復雜任務場景對智能體系統(tǒng)提出了更高維度的要求。在多智能體的發(fā)展過程中，也面臨數(shù)據(jù)泄露、越權操作、隱私侵犯、算法偏見等諸多維度的安全威脅。

針對這些挑戰(zhàn)，報告提出，終端智能體應用場景加速泛在化、復雜化的背景下，單一主體的安全能力構建已難以應對跨域協(xié)同、攻防升級的系統(tǒng)性安全挑戰(zhàn)，亟待構建“數(shù)據(jù)共享、能力協(xié)同、標準互認”的安全生態(tài)共建體系，通過多方參與、資源整合與技術協(xié)同為終端智能體安全可持續(xù)發(fā)展筑牢根基，并通過數(shù)據(jù)、技術、應用的三方聯(lián)動構建終端智能體的安全共同體。

此外，構建高精度、高質量的安全評測數(shù)據(jù)集對于終端智能體安全風險探測也是安全生態(tài)共建的核心驅動力。

20本已完結主角建立時空管理局的諸天流小說,穿越者聯(lián)盟點燃萬界

《無限進化的我,成了究極圣龍》,和你以前追的書有啥不一樣?

《無限進化的我,成了究極圣龍》:再看一遍,心潮還是會隨著故事不斷...