解夢(mèng)琪

AI給企業(yè)網(wǎng)絡(luò)安全帶來了更大的風(fēng)險(xiǎn)，據(jù)SUSE統(tǒng)計(jì)，57%的隱私和數(shù)據(jù)安全以及55%的人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊是生成式AI云安全的首要問題，但只有7%的IT決策者認(rèn)為不存在相關(guān)安全風(fēng)險(xiǎn)。

針對(duì)此，網(wǎng)宿安全高級(jí)總監(jiān)胡鋼偉認(rèn)為，企業(yè)應(yīng)當(dāng)以風(fēng)險(xiǎn)管理為核心，圍繞web安全、辦公安全以及安全運(yùn)營(yíng)等方面，構(gòu)建一個(gè)體系化主動(dòng)安全體系。

攻擊鏈條和攻擊手段呈復(fù)雜化趨勢(shì)

近日，在網(wǎng)宿科技發(fā)布的《2024年度網(wǎng)絡(luò)安全態(tài)勢(shì)報(bào)告》中指出，當(dāng)下，網(wǎng)絡(luò)攻擊早已突破傳統(tǒng)的單點(diǎn)滲透模式。在此背景下，胡鋼偉指出，攻擊者通過日益增大的互聯(lián)網(wǎng)暴露面作為初始入口，并結(jié)合了AI能力生成的社工釣魚攻擊、供應(yīng)鏈攻擊等手段突破Web應(yīng)用防線，進(jìn)而利用辦公場(chǎng)景中的辦公漏洞、實(shí)施身份憑證、集權(quán)系統(tǒng)攻擊等行為進(jìn)行橫向滲透，最后實(shí)現(xiàn)攻陷目標(biāo)的目的，形成全鏈路攻擊閉環(huán)。

而這種攻擊方式，尤其是當(dāng)企業(yè)不斷的“上新”大模型應(yīng)用過程中，對(duì)企業(yè)網(wǎng)絡(luò)安全自然也造成了更多挑戰(zhàn)。Gartner預(yù)測(cè)，到2025年，生成式AI的采用將導(dǎo)致企業(yè)機(jī)構(gòu)所需的網(wǎng)絡(luò)安全資源激增，使應(yīng)用和數(shù)據(jù)安全支出增加15%以上。

然而，API調(diào)用是大模型能力最佳路徑之一，而在胡鋼偉看來，API安全是大模型安全不可忽視的問題，“在大模型場(chǎng)景中，企業(yè)主要面臨用戶訪問模型、用戶訪問應(yīng)用、應(yīng)用訪問模型等多個(gè)流程上的API安全問題，”胡鋼偉指出。

無獨(dú)有偶，Akamai前不久發(fā)布的《API安全影響研究》中顯示，過去一年的時(shí)間內(nèi)，中國(guó)在解決API安全事件上花費(fèi)的成本最高，達(dá)到了77.8萬美元（約合568萬人民幣）。同時(shí)，根據(jù)Akamai研究顯示，從2023年1月到2024年6月期間，亞太地區(qū)總計(jì)記錄到了1080億次API攻擊，API攻擊占所有Web攻擊的15%。

另一方面，據(jù)2024年網(wǎng)宿安全平臺(tái)數(shù)據(jù)統(tǒng)計(jì)顯示，超60%的Web攻擊流量聚焦于API接口，攻擊量同比去年（2023年）激增23%，其中一個(gè)重要因素就是，隨著生成式大模型技術(shù)規(guī)模化落地，帶來新的威脅暴露面。

基于此，企業(yè)應(yīng)當(dāng)更為注重API安全事件的防護(hù)。Akamai北亞區(qū)技術(shù)總監(jiān)劉燁曾告訴筆者，在API免受攻擊方面，中國(guó)企業(yè)的重視程度很高，中國(guó)將“保護(hù)API免受攻擊”列為網(wǎng)絡(luò)安全第一要?jiǎng)?wù)（27.6%），遠(yuǎn)超其他國(guó)家（日本、印度以及澳大利亞均將其列為第四項(xiàng)），“在調(diào)研中，所有受訪者都需要對(duì)明年的網(wǎng)絡(luò)安全優(yōu)先事項(xiàng)進(jìn)行排序。中國(guó)在這個(gè)問題上的回答有些與眾不同，也是唯一一個(gè)將‘保護(hù)API免受攻擊’列為第一要?jiǎng)?wù)的國(guó)家?！眲钪赋?。

從技術(shù)角度出發(fā)，目前企業(yè)側(cè)應(yīng)用API仍存在一些“缺陷”，比如，API錯(cuò)誤配置、網(wǎng)絡(luò)防火墻沒有攔截、API網(wǎng)關(guān)沒有攔截、授權(quán)漏洞，以及生成式AI工具暴露等，“這其中，根據(jù)Akamai統(tǒng)計(jì)，以API錯(cuò)誤配置漏洞最為常見，占比達(dá)到22.3%?！眲钸M(jìn)一步指出，“除此之外，在大模型時(shí)代，企業(yè)還面臨防護(hù)工具不足，傳統(tǒng)的防火墻、WAF難以應(yīng)對(duì)當(dāng)下復(fù)雜的API攻擊?！?/p>

從API攻擊類型上看，目前主要以注入攻擊、越權(quán)/未授權(quán)訪問、DDOS攻擊為主。以年初火爆的DeepSeek為例，在年初DeepSeek火出圈后，不到一個(gè)月的時(shí)間內(nèi)，DeepSeek就接連遭遇了大規(guī)模DDoS攻擊，先后經(jīng)歷了輕微的HTTP代理攻擊、大量HTTP代理攻擊、僵尸網(wǎng)絡(luò)攻擊等行為，參與攻擊的兩個(gè)僵尸網(wǎng)絡(luò)分別為HailBot和RapperBot。

與此同時(shí)，企業(yè)在AI應(yīng)用的過程中，Web安全也是不容忽視的存在。《2024年度網(wǎng)絡(luò)安全態(tài)勢(shì)報(bào)告》中指出，2024年，Web漏洞利用攻擊攔截次數(shù)同比增長(zhǎng)了68%，其中針對(duì)AI應(yīng)用漏洞的攻擊數(shù)量呈現(xiàn)爆發(fā)式增長(zhǎng)。比如，2024年，烏克蘭3D數(shù)字模型服務(wù)公司Triplegarngers在幾小時(shí)內(nèi)，就被GPTBot爬取了幾十萬張照片。

安全智能體真的能確保企業(yè)網(wǎng)絡(luò)安全么？

針對(duì)錯(cuò)綜復(fù)雜的企業(yè)網(wǎng)絡(luò)安全態(tài)勢(shì)，“用AI打敗AI”是目前業(yè)內(nèi)公認(rèn)的應(yīng)對(duì)策略。幾乎所有網(wǎng)絡(luò)安全服務(wù)商也都在去年推出了相應(yīng)的大模型服務(wù)，并且在今年，隨著生成式AI步入智能體時(shí)代，這些服務(wù)商也都對(duì)產(chǎn)品和服務(wù)進(jìn)行了升級(jí)，為用戶提供安全智能體服務(wù)。

但是，這些所謂的安全智能體真的能確保企業(yè)網(wǎng)絡(luò)安全么？還是這些智能體更多的只是在“炒概念”？

從目前市面的產(chǎn)品及服務(wù)上看，傳統(tǒng)的“堆疊”式安全單品難以應(yīng)對(duì)日益復(fù)雜的網(wǎng)絡(luò)威脅，用戶開始逐漸希望能夠整合多種安全功能于統(tǒng)一的平臺(tái)的方案，增強(qiáng)威脅檢測(cè)與響應(yīng)能力，降低管理復(fù)雜度，提升安全運(yùn)營(yíng)效率。而安全運(yùn)營(yíng)的理念也就在這個(gè)節(jié)點(diǎn)應(yīng)運(yùn)而生。

而輔助安全運(yùn)營(yíng)也是AI的能力主要應(yīng)用的領(lǐng)域，在Fortinet中國(guó)區(qū)技術(shù)總監(jiān)張略看來，安全智能體已經(jīng)出現(xiàn)，并開始幫助企業(yè)級(jí)用戶處理日漸復(fù)雜的安全事件。張略曾對(duì)筆者表示，AI技術(shù)已從輔助工具逐漸升級(jí)為安全體系的“中樞大腦”。通過安全智能體，企業(yè)可以將原本分散的安全產(chǎn)品與能力，整合到一起，形成聯(lián)動(dòng)、聯(lián)防，并通過AI動(dòng)態(tài)學(xué)習(xí)攻擊模式，實(shí)現(xiàn)“以安全的AI對(duì)抗惡意的AI”的主動(dòng)防御。

以Web安全為例，胡鋼偉認(rèn)為，Web攻防范式已經(jīng)從“規(guī)則對(duì)抗”演進(jìn)到“智能體攻防”?！癢eb安全攻防技術(shù)演進(jìn)呈現(xiàn)出顯著的靜態(tài)規(guī)則對(duì)抗，到動(dòng)態(tài)博弈式的對(duì)抗的趨勢(shì)。”胡鋼偉指出。

具體來看，短期內(nèi)，Web安全攻防結(jié)合AI的能力，已經(jīng)在自動(dòng)化威脅分析、實(shí)時(shí)攻擊特征提取、智能誤報(bào)過濾等場(chǎng)景中落地。從而提升了傳統(tǒng)防御組件的響應(yīng)速度，實(shí)現(xiàn)防御效率的“量變”積累；

長(zhǎng)期上看，AI將驅(qū)動(dòng)防御體突破“人工預(yù)設(shè)規(guī)則”的剛性框架，“通過持續(xù)學(xué)習(xí)業(yè)務(wù)流量、用戶行為、漏洞特征等多維度數(shù)據(jù)流，AI將幫助企業(yè)形成具備自主進(jìn)化能力的防御智能體，實(shí)現(xiàn)從威脅響應(yīng)，到風(fēng)險(xiǎn)預(yù)測(cè)的質(zhì)變式的跨越。”胡鋼偉指出。

從目前市面上常見的安全服務(wù)商提供的產(chǎn)品服務(wù)能力上看，目前絕大多數(shù)服務(wù)商已經(jīng)完成了短期內(nèi)的AI能力的落地，并實(shí)現(xiàn)了部分輔助安全運(yùn)營(yíng)、輔助決策的能力，但距離胡鋼偉所指出的長(zhǎng)遠(yuǎn)AI智能體能力目標(biāo)仍存在一些距離。究其原因，一方面是AI智能體的“智能”能力還不夠，底層通用大模型的能力仍有待提升；另一方面，安全行業(yè)的專有數(shù)據(jù)的積累也是目前安全智能體落地過程中的一大掣肘。

體系化防護(hù)如何構(gòu)建？

無論是短期內(nèi)，還是長(zhǎng)期的AI在企業(yè)網(wǎng)絡(luò)安全的落地，總體來看都是企業(yè)安全將從單點(diǎn)式防御，向著體系化防護(hù)的演進(jìn)的過程。

對(duì)此，胡鋼偉指出，企業(yè)網(wǎng)絡(luò)安全需要從工具堆疊專項(xiàng)一體化防御。具體來看，企業(yè)需要通過統(tǒng)一的技術(shù)底座，打破數(shù)據(jù)孤島與策略割裂，形成多維度動(dòng)態(tài)防御閉環(huán)?！耙云髽I(yè)終端防護(hù)體系為例。國(guó)際上來看，安全一體化的主流方案是采用云原生的SASE架構(gòu)，通過將企業(yè)所有數(shù)據(jù)流量導(dǎo)流到云端安全平臺(tái)，實(shí)現(xiàn)安全能力的集中化交付，然而這種模式存在過于依賴網(wǎng)絡(luò)穩(wěn)定性，以及離線防護(hù)能力不足，數(shù)據(jù)安全不可控等問題，因此，在國(guó)內(nèi)，市場(chǎng)普遍更接受終端安全一體化的SASE模式，在終端設(shè)備集成EDR、DLP、數(shù)據(jù)沙箱等核心能力，通過輕量級(jí)客戶端實(shí)現(xiàn)本地化防護(hù)，管理端仍可保持云端協(xié)同”胡鋼偉表示。

而這種體系化的安全防護(hù)也不僅僅局限于終端的網(wǎng)絡(luò)安全防護(hù)趨勢(shì)，縱觀整個(gè)企業(yè)級(jí)網(wǎng)絡(luò)安全發(fā)展，現(xiàn)階段已經(jīng)進(jìn)入到了一體化防護(hù)的時(shí)代。

同樣以API安全為例，劉燁表示，企業(yè)需要采取積極有效的措施來構(gòu)建全面的API安全策略，以保護(hù)關(guān)鍵數(shù)據(jù)、客戶關(guān)系和內(nèi)部團(tuán)隊(duì)成員。企業(yè)首先需要在API安全事件的原因、影響和優(yōu)先級(jí)上達(dá)成共識(shí)。這要求企業(yè)加強(qiáng)內(nèi)部溝通和培訓(xùn)，提高高管層對(duì)API安全風(fēng)險(xiǎn)的認(rèn)識(shí)，使其了解API安全事件對(duì)企業(yè)戰(zhàn)略和業(yè)務(wù)運(yùn)營(yíng)的潛在影響。

針對(duì)API安全，企業(yè)需要系統(tǒng)性地構(gòu)建防護(hù)機(jī)制，具體來看，劉燁將企業(yè)API安全體系構(gòu)建分為了三步。第一步是持續(xù)進(jìn)行發(fā)現(xiàn)，特別是識(shí)別出“三無API”，這些是攻擊者最容易利用的盲點(diǎn)；

其次是建立威脅管理系統(tǒng)，定期匯總風(fēng)險(xiǎn)、漏洞以及修復(fù)進(jìn)展，幫助管理層全面掌握安全情況。即使接口在發(fā)布前已進(jìn)行了充分測(cè)試，仍需部署運(yùn)行時(shí)保護(hù)能力以實(shí)時(shí)攔截潛在攻擊。

最后，需強(qiáng)化主動(dòng)測(cè)試。建議企業(yè)結(jié)合OWASP和MITRE等框架開展自動(dòng)化API測(cè)試，將問題前移至開發(fā)階段，從源頭上增強(qiáng)安全韌性。

顯然，體系化的防御體系已經(jīng)成為當(dāng)前企業(yè)安全的最佳選擇，而且這種體系的方式也不僅局限于企業(yè)某一項(xiàng)安全防護(hù)機(jī)制，更是需要企業(yè)從整體上構(gòu)建一個(gè)安全防護(hù)的體系，這時(shí)候，企業(yè)整體安全運(yùn)營(yíng)的理念就成為了當(dāng)下企業(yè)網(wǎng)絡(luò)安全架構(gòu)的核心。

而這種需求也帶動(dòng)了安全服務(wù)商的發(fā)展，胡鋼偉表示，安全運(yùn)營(yíng)已經(jīng)成為接下來安全服務(wù)商的“必爭(zhēng)之地”，主要涵蓋了資產(chǎn)運(yùn)營(yíng)、漏洞運(yùn)營(yíng)、威脅運(yùn)營(yíng)、情報(bào)運(yùn)營(yíng)，以及安全策略運(yùn)營(yíng)，“現(xiàn)階段，安全運(yùn)營(yíng)主要有兩個(gè)發(fā)展趨勢(shì)：一是AI重構(gòu)運(yùn)營(yíng)流程；二是風(fēng)險(xiǎn)驅(qū)動(dòng)能力升級(jí)?！焙搨ブ赋觥?/p>

在AI重構(gòu)方面，據(jù)《2024年度網(wǎng)絡(luò)安全態(tài)勢(shì)報(bào)告》統(tǒng)計(jì)，在RSAC2024安全峰會(huì)參展的廠商中，有超過半數(shù)的廠商已經(jīng)將核心產(chǎn)品集成了AI的能力?！皬膽?yīng)用上看，根據(jù)AI賦能安全運(yùn)營(yíng)的復(fù)雜程度的不同，目前主要可以分為三個(gè)等級(jí)?！焙搨ミM(jìn)一步指出，“分別是，聊天機(jī)器人、安全助手，以及安全智能體?！?/p>

從目前市面上常見的安全產(chǎn)品和服務(wù)上看，目前絕大多數(shù)廠商以及具備了充足的安全助手的能力，正在向著安全智能體的方向邁進(jìn)。

從整體行業(yè)上看，AI對(duì)安全行業(yè)的重構(gòu)已經(jīng)比較深入，AI已推動(dòng)安全行業(yè)從“人工響應(yīng)”邁向“智能自治”，其核心價(jià)值在于重構(gòu)防御范式（自動(dòng)化、智能化）和突破效率瓶頸。