IT之家7月15日消息,隨著生成式人工智能技術(shù)的廣泛應(yīng)用,安全問(wèn)題也日益成為公眾關(guān)注的焦點(diǎn)。2023年,微軟的一項(xiàng)研究揭示了一個(gè)令人擔(dān)憂的趨勢(shì):黑客開(kāi)始利用像微軟Copilot和OpenAI的ChatGPT這樣的人工智能工具,對(duì)毫無(wú)防備的用戶實(shí)施網(wǎng)絡(luò)釣魚(yú)計(jì)劃。
如今,網(wǎng)絡(luò)攻擊者變得更加狡猾,他們不斷想出巧妙的方法來(lái)繞過(guò)復(fù)雜的安全系統(tǒng),以獲取未經(jīng)授權(quán)的敏感數(shù)據(jù)。最近幾周,就有用戶精心策劃騙局,試圖降低ChatGPT的安全限制,誘使其生成有效的Windows10激活密鑰。
Windows用戶對(duì)微軟Defender并不陌生,這是一個(gè)復(fù)雜的安全平臺(tái),旨在保護(hù)用戶免受黑客的惡意攻擊。然而據(jù)DarkReading報(bào)道,安全研究公司Outflank的研究人員計(jì)劃在8月的“黑帽2025”網(wǎng)絡(luò)安全大會(huì)上發(fā)布一種新型人工智能惡意軟件,這種惡意軟件能夠繞過(guò)微軟DefenderforEndpoint的安全防護(hù)。
Outflank的首席進(jìn)攻專家負(fù)責(zé)人凱爾?艾弗里(KyleAvery)在接受采訪時(shí)表示,他花了大約3個(gè)月的時(shí)間開(kāi)發(fā)這種人工智能惡意軟件,并花費(fèi)了1500至1600美元(IT之家注:現(xiàn)匯率約合10759至11476元人民幣)用于訓(xùn)練Qwen2.5大型語(yǔ)言模型(LLM),使其能夠繞過(guò)微軟Defender的安全防護(hù)。
有趣的是,這位專注于人工智能的研究人員還分享了他對(duì)OpenAI的GPT模型及其最新旗艦推理模型o1的見(jiàn)解。盡管他承認(rèn)GPT-4相比GPT-3.5有了重大升級(jí),但他指出,OpenAI的o1推理模型具備了更復(fù)雜的功能,尤其擅長(zhǎng)編程和數(shù)學(xué)。
艾弗里表示,DeepSeek利用強(qiáng)化學(xué)習(xí)技術(shù)來(lái)提升其模型在廣泛主題上的能力,包括編程。因此,他在開(kāi)發(fā)能夠繞過(guò)微軟Defender安全解決方案的人工智能惡意軟件時(shí),也應(yīng)用了這一理論。
研究人員承認(rèn),開(kāi)發(fā)過(guò)程并非易事,因?yàn)榇笮驼Z(yǔ)言模型主要通過(guò)互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行訓(xùn)練,這使得他難以獲取傳統(tǒng)惡意軟件來(lái)訓(xùn)練人工智能驅(qū)動(dòng)的等效產(chǎn)品。此時(shí),強(qiáng)化學(xué)習(xí)發(fā)揮了關(guān)鍵作用。研究人員將Qwen2.5LLM置于一個(gè)安裝了微軟DefenderforEndpoint的沙盒環(huán)境中,然后編寫(xiě)了一個(gè)程序來(lái)評(píng)估該人工智能模型輸出規(guī)避工具的接近程度。
據(jù)艾弗里介紹:“它絕對(duì)不可能直接做到這一點(diǎn)。也許一千次中只有一次,它會(huì)偶然寫(xiě)出一些能夠運(yùn)行但無(wú)法規(guī)避任何檢測(cè)的惡意軟件。當(dāng)它做到這一點(diǎn)時(shí),你可以獎(jiǎng)勵(lì)它生成了能夠運(yùn)行的惡意軟件。”
“通過(guò)這種迭代過(guò)程,它會(huì)越來(lái)越穩(wěn)定地生成能夠運(yùn)行的惡意軟件,不是因?yàn)槟阆蛩故玖死樱且驗(yàn)樗桓碌酶锌赡苓M(jìn)行那種導(dǎo)致生成有效惡意軟件的思維過(guò)程。”
最終,艾弗里接入了一個(gè)API,使模型能夠更方便地查詢和檢索由微軟Defender生成的類(lèi)似警報(bào)。這樣一來(lái),模型更容易開(kāi)發(fā)出在繞過(guò)軟件安全屏障時(shí)不太可能觸發(fā)警報(bào)的惡意軟件。
研究人員最終實(shí)現(xiàn)了他期望的結(jié)果,成功利用人工智能生成了能夠繞過(guò)微軟Defender復(fù)雜安全解決方案的惡意軟件,其成功率約為8%。相比之下,Anthropic的Claude人工智能在類(lèi)似測(cè)試中的成功率不到1%,而DeepSeek的R1模型的成功率僅為1.1%。
隨著人工智能騙局和惡意軟件變得越來(lái)越復(fù)雜,像微軟這樣的公司是否會(huì)加大其安全解決方案的力度,將是一個(gè)值得關(guān)注的問(wèn)題。在當(dāng)前形勢(shì)下,他們似乎別無(wú)選擇。
被窩里看的TOP5架空歷史品質(zhì)小說(shuō)
小說(shuō):穿東漢末年覺(jué)醒截胡系統(tǒng),劉磐一路截胡走上巔峰
小說(shuō):穿越漢末成劉表之子,開(kāi)局搶劉備風(fēng)頭,一統(tǒng)三國(guó)!
免責(zé)聲明:本文內(nèi)容由開(kāi)放的智能模型自動(dòng)生成,僅供參考。