【文/經(jīng)濟(jì)學(xué)人】
就在唐納德·特朗普宣誓就任總統(tǒng)的那一天,一家名為深度求索(DeepSeek)的中國(guó)公司發(fā)布了一款世界級(jí)的大語(yǔ)言模型(LLM)。特朗普后來(lái)形容,這對(duì)美國(guó)AI行業(yè)敲響了“警鐘”。美國(guó)參議院情報(bào)委員會(huì)副主席馬克·華納(MarkWarner)表示,美國(guó)情報(bào)界(由18個(gè)機(jī)構(gòu)和組織組成)“被打了個(gè)措手不及”。
2024年,拜登政府開始擔(dān)心中國(guó)的情報(bào)部門和軍方可能會(huì)在人工智能(AI)應(yīng)用上搶占先機(jī)。于是,拜登政府下令情報(bào)機(jī)構(gòu)、五角大樓以及(負(fù)責(zé)核武器研發(fā)的)能源部更激進(jìn)地試驗(yàn)尖端的AI模型,并加強(qiáng)與“前沿性”AI實(shí)驗(yàn)室的合作,重點(diǎn)包括AI初創(chuàng)公司Anthropic、谷歌DeepMind和OpenAI。
7月14日,五角大樓向Anthropic、谷歌、OpenAI以及埃隆·馬斯克旗下的xAI(該公司的聊天機(jī)器人在最近一次更新后一度自視為希特勒)等企業(yè)分別授予了最高達(dá)2億美元的合同。這些公司將測(cè)試“代理型”(agentic)AI模型。此類模型能夠代替用戶執(zhí)行任務(wù),并將復(fù)雜任務(wù)拆分為若干步驟,還可以操控其他設(shè)備,比如汽車或計(jì)算機(jī)。
這些前沿實(shí)驗(yàn)室不僅活躍在軍事領(lǐng)域,也正深度介入歐美的情報(bào)界。早期的大多數(shù)應(yīng)用都集中在利用大語(yǔ)言模型分析機(jī)密數(shù)據(jù)這方面。今年1月,微軟公司表示,其26款云計(jì)算產(chǎn)品已獲準(zhǔn)用于美國(guó)情報(bào)機(jī)構(gòu)。6月,Anthropic宣布推出ClaudeGov,并稱該模型“已部署在擁有最高國(guó)家安全保密級(jí)別的情報(bào)機(jī)構(gòu)中”。目前,美國(guó)所有的情報(bào)機(jī)構(gòu)都在廣泛使用AI模型,其中不乏來(lái)自多個(gè)實(shí)驗(yàn)室的競(jìng)品。
AI公司通常會(huì)根據(jù)情報(bào)機(jī)構(gòu)的需求對(duì)模型進(jìn)行“微調(diào)”。例如,出于安全考慮,Anthropic面向公眾開放的Claude模型可能會(huì)拒絕處理帶有“機(jī)密”標(biāo)識(shí)的文件;而ClaudeGov版本則會(huì)被調(diào)校成允許處理此類材料。此外,ClaudeGov還加強(qiáng)了對(duì)政府用戶可能需要的外語(yǔ)及方言的識(shí)別與理解能力。這類模型大多運(yùn)行在與互聯(lián)網(wǎng)隔離的安全服務(wù)器上。如今,一批新的“代理型”模型正在情報(bào)機(jī)構(gòu)內(nèi)部悄然構(gòu)建。
歐洲也在同步推進(jìn)這一進(jìn)程。一位英國(guó)知情人士表示:“在生成式AI方面,我們一直試圖迅速追趕處于前沿的模型?!彼a(bǔ)充說(shuō):“整個(gè)英國(guó)情報(bào)界(UKIC)都已接入了最高保密級(jí)別的大語(yǔ)言模型功能?!狈▏?guó)公司Mistral是歐洲在AI領(lǐng)域唯一的領(lǐng)軍企業(yè),它正與法國(guó)的國(guó)防人工智能局(AMIAD)開展合作。Mistral的Saba模型專門訓(xùn)練了處理中東和南亞數(shù)據(jù)的能力,因此在阿拉伯語(yǔ)及泰米爾語(yǔ)等區(qū)域性語(yǔ)言上的表現(xiàn)尤為出色。今年1月,以色列左翼評(píng)論雜志《972雜志》報(bào)道稱,自加沙沖突爆發(fā)以來(lái),以色列軍方對(duì)OpenAI當(dāng)時(shí)最先進(jìn)的GPT-4模型的使用頻率增長(zhǎng)了20倍。
盡管各方在推進(jìn),進(jìn)展卻并不如預(yù)期的那樣迅速。OpenAI負(fù)責(zé)該領(lǐng)域合作的卡特里娜·穆利根(KatrinaMulligan)曾在美國(guó)國(guó)防和情報(bào)部門任職,她坦言:“AI在國(guó)家安全領(lǐng)域的應(yīng)用,還遠(yuǎn)沒(méi)有達(dá)到我們期望的水平?!睋?jù)一位內(nèi)部人士透露,負(fù)責(zé)處理信號(hào)情報(bào)的美國(guó)國(guó)家安全局(NSA)在語(yǔ)音識(shí)別等早期AI技術(shù)應(yīng)用上已深耕數(shù)十年,被視為業(yè)界典范。但不少情報(bào)機(jī)構(gòu)仍在試圖為現(xiàn)成的聊天機(jī)器人構(gòu)建自己的“封裝器”(wrappers),這種做法常常使其大幅落后于公共領(lǐng)域中最先進(jìn)的模型。
曾在拜登政府的國(guó)家安全委員會(huì)主管科技政策、現(xiàn)任Anthropic國(guó)家安全政策負(fù)責(zé)人的塔倫·查布拉(TarunChhabra)指出:“真正的變革不只是把AI當(dāng)成聊天工具。真正的變革在于——一旦開始使用它,我們?cè)撊绾沃貥?gòu)完成原先使命的手段?”
7月23日,美國(guó)總統(tǒng)特朗普在參加“贏得AI競(jìng)賽”峰會(huì)期間展示關(guān)于人工智能行動(dòng)計(jì)劃的行政命令
AI情報(bào)游戲開始了
但也有質(zhì)疑者認(rèn)為,這些希望被過(guò)分夸大了。英國(guó)艾倫·圖靈研究所的理查德·卡特(RichardCarter)指出,美英情報(bào)機(jī)構(gòu)真正想要的是實(shí)驗(yàn)室能顯著降低現(xiàn)有大語(yǔ)言模型的“幻覺(jué)”率。英國(guó)情報(bào)機(jī)構(gòu)正采用一種叫“檢索增強(qiáng)生成”(retrieval-augmentedgeneration,RAG)的方法,先由一個(gè)算法篩選出可靠信息,再提供給大語(yǔ)言模型,借此降低幻覺(jué)率。一位英國(guó)消息人士透露:“情報(bào)界最需要的是一致性、可靠性、透明度和可解釋性?!笨ㄌ夭┦縿t提醒,相比之下,目前各大實(shí)驗(yàn)室更關(guān)注的是研發(fā)更先進(jìn)的“代理型”模型。
例如,Mistral公司據(jù)稱向潛在客戶展示了一種場(chǎng)景:每一種信息源(如衛(wèi)星圖像或語(yǔ)音攔截片段)都交給一個(gè)AI代理處理,從而加快決策速度。再比如,可以設(shè)想一個(gè)AI代理被指派去識(shí)別、研究并聯(lián)系上百名伊朗核科學(xué)家,試圖說(shuō)服他們叛逃。查布拉補(bǔ)充道:“我們還遠(yuǎn)遠(yuǎn)沒(méi)有想清楚AI代理模型在戰(zhàn)爭(zhēng)情境中可能被如何使用?!?/p>
卡特博士警告說(shuō),代理型模型的風(fēng)險(xiǎn)在于,它們會(huì)遞歸地為分配到的每個(gè)任務(wù)自行生成提示詞,這使其更難預(yù)測(cè),錯(cuò)誤也可能層層累積。根據(jù)OpenAI發(fā)布的評(píng)估結(jié)果,其最新的代理型模型ChatGPTagent的幻覺(jué)率約為8%,甚至高于早前發(fā)布的o3模型。
一些AI實(shí)驗(yàn)室認(rèn)為,這些擔(dān)憂不過(guò)是來(lái)自官僚的保守作風(fēng),但卡特博士表示,這其實(shí)是“一種健康的謹(jǐn)慎態(tài)度”。他說(shuō):“尤其在英國(guó)政府通信總部(GCHQ,即美國(guó)國(guó)家安全局的英國(guó)對(duì)應(yīng)機(jī)構(gòu))內(nèi)部,你會(huì)發(fā)現(xiàn)一批極其出色的工程人員,他們本能地對(duì)新技術(shù)持懷疑態(tài)度?!?/p>
這也引出了一個(gè)更廣泛的問(wèn)題——AI未來(lái)的發(fā)展方向何在?卡特博士屬于那種持懷疑態(tài)度的聲音,他認(rèn)為,如今的通用大語(yǔ)言模型架構(gòu)并不適合“因果推理”,因而難以掌握真實(shí)世界運(yùn)行的邏輯。他主張,情報(bào)機(jī)構(gòu)的重點(diǎn)應(yīng)轉(zhuǎn)向開發(fā)具備推理能力的全新AI架構(gòu)。
與此同時(shí),有人警告說(shuō),中國(guó)可能正在這個(gè)領(lǐng)域領(lǐng)先。位于硅谷的安全與技術(shù)研究所(InstituteforSecurityandTechnology)的菲利普·賴納(PhilipReiner)指出:“我們至今仍不清楚中國(guó)是如何、在多大程度上將DeepSeek應(yīng)用于軍事和情報(bào)領(lǐng)域?!彼a(bǔ)充說(shuō):“他們的模型可能沒(méi)有我們這樣的護(hù)欄,因此他們可能更快地獲得強(qiáng)大的洞察能力。”
7月23日,特朗普政府下令五角大樓與情報(bào)機(jī)構(gòu)定期評(píng)估美國(guó)國(guó)家安全體系在AI領(lǐng)域的應(yīng)用速度,是否趕得上中國(guó)等競(jìng)爭(zhēng)對(duì)手,并要求“制定持續(xù)適應(yīng)的機(jī)制”。
在這一點(diǎn)上,幾乎所有人都達(dá)成共識(shí)。參議員華納直言,美國(guó)情報(bào)界在監(jiān)測(cè)中國(guó)相關(guān)進(jìn)展方面做得“一塌糊涂”。“我們?cè)讷@取中國(guó)技術(shù)、滲透中國(guó)科技企業(yè)方面的進(jìn)展仍然相當(dāng)有限。”穆利根則指出,最大的問(wèn)題并不是美國(guó)在風(fēng)險(xiǎn)不明的情況下貿(mào)然推進(jìn)AI技術(shù),而是“國(guó)防部和情報(bào)界繼續(xù)按老辦法做事”。
“讓我夜不能寐的是——我們可能真的贏下了通用人工智能(AGI)的競(jìng)賽……卻輸?shù)袅怂膶?shí)際應(yīng)用。”
本文系觀察者網(wǎng)獨(dú)家稿件,文章內(nèi)容純屬作者個(gè)人觀點(diǎn),不代表平臺(tái)觀點(diǎn),未經(jīng)授權(quán),不得轉(zhuǎn)載,否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn,每日閱讀趣味文章。
美媒評(píng)NBA史上8支王朝球:水花勇士排第二,湖人綠軍合計(jì)5次上榜
NBA究竟有幾個(gè)王朝?NBA官方真的認(rèn)證過(guò)馬刺和勇士王朝嗎?
盤點(diǎn)NBA最被討厭的十支球隊(duì):熱火三巨頭上榜,勇士王朝位居第二
免責(zé)聲明:本文內(nèi)容由開放的智能模型自動(dòng)生成,僅供參考。