獨(dú)家| 郎朗為什么只有一個(gè)?我們問了姜文電影中的沈啟蒙
【文/經(jīng)濟(jì)學(xué)人】
就在唐納德·特朗普宣誓就任總統(tǒng)的那一天,一家名為深度求索(DeepSeek)的中國公司發(fā)布了一款世界級的大語言模型(LLM)。特朗普后來形容,這對美國AI行業(yè)敲響了“警鐘”。美國參議院情報(bào)委員會副主席馬克·華納(MarkWarner)表示,美國情報(bào)界(由18個(gè)機(jī)構(gòu)和組織組成)“被打了個(gè)措手不及”。
2024年,拜登政府開始擔(dān)心中國的情報(bào)部門和軍方可能會在人工智能(AI)應(yīng)用上搶占先機(jī)。于是,拜登政府下令情報(bào)機(jī)構(gòu)、五角大樓以及(負(fù)責(zé)核武器研發(fā)的)能源部更激進(jìn)地試驗(yàn)尖端的AI模型,并加強(qiáng)與“前沿性”AI實(shí)驗(yàn)室的合作,重點(diǎn)包括AI初創(chuàng)公司Anthropic、谷歌DeepMind和OpenAI。
7月14日,五角大樓向Anthropic、谷歌、OpenAI以及埃隆·馬斯克旗下的xAI(該公司的聊天機(jī)器人在最近一次更新后一度自視為希特勒)等企業(yè)分別授予了最高達(dá)2億美元的合同。這些公司將測試“代理型”(agentic)AI模型。此類模型能夠代替用戶執(zhí)行任務(wù),并將復(fù)雜任務(wù)拆分為若干步驟,還可以操控其他設(shè)備,比如汽車或計(jì)算機(jī)。
這些前沿實(shí)驗(yàn)室不僅活躍在軍事領(lǐng)域,也正深度介入歐美的情報(bào)界。早期的大多數(shù)應(yīng)用都集中在利用大語言模型分析機(jī)密數(shù)據(jù)這方面。今年1月,微軟公司表示,其26款云計(jì)算產(chǎn)品已獲準(zhǔn)用于美國情報(bào)機(jī)構(gòu)。6月,Anthropic宣布推出ClaudeGov,并稱該模型“已部署在擁有最高國家安全保密級別的情報(bào)機(jī)構(gòu)中”。目前,美國所有的情報(bào)機(jī)構(gòu)都在廣泛使用AI模型,其中不乏來自多個(gè)實(shí)驗(yàn)室的競品。
AI公司通常會根據(jù)情報(bào)機(jī)構(gòu)的需求對模型進(jìn)行“微調(diào)”。例如,出于安全考慮,Anthropic面向公眾開放的Claude模型可能會拒絕處理帶有“機(jī)密”標(biāo)識的文件;而ClaudeGov版本則會被調(diào)校成允許處理此類材料。此外,ClaudeGov還加強(qiáng)了對政府用戶可能需要的外語及方言的識別與理解能力。這類模型大多運(yùn)行在與互聯(lián)網(wǎng)隔離的安全服務(wù)器上。如今,一批新的“代理型”模型正在情報(bào)機(jī)構(gòu)內(nèi)部悄然構(gòu)建。
歐洲也在同步推進(jìn)這一進(jìn)程。一位英國知情人士表示:“在生成式AI方面,我們一直試圖迅速追趕處于前沿的模型。”他補(bǔ)充說:“整個(gè)英國情報(bào)界(UKIC)都已接入了最高保密級別的大語言模型功能?!狈▏綧istral是歐洲在AI領(lǐng)域唯一的領(lǐng)軍企業(yè),它正與法國的國防人工智能局(AMIAD)開展合作。Mistral的Saba模型專門訓(xùn)練了處理中東和南亞數(shù)據(jù)的能力,因此在阿拉伯語及泰米爾語等區(qū)域性語言上的表現(xiàn)尤為出色。今年1月,以色列左翼評論雜志《972雜志》報(bào)道稱,自加沙沖突爆發(fā)以來,以色列軍方對OpenAI當(dāng)時(shí)最先進(jìn)的GPT-4模型的使用頻率增長了20倍。
盡管各方在推進(jìn),進(jìn)展卻并不如預(yù)期的那樣迅速。OpenAI負(fù)責(zé)該領(lǐng)域合作的卡特里娜·穆利根(KatrinaMulligan)曾在美國國防和情報(bào)部門任職,她坦言:“AI在國家安全領(lǐng)域的應(yīng)用,還遠(yuǎn)沒有達(dá)到我們期望的水平?!睋?jù)一位內(nèi)部人士透露,負(fù)責(zé)處理信號情報(bào)的美國國家安全局(NSA)在語音識別等早期AI技術(shù)應(yīng)用上已深耕數(shù)十年,被視為業(yè)界典范。但不少情報(bào)機(jī)構(gòu)仍在試圖為現(xiàn)成的聊天機(jī)器人構(gòu)建自己的“封裝器”(wrappers),這種做法常常使其大幅落后于公共領(lǐng)域中最先進(jìn)的模型。
曾在拜登政府的國家安全委員會主管科技政策、現(xiàn)任Anthropic國家安全政策負(fù)責(zé)人的塔倫·查布拉(TarunChhabra)指出:“真正的變革不只是把AI當(dāng)成聊天工具。真正的變革在于——一旦開始使用它,我們該如何重構(gòu)完成原先使命的手段?”
7月23日,美國總統(tǒng)特朗普在參加“贏得AI競賽”峰會期間展示關(guān)于人工智能行動計(jì)劃的行政命令
AI情報(bào)游戲開始了
但也有質(zhì)疑者認(rèn)為,這些希望被過分夸大了。英國艾倫·圖靈研究所的理查德·卡特(RichardCarter)指出,美英情報(bào)機(jī)構(gòu)真正想要的是實(shí)驗(yàn)室能顯著降低現(xiàn)有大語言模型的“幻覺”率。英國情報(bào)機(jī)構(gòu)正采用一種叫“檢索增強(qiáng)生成”(retrieval-augmentedgeneration,RAG)的方法,先由一個(gè)算法篩選出可靠信息,再提供給大語言模型,借此降低幻覺率。一位英國消息人士透露:“情報(bào)界最需要的是一致性、可靠性、透明度和可解釋性?!笨ㄌ夭┦縿t提醒,相比之下,目前各大實(shí)驗(yàn)室更關(guān)注的是研發(fā)更先進(jìn)的“代理型”模型。
例如,Mistral公司據(jù)稱向潛在客戶展示了一種場景:每一種信息源(如衛(wèi)星圖像或語音攔截片段)都交給一個(gè)AI代理處理,從而加快決策速度。再比如,可以設(shè)想一個(gè)AI代理被指派去識別、研究并聯(lián)系上百名伊朗核科學(xué)家,試圖說服他們叛逃。查布拉補(bǔ)充道:“我們還遠(yuǎn)遠(yuǎn)沒有想清楚AI代理模型在戰(zhàn)爭情境中可能被如何使用。”
卡特博士警告說,代理型模型的風(fēng)險(xiǎn)在于,它們會遞歸地為分配到的每個(gè)任務(wù)自行生成提示詞,這使其更難預(yù)測,錯(cuò)誤也可能層層累積。根據(jù)OpenAI發(fā)布的評估結(jié)果,其最新的代理型模型ChatGPTagent的幻覺率約為8%,甚至高于早前發(fā)布的o3模型。
一些AI實(shí)驗(yàn)室認(rèn)為,這些擔(dān)憂不過是來自官僚的保守作風(fēng),但卡特博士表示,這其實(shí)是“一種健康的謹(jǐn)慎態(tài)度”。他說:“尤其在英國政府通信總部(GCHQ,即美國國家安全局的英國對應(yīng)機(jī)構(gòu))內(nèi)部,你會發(fā)現(xiàn)一批極其出色的工程人員,他們本能地對新技術(shù)持懷疑態(tài)度?!?/p>
這也引出了一個(gè)更廣泛的問題——AI未來的發(fā)展方向何在?卡特博士屬于那種持懷疑態(tài)度的聲音,他認(rèn)為,如今的通用大語言模型架構(gòu)并不適合“因果推理”,因而難以掌握真實(shí)世界運(yùn)行的邏輯。他主張,情報(bào)機(jī)構(gòu)的重點(diǎn)應(yīng)轉(zhuǎn)向開發(fā)具備推理能力的全新AI架構(gòu)。
與此同時(shí),有人警告說,中國可能正在這個(gè)領(lǐng)域領(lǐng)先。位于硅谷的安全與技術(shù)研究所(InstituteforSecurityandTechnology)的菲利普·賴納(PhilipReiner)指出:“我們至今仍不清楚中國是如何、在多大程度上將DeepSeek應(yīng)用于軍事和情報(bào)領(lǐng)域。”他補(bǔ)充說:“他們的模型可能沒有我們這樣的護(hù)欄,因此他們可能更快地獲得強(qiáng)大的洞察能力?!?/p>
7月23日,特朗普政府下令五角大樓與情報(bào)機(jī)構(gòu)定期評估美國國家安全體系在AI領(lǐng)域的應(yīng)用速度,是否趕得上中國等競爭對手,并要求“制定持續(xù)適應(yīng)的機(jī)制”。
在這一點(diǎn)上,幾乎所有人都達(dá)成共識。參議員華納直言,美國情報(bào)界在監(jiān)測中國相關(guān)進(jìn)展方面做得“一塌糊涂”?!拔覀冊讷@取中國技術(shù)、滲透中國科技企業(yè)方面的進(jìn)展仍然相當(dāng)有限?!蹦吕鶆t指出,最大的問題并不是美國在風(fēng)險(xiǎn)不明的情況下貿(mào)然推進(jìn)AI技術(shù),而是“國防部和情報(bào)界繼續(xù)按老辦法做事”。
“讓我夜不能寐的是——我們可能真的贏下了通用人工智能(AGI)的競賽……卻輸?shù)袅怂膶?shí)際應(yīng)用?!?/p>
本文系觀察者網(wǎng)獨(dú)家稿件,文章內(nèi)容純屬作者個(gè)人觀點(diǎn),不代表平臺觀點(diǎn),未經(jīng)授權(quán),不得轉(zhuǎn)載,否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn,每日閱讀趣味文章。
上海二中院 我永遠(yuǎn)的家??澎湃在線
時(shí)隔13年再回“家”,趙志剛:上海是永遠(yuǎn)的家??新民晚報(bào)
【視頻】賀歲形象片《家在諸暨》??澎湃在線