2025年世界人工智能大會(WAIC)正在上海舉行,大模型在專業(yè)領(lǐng)域的應(yīng)用成為業(yè)界關(guān)注焦點之一。7月27日下午的“從通用智力到專業(yè)生產(chǎn)力:高階程序引領(lǐng)的AI應(yīng)用新范式”論壇上,螞蟻集團旗下螞蟻密算宣布對外開源高階程序(High-OrderProgram)大模型可信應(yīng)用技術(shù)框架,探索智能與工程融合的AI應(yīng)用新范式,致力解決大模型在專業(yè)應(yīng)用中的可靠性困境,推動大模型在專業(yè)領(lǐng)域中規(guī)?;瘧?yīng)用。
論壇上,浙江大學教授、區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室主任陳純表示,大模型的專業(yè)化應(yīng)用,首當其沖的是可靠性問題。盡管當前技術(shù)SOTA已經(jīng)到了80%到90%的水平,但其可靠性距離醫(yī)療、工業(yè)、金融等專業(yè)場景的要求仍有顯著差距。陳純說,有人將這一問題簡單歸結(jié)為“幻覺”,但我想強調(diào):幻覺是智力的必然代價。若消除所有幻覺,大模型將退化為機械的檢索工具。因此,可靠性的突破不在于消滅“智力特征”,而在于構(gòu)建工程化保障框架。
螞蟻集團副總裁、螞蟻密算董事長韋韜認為,要突破大模型在專業(yè)化應(yīng)用中的可靠性困境,技術(shù)上不應(yīng)當只依賴于大模型“十全十美”不犯錯,而是通過智能體系和工程體系的結(jié)合,實現(xiàn)專業(yè)應(yīng)用可靠性的保障。正如每個人作為個體,是容易犯錯、容易有幻覺的,但人類幾千年以來不斷在工程體系上的進步,能夠在易錯的個體之上構(gòu)建龐大而可靠的工程體系,完成諸如登月、探訪火星等巨型任務(wù)。他提出,通過全新的程序表達、場景知識嵌入和閉環(huán)核驗反饋機制,可以將大模型不確定的智力輸出轉(zhuǎn)化為可信的專業(yè)生產(chǎn)力。
對此,螞蟻密算正在探索高階程序(High-OrderProgram)大模型可信應(yīng)用技術(shù)框架,核心組件包括業(yè)務(wù)邏輯的程序化表達、場景知識圖譜和受控工具鏈,在全流程中貫穿核驗機制,對關(guān)鍵執(zhí)行結(jié)果進行及時、有效地核驗和處理。該框架借鑒了人類在工程管理體系中的成功經(jīng)驗,如通過標準作業(yè)程序(SOP)和檢查清單等機制,構(gòu)建一個能夠有效復(fù)用、驗證、擴展和派生的機制,使大模型在應(yīng)用過程中即使出現(xiàn)幻覺問題,也能保證大模型達到專業(yè)領(lǐng)域所需的精確性和可靠性。
高階程序(HOP)同時具備編程語言的精確性、可擴展性與自然語言的知識語義與語境適配等優(yōu)勢,承載了專業(yè)領(lǐng)域的關(guān)鍵知識和實踐,通過任務(wù)細化拆解與核驗,確保大模型實現(xiàn)專業(yè)應(yīng)用的可靠性,通過知識概念匹配實現(xiàn)從專業(yè)知識到場景應(yīng)用的派生適配,從而實現(xiàn)了在眾多原本需要人工處理的場景下高可靠、高自動化應(yīng)用。目前,高階程序技術(shù)框架已經(jīng)在金融風控全鏈路、網(wǎng)絡(luò)入侵檢測、醫(yī)療重復(fù)計費等多行業(yè)場景中初步應(yīng)用,在可靠性和時效性上有顯著提升。
以金融聯(lián)合風控為例,在傳統(tǒng)金融風控體系下,從數(shù)據(jù)探查、處理到模型構(gòu)建與調(diào)優(yōu)的全鏈路操作,高度依賴人工干預(yù),導(dǎo)致流程冗長、響應(yīng)緩慢,并且容易受人員主觀因素影響,制約了金融風控聯(lián)合建模的效率與一致性。在應(yīng)用HOP技術(shù)框架后,將復(fù)雜的SOP轉(zhuǎn)化為可執(zhí)行的流程和代碼,實現(xiàn)風控全鏈路的智能化編排與自動化執(zhí)行。相較于傳統(tǒng)建模人員手動進行數(shù)據(jù)分析和代碼開發(fā),大模型結(jié)合HOP能夠在確保高精度的同時縮短建模周期,并顯著減少了重復(fù)性數(shù)據(jù)處理和流程執(zhí)行等繁瑣的基礎(chǔ)工作。這不但能降低處理成本,還能夠緩解專業(yè)人才緊缺的局面。
韋韜表示,高階程序可以與大模型強互補,將大模型這樣的通用智力引擎,可靠地應(yīng)用于眾多專業(yè)場景?!按竽P涂煽啃缘慕夥?,不在于大模型本身,而在于工程化和智能化的融合。我們開源高階程序HOP,希望與行業(yè)一起把大模型從人類助手正在變成規(guī)?;瘜I(yè)生產(chǎn)力。我們也相信,解決了可靠性問題,大模型即將涌現(xiàn)新的KillerApp(殺手級應(yīng)用)。”
電視劇《四海重明》的原著小說是《我有三個龍傲天竹馬》結(jié)局