簡水蕓

智東西作者李水青王涵江宇編輯漠影

智東西7月26日報(bào)道，今天上午，2025世界人工智能大會（WAIC）在上海開幕！作為國內(nèi)最高規(guī)格的AI領(lǐng)域行業(yè)大會之一，WAIC2025開幕主論壇大腕云集！

77歲的杰弗里?辛頓（GeoffreyEverestHinton）頂著腰疾、不遠(yuǎn)萬里來到現(xiàn)場，他是全球矚目的“深度學(xué)習(xí)三巨頭”之一，也是2024年諾貝爾獎(jiǎng)得主、2018年圖靈獎(jiǎng)得主、加拿大多倫多大學(xué)計(jì)算機(jī)科學(xué)名譽(yù)教授，本次結(jié)合其半個(gè)世紀(jì)的研究，講解了關(guān)于超級智能及數(shù)字永生的思考。

▲杰弗里?辛頓

辛頓認(rèn)為，大語言模型的理解語言的方式幾乎和人類一樣，人類可能就是大語言模型。他還擔(dān)憂地發(fā)出警告，未來超級智能將很容易操縱人類，人類要避免“養(yǎng)虎為患”，因此要像幾十年前美蘇聯(lián)合預(yù)防核戰(zhàn)爭一樣，建立國際社群來預(yù)防AI操縱世界，推動AI向善。

香港科技大學(xué)校董會主席沈向洋作為主持人，與RelativitySpace執(zhí)行董事長兼CEO埃里克·施密特（EricEmersonSchmidt）圍繞“全球AI協(xié)作”在會上進(jìn)行了對談。施密特指出，AI發(fā)展正進(jìn)入臨界點(diǎn)，將是社會結(jié)構(gòu)的重構(gòu)力量，跨國合作要先談“AI護(hù)欄”再談合作共贏。

▲沈向洋與埃里克·施密特對話

圖靈獎(jiǎng)得主、中國科學(xué)院院士、上海期智研究院院長姚期智也作為主持人，與上海人工智能實(shí)驗(yàn)室主任、首席科學(xué)家周伯文，美國加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)杰出教授斯圖爾特?羅素（StuartRussell）、美國約翰霍普金斯大學(xué)教授吉莉安?哈德菲爾德（GillianHadfield）、蒙迪與合伙人公司總裁克雷格?蒙迪（CraigMundie）進(jìn)行了對談。

姚期智圍繞“AI治理”、“AI鴻溝”等話題提出了多個(gè)關(guān)鍵問題。吉莉安?哈德菲爾德教授認(rèn)為“天下沒有免費(fèi)的午餐”，并指出要通過貿(mào)易結(jié)構(gòu)變革以及具體的技術(shù)交易設(shè)計(jì)，來抹平AI鴻溝；有多年企業(yè)管理經(jīng)驗(yàn)的克雷格?蒙迪認(rèn)為，隨著用量變大，就像移動通信與手機(jī)技術(shù)一樣，大模型的使用價(jià)格將變得足夠低，使得更多產(chǎn)業(yè)和企業(yè)受益。

▲姚期智主持圓桌論壇

本次大會上，MiniMax創(chuàng)始人閆俊杰，商湯科技董事長、首席執(zhí)行官徐立，上海交通大學(xué)副教授、無問芯穹聯(lián)合創(chuàng)始人戴國浩，曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨，階躍星辰首席科學(xué)家張祥雨等多位大模型及AI芯片領(lǐng)域的創(chuàng)業(yè)者也出席，在上午場和下午場發(fā)表演講，作為國產(chǎn)AI創(chuàng)業(yè)力量在這場科技盛會上發(fā)聲。

一、77歲辛頓遠(yuǎn)赴重洋：人類可能是大語言模型，警惕“養(yǎng)虎為患”

本屆WAIC不僅邀請了辛頓帶來全球視角的AI風(fēng)險(xiǎn)思考，也為本土大模型獨(dú)角獸預(yù)留了充分的展示空間。緊隨辛頓后登臺的，是MiniMax創(chuàng)始人兼首席執(zhí)行官閆俊杰，與辛頓一前一后，分別從全球治理與產(chǎn)業(yè)實(shí)踐角度，回應(yīng)了關(guān)于AGI未來的不同設(shè)想。

1、諾獎(jiǎng)得主辛頓：做AI是養(yǎng)虎為患，要確保訓(xùn)練AI不要消滅人類

辛頓談道，大語言模型理解語言的方式和人類幾乎是一樣，它真的理解人類的問題。所以，人類可能就是大語言模型，也會和大語言模型一樣產(chǎn)生幻覺。但大語言模型是數(shù)字化的，遠(yuǎn)遠(yuǎn)優(yōu)于類似于模擬信號驅(qū)動的人類大腦。

大語言模型所需的數(shù)字計(jì)算雖然耗能巨大，但多個(gè)智能體要擁有相同的模型就能輕松交換各自學(xué)到的知識。生物計(jì)算所需能量要少得多，但在智能體之間共享知識方面差得多。辛頓提出一個(gè)關(guān)鍵問題：如果能源變得廉價(jià)，數(shù)字計(jì)算整體上更占優(yōu)勢。這對人類的未來意味著什么？

他談道，超級智能要掌控世界，會設(shè)立更好地生存和更強(qiáng)的權(quán)力操控兩大目標(biāo)。超級智能將很容易操縱人類，從人類學(xué)的欺騙技能，并操縱負(fù)責(zé)將它關(guān)閉的人類?！拔覀儸F(xiàn)在就像養(yǎng)虎為患，小虎崽長大后可以輕易殺死人類，這不是好事?！毙令D說。

“因此，我們需要確保訓(xùn)練AI不要消滅人類?！本拖駧资昵懊绹吞K聯(lián)曾合作預(yù)防核戰(zhàn)爭一樣，辛頓呼吁各個(gè)國家合作，建立一個(gè)由各國AI安全研究所與國內(nèi)研究網(wǎng)絡(luò)組成的國際社群，預(yù)防AI操縱世界，推動AI向善。

▲杰弗里?辛頓（GeoffreyEverestHinton）

2、MiniMax創(chuàng)始人、首席執(zhí)行官閆俊杰：企業(yè)用戶協(xié)同，共同實(shí)現(xiàn)AGI

閆俊杰認(rèn)為，AI不僅是一種能力、一種生產(chǎn)力，更是對個(gè)人與社會能力的持續(xù)性增強(qiáng)。

在他看來，未來的AI產(chǎn)業(yè)必然會呈現(xiàn)多玩家共存的格局，核心原因有三：首先，大模型領(lǐng)域呈現(xiàn)百花齊放態(tài)勢，不同模型因側(cè)重點(diǎn)各異，所能解決的問題也各有千秋；其次，多Agent系統(tǒng)的興起，使得單個(gè)模型的優(yōu)勢在協(xié)同場景中不再突出；最后，開源模型數(shù)量持續(xù)增加，其性能也在不斷逼近閉源模型。

基于此，AI的普惠性將進(jìn)一步提升，原因同樣有3個(gè)：模型規(guī)模的增長與芯片技術(shù)的進(jìn)步保持同步，不會出現(xiàn)失衡；由于單次訓(xùn)練的單詞成本相對固定，不同算力規(guī)模的企業(yè)在訓(xùn)練環(huán)節(jié)的差距并不大，且未來一兩年內(nèi)，頂尖模型的推理成本有望降低1-2個(gè)數(shù)量級；盡管token單價(jià)下降，但使用量的增長將形成新的平衡。

因此，閆俊杰堅(jiān)信AGI（通用人工智能）必然會實(shí)現(xiàn)，且這一目標(biāo)需要AI企業(yè)與用戶共同推動。他強(qiáng)調(diào)，AI至少要讓每個(gè)人都用得起，并表態(tài)愿意為這一目標(biāo)長期奮斗。

▲閆俊杰

二、沈向洋對話埃里克·施密特：中美要先談“AI護(hù)欄”，再談合作共贏

在與RelativitySpace執(zhí)行董事長兼CEO埃里克·施密特的爐邊對話中，香港科技大學(xué)校董會主席沈向洋圍繞“全球AI協(xié)作”發(fā)起提問，強(qiáng)調(diào)AI不是某個(gè)國家或機(jī)構(gòu)可以獨(dú)自應(yīng)對的挑戰(zhàn)，尤其是中美之間需建立更深層次的信任機(jī)制。

▲沈向洋

施密特回應(yīng)指出，AI發(fā)展正進(jìn)入臨界點(diǎn)，不僅是技術(shù)突破，更是社會結(jié)構(gòu)的重構(gòu)力量，尤其在AI模型能力愈發(fā)強(qiáng)大、泛化風(fēng)險(xiǎn)劇增的當(dāng)下，治理體系亟待建立。

他特別提及當(dāng)前開源技術(shù)的利與弊：“開源帶來了驚人的創(chuàng)新效率，但也加劇了擴(kuò)散風(fēng)險(xiǎn)。”他指出，這種技術(shù)釋放與能力控制之間的矛盾，已成為全球AI治理的核心張力，必須找到新的平衡機(jī)制。

施密特進(jìn)一步引用其與基辛格共同撰寫的著作《Genesis》，強(qiáng)調(diào)國際合作需要價(jià)值共識作為前提。他表示：“我們必須先進(jìn)行對話，理解彼此的價(jià)值觀，才有可能建立起防止誤判的機(jī)制?！彼啻螐?qiáng)調(diào)“設(shè)定護(hù)欄”的必要性，認(rèn)為“如何定義底線、誰來設(shè)定規(guī)則”是未來AI安全的根本問題。他警告稱，若無明確共識，AI發(fā)展可能偏離人類文明方向，帶來結(jié)構(gòu)性沖擊。

“讓AI服務(wù)于所有人的生產(chǎn)力，而不是威脅社會穩(wěn)定。”施密特總結(jié)道。對談最后，他與沈向洋達(dá)成共識——中美之間的AI對話，必須從“先理解、再合作”出發(fā)，才能真正把技術(shù)發(fā)展引入可控、可信的軌道。

▲埃里克·施密特（EricEmersonSchmidt）

三、姚期智AI治理圓桌：貿(mào)易結(jié)構(gòu)變革破解AI鴻溝，量產(chǎn)帶來AI服務(wù)普惠

姚期智（圖靈獎(jiǎng)得主、中國科學(xué)院院士、上海期智研究院院長）與吉莉安·哈德菲爾德（約翰霍普金斯大學(xué)教授）、克雷格·蒙迪（蒙迪與合伙人公司總裁）、斯圖爾特·羅素（加州大學(xué)伯克利分校教授）和周伯文（上海人工智能實(shí)驗(yàn)室主任）四人進(jìn)行了對話，探討了AI與AI治理這一重要議題。

他首先從“AI鴻溝”議題切入，拋出一個(gè)問題：AI技術(shù)在快速的發(fā)展，但是更多是聚集在少數(shù)國家或公司，我們要怎么樣預(yù)防AI鴻溝，讓所有國家受益于這一場AI革命？

▲姚期智

1、約翰霍普金斯大學(xué)教授吉莉安：Transformer推動貿(mào)易結(jié)構(gòu)變革，緩解AI鴻溝

吉莉安?哈德菲爾德認(rèn)為，這涉及我們創(chuàng)造了AGI后怎么來分配資源的問題。她認(rèn)為，Transformer這樣變革性技術(shù)，會需要真正的經(jīng)濟(jì)法律基礎(chǔ)設(shè)施的變革，比如貿(mào)易結(jié)構(gòu)的變革。今天聽到很多人講到了開源以及開放權(quán)重，這也是很重要的一方面，也就是確保全球各國能夠從AI革命當(dāng)中受益。

作為一個(gè)經(jīng)濟(jì)學(xué)學(xué)者，吉莉安認(rèn)為“天下沒有免費(fèi)的午餐”。我們不可能憑空就生成大模型這樣的技術(shù)，所以必須要認(rèn)真思考，怎么樣設(shè)計(jì)好這種交易，思考到底模型歸誰所有，誰能夠接入模型并使用，讓不同國家能夠產(chǎn)生模型。另外我們還需要確保這些科技是安全的，然后才能夠把它們拿來大范圍使用。

▲吉莉安?哈德菲爾德（GillianHadfield）

2、蒙迪與合伙人公司總裁蒙迪：模型訓(xùn)練會更昂貴，服務(wù)會越來越便宜

AI鴻溝也不僅是國家間的競爭的問題，它有可能會存在于一個(gè)國家內(nèi)部的不同產(chǎn)業(yè)、企業(yè)以及人群。

克雷格?蒙迪過去幾十年都在軟件領(lǐng)域工作，通過觀察軟件演進(jìn)的過程，他發(fā)現(xiàn)每一次計(jì)算機(jī)的能量產(chǎn)生大提升之后，軟件都變得更復(fù)雜，但用戶體驗(yàn)會更容易。他認(rèn)為，今天我們進(jìn)入到智能機(jī)器階段后，會繼續(xù)看到這個(gè)趨勢，并且隨著用量變大，技術(shù)成本進(jìn)一步下降，能力變強(qiáng)。造模型肯定會越來越昂貴，但是獲得它的服務(wù)會越來越便宜。

訓(xùn)練模型所需的治理和能源成本都很大，但一旦模型訓(xùn)練好之后，把模型封裝成大家能使用的設(shè)備，這是比較容易的。全球企業(yè)都會進(jìn)一步推動這些技術(shù)的進(jìn)步和推廣普及，無論是為了教育還是商業(yè)的目的，每個(gè)人都將能夠獲得這個(gè)技術(shù)的使用，沒有理由不是這樣的。

▲克雷格?蒙迪（CraigMundie）

3、美國加州大學(xué)伯克利分校教授羅素：AGI競速毫無意義，有效監(jiān)管減低AI失控率

在人類如何應(yīng)對AI鴻溝和AI失控的問題上，斯圖爾特?羅素尖銳地提出，當(dāng)前AI公司及各國、各地區(qū)間正陷入一場競賽——比拼誰能率先研發(fā)出AGI（通用人工智能），但在他看來，這種競賽毫無意義。

他認(rèn)為，AGI的實(shí)現(xiàn)需要依托無限的財(cái)富創(chuàng)造能力，而AI理應(yīng)成為全球共享的公共資源。唯有如此，競賽帶來的緊張感才能消散，因?yàn)檫@類競賽必然會催生極端性風(fēng)險(xiǎn)。

此外，斯圖爾特?羅素還談及有效監(jiān)管的重要性。在他看來，有效監(jiān)管的核心在于確保合規(guī)性，同時(shí)將風(fēng)險(xiǎn)控制在足夠低的水平。但目前，有效的監(jiān)管機(jī)制尚未建立起來。正如辛頓教授所警示的，AGI存在失控并掌控人類的可能性。而通過有效監(jiān)管，能夠?qū)ζ涫Э馗怕蔬M(jìn)行預(yù)測與計(jì)算，經(jīng)過長期的累計(jì)觀察，得出客觀的風(fēng)險(xiǎn)概率，從而讓AGI變得更加安全。

▲斯圖爾特?羅素

4、上海AI實(shí)驗(yàn)室主任周伯文：AI發(fā)展與安全同等重要，必須建立全球治理體系

周伯文從技術(shù)、應(yīng)用以及治理三方面討論了跨國數(shù)字合作相關(guān)問題。

周伯文認(rèn)為，AI的發(fā)展與安全同等重要。去年同期，他的團(tuán)隊(duì)提出了AI45°平衡率的概念，其核心是要探索發(fā)展與安全并行的技術(shù)研究路徑。在這一框架下，其與全球研究者達(dá)成共識：要真正實(shí)現(xiàn)安全，就必須開展“MakeSafeAI”相關(guān)工作。

在應(yīng)用層面，去年，上海借助以上海人工智能實(shí)驗(yàn)室公共氣象模型等AI技術(shù)，比物理模型提前3天預(yù)測到臺風(fēng)登陸，且將登陸點(diǎn)誤差縮小至10公里。這一成果受到許多南方國家的關(guān)注，目前，在國家氣候特使辦公室和國家氣象局的指導(dǎo)下，周伯文正推動與這些南方國家的對接工作。

最后，他提到，去年，中國首創(chuàng)的全球人工智能合作治理協(xié)議在聯(lián)合國大會上表決通過，這體現(xiàn)了中國在人工智能治理領(lǐng)域的全球引領(lǐng)作用。

▲周伯文

結(jié)語：AGI走到關(guān)鍵路口，大模型要發(fā)展也要安全

從發(fā)布“養(yǎng)虎為患”警告的辛頓，到提出“護(hù)欄先行”的施密特，再到對AI鴻溝深感憂慮的姚期智，這場多國、多學(xué)科交匯的思想碰撞，呈現(xiàn)出AI發(fā)展與治理問題的多面。

一個(gè)共識正在浮現(xiàn)：技術(shù)已無法獨(dú)善其身。大模型能力突破與開源擴(kuò)散同步，意味著AI的力量已從科研走向國家戰(zhàn)略層面。未來數(shù)年，全球?qū)⒉坏貌幻鎸θ筇魬?zhàn)：一是如何避免AI落入少數(shù)掌控、加劇數(shù)字不平等；二是如何在創(chuàng)新與安全之間建立動態(tài)平衡；三是如何構(gòu)建跨文化、跨制度的全球AI治理機(jī)制。

不只是“技術(shù)的護(hù)欄”，也不只是“國家的對話”。正如沈向洋所說：“AI不是一個(gè)國家能獨(dú)自解決的事?！备鲊g的技術(shù)合作、價(jià)值對話與制度共建，將共同決定AI是否能真正服務(wù)于全人類的未來。