弗洛洛說(shuō)敢發(fā)這個(gè)視頻就找人弄死我
這次基孔肯雅熱會(huì)發(fā)展成為全國(guó)疫情嗎？
當(dāng)宇宙會(huì)真空衰變，文明如何發(fā)展？
暑假帶孩子去圖書(shū)館，他總坐不住到處跑，提醒沒(méi)用，大聲制止又怕影響別人，該怎么引導(dǎo)孩子遵守公共秩序？
智東西作者李水青王涵江宇編輯漠影
智東西7月26日?qǐng)?bào)道，今天上午，2025世界人工智能大會(huì)（WAIC）在上海開(kāi)幕！作為國(guó)內(nèi)最高規(guī)格的AI領(lǐng)域行業(yè)大會(huì)之一，WAIC2025開(kāi)幕主論壇大腕云集！
77歲的杰弗里?辛頓（GeoffreyEverestHinton）頂著腰疾、不遠(yuǎn)萬(wàn)里來(lái)到現(xiàn)場(chǎng)，他是全球矚目的“深度學(xué)習(xí)三巨頭”之一，也是2024年諾貝爾獎(jiǎng)得主、2018年圖靈獎(jiǎng)得主、加拿大多倫多大學(xué)計(jì)算機(jī)科學(xué)名譽(yù)教授，本次結(jié)合其半個(gè)世紀(jì)的研究，講解了關(guān)于超級(jí)智能及數(shù)字永生的思考。
▲杰弗里?辛頓
辛頓認(rèn)為，大語(yǔ)言模型的理解語(yǔ)言的方式幾乎和人類(lèi)一樣，人類(lèi)可能就是大語(yǔ)言模型。他還擔(dān)憂(yōu)地發(fā)出警告，未來(lái)超級(jí)智能將很容易操縱人類(lèi)，人類(lèi)要避免“養(yǎng)虎為患”，因此要像幾十年前美蘇聯(lián)合預(yù)防核戰(zhàn)爭(zhēng)一樣，建立國(guó)際社群來(lái)預(yù)防AI操縱世界，推動(dòng)AI向善。
香港科技大學(xué)校董會(huì)主席沈向洋作為主持人，與RelativitySpace執(zhí)行董事長(zhǎng)兼CEO埃里克·施密特（EricEmersonSchmidt）圍繞“全球AI協(xié)作”在會(huì)上進(jìn)行了對(duì)談。施密特指出，AI發(fā)展正進(jìn)入臨界點(diǎn)，將是社會(huì)結(jié)構(gòu)的重構(gòu)力量，跨國(guó)合作要先談“AI護(hù)欄”再談合作共贏。
▲沈向洋與埃里克·施密特對(duì)話(huà)
圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士、上海期智研究院院長(zhǎng)姚期智也作為主持人，與上海人工智能實(shí)驗(yàn)室主任、首席科學(xué)家周伯文，美國(guó)加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)杰出教授斯圖爾特?羅素（StuartRussell）、美國(guó)約翰霍普金斯大學(xué)教授吉莉安?哈德菲爾德（GillianHadfield）、蒙迪與合伙人公司總裁克雷格?蒙迪（CraigMundie）進(jìn)行了對(duì)談。
姚期智圍繞“AI治理”、“AI鴻溝”等話(huà)題提出了多個(gè)關(guān)鍵問(wèn)題。吉莉安?哈德菲爾德教授認(rèn)為“天下沒(méi)有免費(fèi)的午餐”，并指出要通過(guò)貿(mào)易結(jié)構(gòu)變革以及具體的技術(shù)交易設(shè)計(jì)，來(lái)抹平AI鴻溝；有多年企業(yè)管理經(jīng)驗(yàn)的克雷格?蒙迪認(rèn)為，隨著用量變大，就像移動(dòng)通信與手機(jī)技術(shù)一樣，大模型的使用價(jià)格將變得足夠低，使得更多產(chǎn)業(yè)和企業(yè)受益。
▲姚期智主持圓桌論壇
本次大會(huì)上，MiniMax創(chuàng)始人閆俊杰，商湯科技董事長(zhǎng)、首席執(zhí)行官徐立，上海交通大學(xué)副教授、無(wú)問(wèn)芯穹聯(lián)合創(chuàng)始人戴國(guó)浩，曦智科技創(chuàng)始人、首席執(zhí)行官沈亦晨，階躍星辰首席科學(xué)家張祥雨等多位大模型及AI芯片領(lǐng)域的創(chuàng)業(yè)者也出席，在上午場(chǎng)和下午場(chǎng)發(fā)表演講，作為國(guó)產(chǎn)AI創(chuàng)業(yè)力量在這場(chǎng)科技盛會(huì)上發(fā)聲。
一、77歲辛頓遠(yuǎn)赴重洋：人類(lèi)可能是大語(yǔ)言模型，警惕“養(yǎng)虎為患”
本屆WAIC不僅邀請(qǐng)了辛頓帶來(lái)全球視角的AI風(fēng)險(xiǎn)思考，也為本土大模型獨(dú)角獸預(yù)留了充分的展示空間。緊隨辛頓后登臺(tái)的，是MiniMax創(chuàng)始人兼首席執(zhí)行官閆俊杰，與辛頓一前一后，分別從全球治理與產(chǎn)業(yè)實(shí)踐角度，回應(yīng)了關(guān)于AGI未來(lái)的不同設(shè)想。
1、諾獎(jiǎng)得主辛頓：做AI是養(yǎng)虎為患，要確保訓(xùn)練AI不要消滅人類(lèi)
辛頓談道，大語(yǔ)言模型理解語(yǔ)言的方式和人類(lèi)幾乎是一樣，它真的理解人類(lèi)的問(wèn)題。所以，人類(lèi)可能就是大語(yǔ)言模型，也會(huì)和大語(yǔ)言模型一樣產(chǎn)生幻覺(jué)。但大語(yǔ)言模型是數(shù)字化的，遠(yuǎn)遠(yuǎn)優(yōu)于類(lèi)似于模擬信號(hào)驅(qū)動(dòng)的人類(lèi)大腦。
大語(yǔ)言模型所需的數(shù)字計(jì)算雖然耗能巨大，但多個(gè)智能體要擁有相同的模型就能輕松交換各自學(xué)到的知識(shí)。生物計(jì)算所需能量要少得多，但在智能體之間共享知識(shí)方面差得多。辛頓提出一個(gè)關(guān)鍵問(wèn)題：如果能源變得廉價(jià)，數(shù)字計(jì)算整體上更占優(yōu)勢(shì)。這對(duì)人類(lèi)的未來(lái)意味著什么？
他談道，超級(jí)智能要掌控世界，會(huì)設(shè)立更好地生存和更強(qiáng)的權(quán)力操控兩大目標(biāo)。超級(jí)智能將很容易操縱人類(lèi)，從人類(lèi)學(xué)的欺騙技能，并操縱負(fù)責(zé)將它關(guān)閉的人類(lèi)。“我們現(xiàn)在就像養(yǎng)虎為患，小虎崽長(zhǎng)大后可以輕易殺死人類(lèi)，這不是好事。”辛頓說(shuō)。
“因此，我們需要確保訓(xùn)練AI不要消滅人類(lèi)?！本拖駧资昵懊绹?guó)和蘇聯(lián)曾合作預(yù)防核戰(zhàn)爭(zhēng)一樣，辛頓呼吁各個(gè)國(guó)家合作，建立一個(gè)由各國(guó)AI安全研究所與國(guó)內(nèi)研究網(wǎng)絡(luò)組成的國(guó)際社群，預(yù)防AI操縱世界，推動(dòng)AI向善。
▲杰弗里?辛頓（GeoffreyEverestHinton）
2、MiniMax創(chuàng)始人、首席執(zhí)行官閆俊杰：企業(yè)用戶(hù)協(xié)同，共同實(shí)現(xiàn)AGI
閆俊杰認(rèn)為，AI不僅是一種能力、一種生產(chǎn)力，更是對(duì)個(gè)人與社會(huì)能力的持續(xù)性增強(qiáng)。
在他看來(lái)，未來(lái)的AI產(chǎn)業(yè)必然會(huì)呈現(xiàn)多玩家共存的格局，核心原因有三：首先，大模型領(lǐng)域呈現(xiàn)百花齊放態(tài)勢(shì)，不同模型因側(cè)重點(diǎn)各異，所能解決的問(wèn)題也各有千秋；其次，多Agent系統(tǒng)的興起，使得單個(gè)模型的優(yōu)勢(shì)在協(xié)同場(chǎng)景中不再突出；最后，開(kāi)源模型數(shù)量持續(xù)增加，其性能也在不斷逼近閉源模型。
基于此，AI的普惠性將進(jìn)一步提升，原因同樣有3個(gè)：模型規(guī)模的增長(zhǎng)與芯片技術(shù)的進(jìn)步保持同步，不會(huì)出現(xiàn)失衡；由于單次訓(xùn)練的單詞成本相對(duì)固定，不同算力規(guī)模的企業(yè)在訓(xùn)練環(huán)節(jié)的差距并不大，且未來(lái)一兩年內(nèi)，頂尖模型的推理成本有望降低1-2個(gè)數(shù)量級(jí)；盡管token單價(jià)下降，但使用量的增長(zhǎng)將形成新的平衡。
因此，閆俊杰堅(jiān)信AGI（通用人工智能）必然會(huì)實(shí)現(xiàn)，且這一目標(biāo)需要AI企業(yè)與用戶(hù)共同推動(dòng)。他強(qiáng)調(diào)，AI至少要讓每個(gè)人都用得起，并表態(tài)愿意為這一目標(biāo)長(zhǎng)期奮斗。
▲閆俊杰
二、沈向洋對(duì)話(huà)埃里克·施密特：中美要先談“AI護(hù)欄”，再談合作共贏
在與RelativitySpace執(zhí)行董事長(zhǎng)兼CEO埃里克·施密特的爐邊對(duì)話(huà)中，香港科技大學(xué)校董會(huì)主席沈向洋圍繞“全球AI協(xié)作”發(fā)起提問(wèn)，強(qiáng)調(diào)AI不是某個(gè)國(guó)家或機(jī)構(gòu)可以獨(dú)自應(yīng)對(duì)的挑戰(zhàn)，尤其是中美之間需建立更深層次的信任機(jī)制。
▲沈向洋
施密特回應(yīng)指出，AI發(fā)展正進(jìn)入臨界點(diǎn)，不僅是技術(shù)突破，更是社會(huì)結(jié)構(gòu)的重構(gòu)力量，尤其在AI模型能力愈發(fā)強(qiáng)大、泛化風(fēng)險(xiǎn)劇增的當(dāng)下，治理體系亟待建立。
他特別提及當(dāng)前開(kāi)源技術(shù)的利與弊：“開(kāi)源帶來(lái)了驚人的創(chuàng)新效率，但也加劇了擴(kuò)散風(fēng)險(xiǎn)?！彼赋?，這種技術(shù)釋放與能力控制之間的矛盾，已成為全球AI治理的核心張力，必須找到新的平衡機(jī)制。
施密特進(jìn)一步引用其與基辛格共同撰寫(xiě)的著作《Genesis》，強(qiáng)調(diào)國(guó)際合作需要價(jià)值共識(shí)作為前提。他表示：“我們必須先進(jìn)行對(duì)話(huà)，理解彼此的價(jià)值觀，才有可能建立起防止誤判的機(jī)制?！彼啻螐?qiáng)調(diào)“設(shè)定護(hù)欄”的必要性，認(rèn)為“如何定義底線(xiàn)、誰(shuí)來(lái)設(shè)定規(guī)則”是未來(lái)AI安全的根本問(wèn)題。他警告稱(chēng)，若無(wú)明確共識(shí)，AI發(fā)展可能偏離人類(lèi)文明方向，帶來(lái)結(jié)構(gòu)性沖擊。
“讓AI服務(wù)于所有人的生產(chǎn)力，而不是威脅社會(huì)穩(wěn)定。”施密特總結(jié)道。對(duì)談最后，他與沈向洋達(dá)成共識(shí)——中美之間的AI對(duì)話(huà)，必須從“先理解、再合作”出發(fā)，才能真正把技術(shù)發(fā)展引入可控、可信的軌道。
▲埃里克·施密特（EricEmersonSchmidt）
三、姚期智AI治理圓桌：貿(mào)易結(jié)構(gòu)變革破解AI鴻溝，量產(chǎn)帶來(lái)AI服務(wù)普惠
姚期智（圖靈獎(jiǎng)得主、中國(guó)科學(xué)院院士、上海期智研究院院長(zhǎng)）與吉莉安·哈德菲爾德（約翰霍普金斯大學(xué)教授）、克雷格·蒙迪（蒙迪與合伙人公司總裁）、斯圖爾特·羅素（加州大學(xué)伯克利分校教授）和周伯文（上海人工智能實(shí)驗(yàn)室主任）四人進(jìn)行了對(duì)話(huà)，探討了AI與AI治理這一重要議題。
他首先從“AI鴻溝”議題切入，拋出一個(gè)問(wèn)題：AI技術(shù)在快速的發(fā)展，但是更多是聚集在少數(shù)國(guó)家或公司，我們要怎么樣預(yù)防AI鴻溝，讓所有國(guó)家受益于這一場(chǎng)AI革命？
▲姚期智
1、約翰霍普金斯大學(xué)教授吉莉安：Transformer推動(dòng)貿(mào)易結(jié)構(gòu)變革，緩解AI鴻溝
吉莉安?哈德菲爾德認(rèn)為，這涉及我們創(chuàng)造了AGI后怎么來(lái)分配資源的問(wèn)題。她認(rèn)為，Transformer這樣變革性技術(shù)，會(huì)需要真正的經(jīng)濟(jì)法律基礎(chǔ)設(shè)施的變革，比如貿(mào)易結(jié)構(gòu)的變革。今天聽(tīng)到很多人講到了開(kāi)源以及開(kāi)放權(quán)重，這也是很重要的一方面，也就是確保全球各國(guó)能夠從AI革命當(dāng)中受益。
作為一個(gè)經(jīng)濟(jì)學(xué)學(xué)者，吉莉安認(rèn)為“天下沒(méi)有免費(fèi)的午餐”。我們不可能憑空就生成大模型這樣的技術(shù)，所以必須要認(rèn)真思考，怎么樣設(shè)計(jì)好這種交易，思考到底模型歸誰(shuí)所有，誰(shuí)能夠接入模型并使用，讓不同國(guó)家能夠產(chǎn)生模型。另外我們還需要確保這些科技是安全的，然后才能夠把它們拿來(lái)大范圍使用。
▲吉莉安?哈德菲爾德（GillianHadfield）
2、蒙迪與合伙人公司總裁蒙迪：模型訓(xùn)練會(huì)更昂貴，服務(wù)會(huì)越來(lái)越便宜
AI鴻溝也不僅是國(guó)家間的競(jìng)爭(zhēng)的問(wèn)題，它有可能會(huì)存在于一個(gè)國(guó)家內(nèi)部的不同產(chǎn)業(yè)、企業(yè)以及人群。
克雷格?蒙迪過(guò)去幾十年都在軟件領(lǐng)域工作，通過(guò)觀察軟件演進(jìn)的過(guò)程，他發(fā)現(xiàn)每一次計(jì)算機(jī)的能量產(chǎn)生大提升之后，軟件都變得更復(fù)雜，但用戶(hù)體驗(yàn)會(huì)更容易。他認(rèn)為，今天我們進(jìn)入到智能機(jī)器階段后，會(huì)繼續(xù)看到這個(gè)趨勢(shì)，并且隨著用量變大，技術(shù)成本進(jìn)一步下降，能力變強(qiáng)。造模型肯定會(huì)越來(lái)越昂貴，但是獲得它的服務(wù)會(huì)越來(lái)越便宜。
訓(xùn)練模型所需的治理和能源成本都很大，但一旦模型訓(xùn)練好之后，把模型封裝成大家能使用的設(shè)備，這是比較容易的。全球企業(yè)都會(huì)進(jìn)一步推動(dòng)這些技術(shù)的進(jìn)步和推廣普及，無(wú)論是為了教育還是商業(yè)的目的，每個(gè)人都將能夠獲得這個(gè)技術(shù)的使用，沒(méi)有理由不是這樣的。
▲克雷格?蒙迪（CraigMundie）
3、美國(guó)加州大學(xué)伯克利分校教授羅素：AGI競(jìng)速毫無(wú)意義，有效監(jiān)管減低AI失控率
在人類(lèi)如何應(yīng)對(duì)AI鴻溝和AI失控的問(wèn)題上，斯圖爾特?羅素尖銳地提出，當(dāng)前AI公司及各國(guó)、各地區(qū)間正陷入一場(chǎng)競(jìng)賽——比拼誰(shuí)能率先研發(fā)出AGI（通用人工智能），但在他看來(lái)，這種競(jìng)賽毫無(wú)意義。
他認(rèn)為，AGI的實(shí)現(xiàn)需要依托無(wú)限的財(cái)富創(chuàng)造能力，而AI理應(yīng)成為全球共享的公共資源。唯有如此，競(jìng)賽帶來(lái)的緊張感才能消散，因?yàn)檫@類(lèi)競(jìng)賽必然會(huì)催生極端性風(fēng)險(xiǎn)。
此外，斯圖爾特?羅素還談及有效監(jiān)管的重要性。在他看來(lái)，有效監(jiān)管的核心在于確保合規(guī)性，同時(shí)將風(fēng)險(xiǎn)控制在足夠低的水平。但目前，有效的監(jiān)管機(jī)制尚未建立起來(lái)。正如辛頓教授所警示的，AGI存在失控并掌控人類(lèi)的可能性。而通過(guò)有效監(jiān)管，能夠?qū)ζ涫Э馗怕蔬M(jìn)行預(yù)測(cè)與計(jì)算，經(jīng)過(guò)長(zhǎng)期的累計(jì)觀察，得出客觀的風(fēng)險(xiǎn)概率，從而讓AGI變得更加安全。
▲斯圖爾特?羅素
4、上海AI實(shí)驗(yàn)室主任周伯文：AI發(fā)展與安全同等重要，必須建立全球治理體系
周伯文從技術(shù)、應(yīng)用以及治理三方面討論了跨國(guó)數(shù)字合作相關(guān)問(wèn)題。
周伯文認(rèn)為，AI的發(fā)展與安全同等重要。去年同期，他的團(tuán)隊(duì)提出了AI45°平衡率的概念，其核心是要探索發(fā)展與安全并行的技術(shù)研究路徑。在這一框架下，其與全球研究者達(dá)成共識(shí)：要真正實(shí)現(xiàn)安全，就必須開(kāi)展“MakeSafeAI”相關(guān)工作。
在應(yīng)用層面，去年，上海借助以上海人工智能實(shí)驗(yàn)室公共氣象模型等AI技術(shù)，比物理模型提前3天預(yù)測(cè)到臺(tái)風(fēng)登陸，且將登陸點(diǎn)誤差縮小至10公里。這一成果受到許多南方國(guó)家的關(guān)注，目前，在國(guó)家氣候特使辦公室和國(guó)家氣象局的指導(dǎo)下，周伯文正推動(dòng)與這些南方國(guó)家的對(duì)接工作。
最后，他提到，去年，中國(guó)首創(chuàng)的全球人工智能合作治理協(xié)議在聯(lián)合國(guó)大會(huì)上表決通過(guò)，這體現(xiàn)了中國(guó)在人工智能治理領(lǐng)域的全球引領(lǐng)作用。
▲周伯文
結(jié)語(yǔ)：AGI走到關(guān)鍵路口，大模型要發(fā)展也要安全
從發(fā)布“養(yǎng)虎為患”警告的辛頓，到提出“護(hù)欄先行”的施密特，再到對(duì)AI鴻溝深感憂(yōu)慮的姚期智，這場(chǎng)多國(guó)、多學(xué)科交匯的思想碰撞，呈現(xiàn)出AI發(fā)展與治理問(wèn)題的多面。
一個(gè)共識(shí)正在浮現(xiàn)：技術(shù)已無(wú)法獨(dú)善其身。大模型能力突破與開(kāi)源擴(kuò)散同步，意味著AI的力量已從科研走向國(guó)家戰(zhàn)略層面。未來(lái)數(shù)年，全球?qū)⒉坏貌幻鎸?duì)三大挑戰(zhàn)：一是如何避免AI落入少數(shù)掌控、加劇數(shù)字不平等；二是如何在創(chuàng)新與安全之間建立動(dòng)態(tài)平衡；三是如何構(gòu)建跨文化、跨制度的全球AI治理機(jī)制。
不只是“技術(shù)的護(hù)欄”，也不只是“國(guó)家的對(duì)話(huà)”。正如沈向洋所說(shuō)：“AI不是一個(gè)國(guó)家能獨(dú)自解決的事?！备鲊?guó)之間的技術(shù)合作、價(jià)值對(duì)話(huà)與制度共建，將共同決定AI是否能真正服務(wù)于全人類(lèi)的未來(lái)。
神墓第一季大結(jié)局,魔改太過(guò)嚴(yán)重直接崩盤(pán),能換制作方就換吧
國(guó)漫界唯一讓女配上位成女主的動(dòng)漫,以后都未必再有這樣的動(dòng)漫
2022年某酷動(dòng)漫作品公布,《神墓》六部大作,玄機(jī)科技再接新作
