7月26日，2025世界人工智能大會(huì)（WAIC）正式開幕。圖靈獎(jiǎng)得主、諾獎(jiǎng)得主、“AI教父”杰弗里·辛頓（GeoffreyHinton）發(fā)表主題演講再談AI（人工智能）安全。

杰弗里·辛頓（GeoffreyHinton）

辛頓表示，人類理解語(yǔ)言的方式實(shí)際上很像大語(yǔ)言模型，因此人類實(shí)際上很像大語(yǔ)言模型，也會(huì)產(chǎn)生幻覺，經(jīng)常編造東西，特別是當(dāng)他們?cè)噲D回憶很久以前發(fā)生的事情時(shí)。但他也指出，大語(yǔ)言模型與人類非常不同且優(yōu)于人類的是，計(jì)算機(jī)科學(xué)的一個(gè)基本原則是，該將軟件與硬件分開，正是這一點(diǎn)讓人們可以在不同的硬件上運(yùn)行相同的程序，它使得計(jì)算機(jī)科學(xué)能夠成為一個(gè)獨(dú)立于電氣工程的領(lǐng)域，如果你做到了這一點(diǎn)，那么程序中包含的知識(shí)就是“不朽的”。

辛頓進(jìn)一步解釋稱：“如果你能把程序保存在某處，或者能把神經(jīng)網(wǎng)絡(luò)的權(quán)重存儲(chǔ)在某個(gè)地方，那么你現(xiàn)在就可以銷毀運(yùn)行神經(jīng)網(wǎng)絡(luò)的所有硬件。只要你有權(quán)重存儲(chǔ)在某個(gè)地方，你現(xiàn)在就可以建造新的硬件，并且因?yàn)橛?jì)算是數(shù)字化的，你可以在這些新硬件上運(yùn)行完全相同的計(jì)算。所以在這個(gè)意義上，數(shù)字計(jì)算機(jī)的程序是‘不朽的’?！?/p>

辛頓同時(shí)指出，數(shù)字計(jì)算需要大量能量，但它使得擁有完全相同權(quán)重的智能體（Agent）能夠非常容易地共享它們從不同經(jīng)驗(yàn)中學(xué)到的東西，生物計(jì)算需要的能量要少得多，但共享學(xué)到的東西卻很困難。如果能源很便宜，數(shù)字計(jì)算就會(huì)好得多。

“這讓我非常擔(dān)憂，因?yàn)閹缀跛械膶＜叶枷嘈盼覀儗⒅圃斐霰任覀兏斆鞯腁I。我們?nèi)绱肆?xí)慣于作為頂尖智能，以至于很多人難以想象一個(gè)AI比我們更聰明的世界會(huì)是什么樣子……”辛頓表示，想知道非頂級(jí)智能體的感受？不妨問(wèn)問(wèn)雞的生存體驗(yàn)。

辛頓認(rèn)為，我們正在創(chuàng)造AI智能體是因?yàn)樗鼈兏瞄L(zhǎng)完成任務(wù)，這些AI智能體已經(jīng)具備創(chuàng)造自己子目標(biāo)的能力。而一旦擁有創(chuàng)造子目標(biāo)的能力，智能體就會(huì)想做兩件事：一是生存，僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)；二是更多的控制權(quán)，也僅僅是為了能夠?qū)崿F(xiàn)我們賦予它們的目標(biāo)。因此，人類將會(huì)擁有想要生存和想要更多控制權(quán)的智能體，“而且我們將無(wú)法簡(jiǎn)單地關(guān)閉它們，它們會(huì)發(fā)現(xiàn)操縱使用它們的人非常容易，我們將像三歲小孩，而它們將像成年人，所以我認(rèn)為那種當(dāng)它們比我們更聰明時(shí)，我們就能讓某人把它們關(guān)掉的想法是不切實(shí)際的，它們將能夠操縱我們，并說(shuō)服那個(gè)應(yīng)該關(guān)掉它們的人不要那么做”。

辛頓將人類目前的處境比作養(yǎng)小老虎當(dāng)寵物，小老虎非?？蓯?，能成為很好的寵物，但需要確保當(dāng)它長(zhǎng)大后它不想吃了你?！耙话銇?lái)說(shuō)，養(yǎng)小老虎當(dāng)寵物是個(gè)壞主意，有兩個(gè)選擇：想辦法訓(xùn)練它讓它永遠(yuǎn)不想吃了你，或者擺脫它。”辛頓表示，對(duì)于AI，我們沒有擺脫它的選項(xiàng)，AI對(duì)醫(yī)療保健、教育、氣候變化、新材料等太多事情都非常有用，能為幾乎所有行業(yè)提供幫助并使人類更具生產(chǎn)力。

辛頓表示，如果人類想要生存，必須找到辦法訓(xùn)練AI，不要讓AI消滅人類。

辛頓指出，目前沒有一個(gè)國(guó)家希望AI接管，每個(gè)國(guó)家都希望人類繼續(xù)保持掌控權(quán)，如果任何一個(gè)國(guó)家找到了防止AI接管的方法，他們會(huì)非常樂意告訴所有其他國(guó)家。因此，他建議建立一個(gè)由AI安全研究所和協(xié)會(huì)組成的國(guó)際共同體，致力于研發(fā)訓(xùn)練AI向善的技術(shù)，實(shí)現(xiàn)訓(xùn)練AI向善所需的技術(shù)與訓(xùn)練AI變得更聰明的技術(shù)，在某種程度上是分離的，讓一個(gè)真正聰明的AI不想接管世界，即使它比大多數(shù)人聰明得多，也非常樂意處于人類的輔助角色。

“我們目前根本不知道如何做到這一點(diǎn)，長(zhǎng)遠(yuǎn)來(lái)看，這是人類面臨的最重要的問(wèn)題。好消息是，這是一個(gè)所有國(guó)家都應(yīng)該能夠合作解決的問(wèn)題?！毙令D最后如是說(shuō)到。

本次世界人工智能大會(huì)以“智能時(shí)代同球共濟(jì)”為主題，共規(guī)劃了超100場(chǎng)專業(yè)論壇，匯聚1200余位全球?qū)＜遥?2位圖靈獎(jiǎng)、諾獎(jiǎng)得主，大會(huì)將持續(xù)至7月28日。